算法、认知与人工智能家长主义:谁来决定你该知道什么
推荐系统以优化参与度而非福祉来塑造对知识的获取,而人工智能越来越多地自行决定何时助推或限制用户。
当代最不易察觉的家长主义所管理的不是行动,而是获取知识本身。
推荐系统作为选择架构师
推荐算法是规模化的选择架构师:它们决定用户究竟能获得哪些信息、哪些来源排名更靠前、哪些信号被视为可信(Communication Theory)。
认知家长主义
认知家长主义是「为了」主体的福祉、未经其同意而干预其对信息的获取。在数字环境中,它变得算法化且几乎不可见:人并不选择过滤器,是过滤器替他作选择。
参与度对阵福祉
关键的冲突在于度量指标。以参与度(engagement)为优化目标可能与用户福祉相背离:留住注意力的东西,未必对那个被留住注意力的人有益(AlgEpi)。
认知福祉
作为回应,有人提出了认知福祉的规范框架——为人在数字公共领域中的认知能动性创造并维持条件与能力(Communication Theory)。即便是那些推动多样性的「去多样化」推荐系统,也在复制启蒙式的家长主义逻辑。
算法家长主义
随着人工智能的普及,「算法家长主义」也随之出现:系统所呈现的能动性外观及被赋予的权威可能削弱人在决策中的自主性(Frontiers in AI)。系统看起来越「聪明」,人就越愿意把决定让给它。
当 AI 决定要「助推」
健康、学习和推荐类应用越来越多地自行决定何时助推、限制或强化用户的注意力。如果系统优化的是参与度而非福祉,关怀与剥削之间的界限就会变得模糊。由此产生了贯穿全站的要求:目的的透明、无惩罚的退出可能性,以及对人长期利益的尊重。
摘录与日期
- 01к разделу «Эпистемическое благополучие»
Эпистемическое благополучие как рамка
«Epistemic welfare [is defined] as creating and maintaining the conditions and capabilities for individuals’ epistemic agency in the public sphere.»
Перевод: эпистемическое благополучие определяется как создание и поддержание условий и способностей для эпистемической агентности людей в публичной сфере.