数字世界中的家长主义
从关怀式界面到黑暗模式:数字系统如何引导选择,以及是什么将合乎伦理的影响与操纵区分开来。
为什么互联网让家长主义变得日常
数字环境极大地增加了微干预的密度。按钮的顺序、通知的类型、同意的措辞、内容推荐以及使用时长限制,都已成为管理行为的常态形式。
在欧盟,关于操纵性模式的讨论与诸如《数字服务法》这样的监管一揽子方案相交叉;参考书目中还收录了关于黑暗模式的学术综述(普林斯顿等)。
合乎伦理的培力与助推
并非所有数字影响都必然是操纵性的。合乎伦理的数字助推帮助人注意到风险、在冲动行动前慢下来,或更好地理解选择的后果。例子包括清晰的隐私通知、关于作息的温和提醒、应用内的时间管理,或支持深思熟虑决定、而非利用弱点的设计。
黑暗模式
黑暗模式运用同样的行为知识,但服务于平台而非用户的利益。预先勾选的同意、令人困惑的退订界面、隐藏的条款以及不对称的「全部接受」按钮,使选择在形式上自由、实际上却被导向。从伦理角度看,这已不是为用户福祉而设的家长主义,而是行为剥削。
认知家长主义
推荐系统的算法不仅影响行动,也影响获取知识本身。当平台决定展示哪些话题、把哪些来源排得更高、把哪些信号视为可信时,就出现了认知家长主义:对用户如何接触信息的控制。
AI 家长主义
基于人工智能的系统带来了特别的复杂性。健康类应用、学习平台和推荐算法越来越多地决定何时助推、限制或强化用户的注意力。如果这类系统优化的是参与度而非福祉,关怀与剥削之间的界限就会迅速模糊。
实用判据
好的数字家长主义可以通过若干标志与坏的区分开来:目的的透明、无惩罚的退出可能性、界面的易懂性、不存在对平台的隐性好处,以及对用户长期利益的尊重。
以下是欧盟条例中关于数字环境同意和禁止「黑暗模式」的摘录。
文章与解析
摘录与日期
- 01к разделу «Этичные boosts и nudges»
Согласие в цифровой среде (GDPR)
«Consent should be given by a clear affirmative act establishing a freely given, specific, informed and unambiguous indication of the data subject’s agreement [...]»
Перевод: согласие должно выражаться ясным утвердительным действием, свидетельствующим о добровольном, конкретном, осознанном и недвусмысленном согласии субъекта данных […]
- 02к разделу «Dark patterns»
Запрет манипулятивных практик (DSA)
«This Regulation [...] aims to contribute to the proper functioning of the internal market by establishing an accountability framework for online platforms and by ensuring a safe, predictable and trusted online environment that facilitates innovation and in which fundamental rights [...] are protected effectively.»
Перевод (обобщённо): регламент задаёт рамки ответственности онлайн-платформ и безопасную среду, в которой эффективно защищаются основные права […]