К основному содержанию
Paternus
Интернет

数字世界中的家长主义

从关怀式界面到黑暗模式:数字系统如何引导选择,以及是什么将合乎伦理的影响与操纵区分开来。

为什么互联网让家长主义变得日常

数字环境极大地增加了微干预的密度。按钮的顺序、通知的类型、同意的措辞、内容推荐以及使用时长限制,都已成为管理行为的常态形式。

在欧盟,关于操纵性模式的讨论与诸如《数字服务法》这样的监管一揽子方案相交叉;参考书目中还收录了关于黑暗模式的学术综述(普林斯顿等)。

合乎伦理的培力与助推

并非所有数字影响都必然是操纵性的。合乎伦理的数字助推帮助人注意到风险、在冲动行动前慢下来,或更好地理解选择的后果。例子包括清晰的隐私通知、关于作息的温和提醒、应用内的时间管理,或支持深思熟虑决定、而非利用弱点的设计。

黑暗模式

黑暗模式运用同样的行为知识,但服务于平台而非用户的利益。预先勾选的同意、令人困惑的退订界面、隐藏的条款以及不对称的「全部接受」按钮,使选择在形式上自由、实际上却被导向。从伦理角度看,这已不是为用户福祉而设的家长主义,而是行为剥削。

认知家长主义

推荐系统的算法不仅影响行动,也影响获取知识本身。当平台决定展示哪些话题、把哪些来源排得更高、把哪些信号视为可信时,就出现了认知家长主义:对用户如何接触信息的控制。

AI 家长主义

基于人工智能的系统带来了特别的复杂性。健康类应用、学习平台和推荐算法越来越多地决定何时助推、限制或强化用户的注意力。如果这类系统优化的是参与度而非福祉,关怀与剥削之间的界限就会迅速模糊。

实用判据

好的数字家长主义可以通过若干标志与坏的区分开来:目的的透明、无惩罚的退出可能性、界面的易懂性、不存在对平台的隐性好处,以及对用户长期利益的尊重。

以下是欧盟条例中关于数字环境同意和禁止「黑暗模式」的摘录。

栏目资料

文章与解析

全部资料 →
原始文献

摘录与日期

  1. 01к разделу «Этичные boosts и nudges»

    Согласие в цифровой среде (GDPR)

    «Consent should be given by a clear affirmative act establishing a freely given, specific, informed and unambiguous indication of the data subject’s agreement [...]»

    Перевод: согласие должно выражаться ясным утвердительным действием, свидетельствующим о добровольном, конкретном, осознанном и недвусмысленном согласии субъекта данных […]

  2. 02к разделу «Dark patterns»

    Запрет манипулятивных практик (DSA)

    «This Regulation [...] aims to contribute to the proper functioning of the internal market by establishing an accountability framework for online platforms and by ensuring a safe, predictable and trusted online environment that facilitates innovation and in which fundamental rights [...] are protected effectively.»

    Перевод (обобщённо): регламент задаёт рамки ответственности онлайн-платформ и безопасную среду, в которой эффективно защищаются основные права […]