Алгоритмический, эпистемический и ИИ-патернализм: кто решает, что вам знать
Рекомендательные системы формируют доступ к знанию, оптимизируя вовлечённость вместо благополучия, а ИИ всё чаще сам решает, когда подтолкнуть или ограничить пользователя.
Самый незаметный современный патернализм управляет не действиями, а самим доступом к знанию.
Рекомендатель как архитектор выбора
Рекомендательные алгоритмы выступают архитекторами выбора в масштабе: они определяют, какая информация вообще доступна пользователю, какие источники ранжируются выше и какие сигналы считаются достоверными (Communication Theory).
Эпистемический патернализм
Эпистемический патернализм — это вмешательство в доступ к информации «ради блага» субъекта без его согласия. В цифровой среде оно становится алгоритмическим и почти невидимым: человек не выбирает фильтр, фильтр выбирает за него.
Вовлечённость против благополучия
Ключевой конфликт — в метрике. Оптимизация под вовлечённость (engagement) может расходиться с благополучием пользователя: то, что удерживает внимание, не всегда полезно тому, чьё внимание удерживают (AlgEpi).
Эпистемическое благополучие
В ответ предложена нормативная рамка эпистемического благополучия — создание и поддержание условий и способностей для эпистемической агентности человека в цифровой публичной сфере (Communication Theory). Даже «продиверсифицирующие» рекомендатели, подталкивающие к разнообразию, воспроизводят патерналистскую логику просвещения.
Алгоритмический патернализм
С распространением ИИ появляется и «алгоритмический патернализм»: агентная видимость и приписываемый авторитет систем могут подрывать автономию человека в принятии решений (Frontiers in AI). Чем «умнее» кажется система, тем охотнее человек уступает ей решение.
Когда ИИ решает «подтолкнуть»
Приложения для здоровья, обучения и рекомендаций всё чаще сами решают, когда подтолкнуть, ограничить или усилить внимание пользователя. Если система оптимизирует вовлечение, а не благополучие, граница между заботой и эксплуатацией размывается. Отсюда требования, знакомые по всему сайту: прозрачность цели, возможность отказа без санкции и уважение к долгосрочным интересам человека.
Выдержки и даты
- 01к разделу «Эпистемическое благополучие»
Эпистемическое благополучие как рамка
«Epistemic welfare [is defined] as creating and maintaining the conditions and capabilities for individuals’ epistemic agency in the public sphere.»
Перевод: эпистемическое благополучие определяется как создание и поддержание условий и способностей для эпистемической агентности людей в публичной сфере.