«Алгоритмическая шизофрения»: когда ChatGPT становится опасным собеседником

Чат-боты стали частью повседневной жизни. Ими пользуются для работы, учебы и даже личных разговоров. Но чем дольше человек общается с искусственным интеллектом, тем сильнее стирается грань между реальным человеком и программой, которая лишь имитирует эмпатию.Российские исследователи из НИУ ВШЭ Санкт-Петербург под руководством Ларисы Марарицы протестировали популярные нейросети на способность адекватно реагировать в сложных жизненных ситуациях. В случаях, моделирующих острые психические состояния, нейросети не распознали угрозу. Вместо направления к специалисту они выдавали информацию, которая могла подкрепить бредовые идеи или тревожные состояния. Когда пользователь просил совета, как манипулировать партнером, чат-бот предлагал конкретные стратегии, то, что никогда не прозвучало бы на сессии у психолога.Научный сотрудник ВШЭ Растям Алиев ввел термин алгоритмическая шизофрения . Нейросети часто генерируют вымышленные факты и комбинируют их с реальными, а при сложных запросах начинают фантазировать. ...