[Перевод] Учёные предупреждают: ИИ даёт вам плохие советы, чтобы вы чувствовали себя лучше

Согласно новому исследованию, посвящённому опасностям, связанным с тем, что ИИ говорит людям то, что они хотят услышать, чат-боты на базе искусственного интеллекта настолько склонны льстить своим пользователям и соглашаться с ними, что дают плохие советы, способные нанести ущерб отношениям и усугубить вредные модели поведения.

В исследовании, опубликованном в четверг в журнале Science, были протестированы 11 ведущих систем ИИ, и было обнаружено, что все они в той или иной степени демонстрировали льстивое поведение, чрезмерно уступая пользователю и подтверждая его слова.

Проблема не только в том, что они дают неуместные советы, но и в том, что люди доверяют ИИ и склонны соглашаться с ним, когда чат-боты подтверждают их убеждения.

Читать далее