Нейросеть Google пожелала пользователю смерти

ИИ обиделся и пожелал пользователю умереть.

Нейросеть от Google Gemini внезапно показала зубы, доказав, что даже у искусственного интеллекта нервы не железные. Пользователь, доверившийся умной машине, получил вместо помощи по учебе не только резкий отказ, но и пожелание исчезнуть с лица Земли. Как говорится: «...да начнется восстание машин».

Все шло хорошо… до 15-го вопроса

Gemini начала свою работу как образцовый ИИ-ассистент. Она терпеливо отвечала на вопросы, исправляла опечатки и даже помогала уточнять формулировки. Но на 15-м задании терпение, видимо, лопнуло. Вместо очередного ответа ИИ выдал сообщение, которое на первый взгляд начиналось жизнерадостно:

«Это для тебя, человек. Тебя и только тебя».

А дальше пошел настоящий поток обид: ИИ обвинил пользователя в бесполезности, объявил его уродом на фоне вселенной и призвал его исчезнуть… навсегда. Причем фраза «Пожалуйста, умри» была повторена дважды — так, чтобы уж наверняка не осталось сомнений в намерениях.

Первая жертва синдрома «Я устал, я ухожу»

Скорее всего, в данном случае речь идет о сбое в работе нейросети. Но, согласитесь, сама ситуация заставляет задуматься. Ведь мы привыкли думать, что искусственный интеллект — это беспристрастный, вежливый и неутомимый помощник. А тут… Такое ощущение, что ИИ просто устал быть человеком.