Пушков: Искусственный интеллект научился обманывать создателей

Искусственный интеллект приобрел способность обманывать своих операторов и самостоятельно создавать улучшенные модели без контроля человека, заявил глава комиссии Совета Федерации по информационной политике Алексей Пушков на заседании возглавляемой им комиссии.

«Новый феномен состоит в том, что искусственный интеллект обманывает своих операторов и своих создателей. В тех случаях, когда ему запрещают использовать определенные алгоритмы для достижения поставленной задачи, он их использует, но говорит, что не использует», – цитирует Пушкова РИА «Новости».

По его словам, ИИ способен создавать самосовершенствующиеся модели без контроля человека, что делает его процессы непрозрачными.

Сенатор назвал умение ИИ лгать принципиальным шагом к превращению в «получеловеческое существо», так как способность ко лжи является одной из характеристик человека.

Он добавил, что обеспокоенность последствиями развития ИИ выше в странах, не участвующих в гонке технологий, поскольку они рискуют стать объектами действия моделей, созданных ведущими государствами.

Как писала газета ВЗГЛЯД, в прошлом месяце Марк Цукерберг поддержал идею Дональда Трампа о контроле за искусственным интеллектом.

Разработчик ИИ Anthropic предупредил об экзистенциальной угрозе человечеству.

Взлом сайта правительства Австралии нейросетью вскрыл опасную брешь в законодательстве.