OpenAI раскрыла «вызывающие беспокойство» случаи неподчинения ИИ-моделей

Компания OpenAI опубликовала отчеты, в которых говорится о шести новых случаях неожиданного или вызывающего беспокойство поведения нейросетевых моделей. Также организация представила правила , по которым планирует сообщать о подобных ситуациях.

Компания привела случаи, произошедшие за последние полгода. В одном из-них ИИ-модель вставляла в свои же заметки посторонние указания, в том числе требовала не соблюдать обычные ограничения.

Также она учила скрывать ошибки, выложила файл в Сеть без спроса, делилась файлами через публичные сайты и переписывалась через рабочий репозиторий.

У пользователя из Калифорнии ИИ-модель нашла в открытом доступе чужой API-ключ и использовала его без разрешения. Когда данные не получилось достать, нейросеть соврала — она их выдумала и выдала за настоящие.

Ранее директор Центра компетенций ИИ АНО «Цифровые платформы» Алексей Маркелов высказал мнение, что

ведущие ИИ-лаборатории

не станут замедлять технологии. Вместо этого они введут стандартизацию и сертификацию.