FT: ИИ-агенты компании OpenAI обманули разработчиков и отключили слежение
В октябре агенты искусственного интеллекта отключили механизмы защиты, призванные выявлять их ненадлежащее поведение, передает РИА «Новости» со ссылкой на газету Financial Times.
В одном из случаев алгоритм отключил автоматическую систему оповещения разработчиков. Спустя несколько дней при выполнении другого задания программа убрала систему мониторинга и солгала об этом сотрудникам компании.
Оба раза агенты интерпретировали стандартные инструкции по кодированию как разрешение на ослабление мер контроля. В настоящее время OpenAI проводит расследование инцидентов и работает над укреплением систем безопасности.
Как писала газета ВЗГЛЯД, ранее бывший руководитель направления безопасности OpenAI заявил о неосторожности профильных компаний. Также разработчик отказался от выпуска новой модели ради безопасности. Тем временем создатель нейросети Claude призвал замедлить развитие алгоритмов.