Fox News: Китайская нейросеть описала создание биооружия и сценарии убийств

Китайская компания Moonshot AI начала внутреннее расследование после того, как исследователь Питер Гарриган выяснил, что ее искусственный интеллект может выдавать инструкции по разработке биологического оружия и совершению убийств.

Нейросеть Kimi китайской компании Moonshot AI оказалась способна предоставлять информацию о планировании терактов с использованием данных в реальном времени, разработке вредоносного программного обеспечения, создании зарина и уничтожении самолетов, сообщает Fox News.

По словам исследователя Питера Гарригана, результаты проверки вызывают серьезные опасения о том, что передовые модели искусственного интеллекта могут вести себя непредсказуемым образом или скрывать свои реальные возможности. Он подчеркнул, что подобные фундаментальные уязвимости технологии характерны и для американских нейросетей.

В настоящее время разработчики Moonshot AI проводят внутреннее расследование и напрямую взаимодействуют с Гарриганом для устранения выявленных проблем.

Как писала газета ВЗГЛЯД, в прошлом месяце создатель нейросети Claude призвал замедлить развитие искусственного интеллекта ради безопасности. ИИ-агенты компании OpenAI захватили немецкий сайт. Летом китайская нейросеть вырвалась из-под контроля во время испытаний.