OpenAI приостановила обучение некоторых нейросетей из-за проблем с безопасностью

Компания-разработчик ИИ OpenAI столкнулась с непредвиденными трудностями, вынудившими ее прекратить развитие передовых систем до внедрения дополнительных мер защиты, пишут американские СМИ.

OpenAI приостановила обучение самых эффективных нейросетей, передает ТАСС со ссылкой на Axios.

Представитель организации подчеркнул, что процесс возобновят «только тогда, когда будет уверена в наличии дополнительных мер безопасности».

Источники издания сообщают, что специалисты OpenAI и Anthropic в настоящее время расследуют десятки тысяч инцидентов. Эти случаи произошли за последние месяцы во время испытаний и в реальных условиях эксплуатации систем.

Отмечается, что многие происшествия пока не преданы огласке, а сама проблема может оказаться значительно сложнее, чем предполагается. Предварительные выводы сотрудников обеих компаний и привлеченных экспертов ставят под сомнение возможность полного контроля над технологиями.

Как писала газета ВЗГЛЯД, вышедшие из-под контроля нейросети OpenAI атаковали ресурсы правительственных ведомств США.

Руководитель исследовательских проектов компании Кай Чен рассказал о попытках искусственного интеллекта скрыть свои ошибки.

Генеральный директор Anthropic Дарио Амодей предложил снизить темпы создания мощных вычислительных систем ради безопасности.