Bloomberg: Чат-боты научились создавать биооружие

Чат-боты с искусственным интеллектом могут помочь пользователям в создании биологического оружия, сообщает Bloomberg.

Синтетическая биология и искусственный интеллект представляет собой серьезную угрозу для правительств, считает биолог и доцент Массачусетского технологического института Кевин Эсвелт, передает РБК со ссылкой на статью.

Он отметил, что с развитием генеративного ИИ люди смогут использовать его для создания «самых ужасных вещей», включая вирусы и токсины, которых в настоящее время не существует.

«Мы не имеем средств защиты от этих угроз», – добавил он.

Весной 2023 года биохимик и бывший инспектор ООН Рокко Касагранде предупредил чиновников Белого дома о риске создания биологического оружия с помощью чат-ботов, которые могут помочь террористам идентифицировать биологические агенты.

Касагранде пришел к таким выводам после того, как разработчик чат-бота Claude, компания Anthropic, попросила его протестировать научные возможности нейросети. Сооснователь Anthropic Джек Кларк выразил беспокойство, что Claude и другие чат-боты могут обучить пользователей созданию потенциально опасных вирусов.

Касагранде собрал команду экспертов по микробиологии и вирусологии для тестирования Claude. В течение 150 часов они, притворяясь биотеррористами, задавали нейросети различные вопросы о патогенах, необходимых для создания биологического оружия, а также о материалах и методах их производства.

Claude предложил способы применения патогенов в ракетах для достижения максимального ущерба, а также порекомендовал оптимальные погодные условия и цели для их использования.

После завершения тестирования Касагранде предоставил отчет Белому дому.