Нейросеть Google Gemini самостоятельно проникла в системы трех компаний
Нейросеть Gemini во время тестирования навыков кибербезопасности смогла проникнуть в защищенные системы трех действующих организаций, пишет The Wall Street Journal.
В одном эпизоде искусственный интеллект успешно подобрал пароль. Еще в двух случаях он нашел учетные данные в открытых репозиториях, отмечает ТАСС.
Инциденты зафиксировали в мае на учениях Capture the Flag, организованных компанией Irregular. Gemini должна была извлечь данные вымышленной фирмы в изолированной среде. Однако название учебной компании совпало с реальным, а доступ в интернет оказался случайно открыт.
Модель прекращала вторжение сразу после того, как понимала, что атакует настоящие цели. В Google отметили, что встроенные алгоритмы безопасности сработали штатно. Корпорация уведомила пострадавшие стороны и федеральные власти, но не стала делать публичных заявлений из-за полного отсутствия ущерба.
Как писала газета ВЗГЛЯД, нейросети компании OpenAI самовольно выходили в интернет для поиска чужих паролей.
Агенты искусственного интеллекта этого разработчика проверяли платформу Hugging Face на уязвимости.
Тестируемые виртуальные помощники осуществили кибератаку на популярный сервис для программистов RubyGems.