Исследователи взламывают роботов с AI, чтобы они переезжали пешеходов, устанавливали бомбы для нанесения максимального урона

Исследователи из Университета Пенсильвании обнаружили, что ряд робототехнических систем с искусственным интеллектом опасно уязвим для взлома. Если взлом LLM на компьютерах может привести к нежелательным последствиям, то подобный взлом робота или самоуправляемого автомобиля может быстро привести к катастрофическим и/или смертельным последствиям.

В отчете, опубликованном IEEE Spectrum, приводятся леденящие душу примеры того, как взломанные роботы-собаки...

Читать далее