ЕС запретил нейросетям предсказывать поведение полиции и манипулировать человеком

Сегодня в Евросоюзевступил в силу «первый в мире всеобъемлющий нормативныйакт» об искусственном интеллекте. Он должен одновременно стимулировать развитиеИИ в ЕС и обеспечивать защиту основных прав людей.
«Регламент направлен на создание согласованного внутреннего рынкаискусственного интеллекта в ЕС, стимулируя освоение этой технологии и создаваяблагоприятную среду для инноваций и инвестиций», — отметили в Европейскойкомиссии.
Закон классифицирует все основанные на ИИ системы и инструменты по уровнюриска — от низкого до неприемлемого. В перечень запрещенных технологий вошлиплатформы и приложения искусственного интеллекта, которые манипулируютповедением человека и позволяют компаниям проводить социальный скоринг, а такжепрограммы, прогнозирующие поведение полиции. Кроме того, в этот список вошлинекоторые виды использования биометрический систем. Например, распознаваниеэмоций на рабочем месте и систем предиктивной аналитики для профилактикиправонарушений.
В список ИИ с минимальным риском попали системы рекомендаций с поддержкойискусственного интеллекта и фильтры нежелательной почты. «Эти системы не несут обязательств по Закону об искусственном интеллектеиз-за их минимального риска для прав и безопасности граждан. Компании могутдобровольно принять дополнительные кодексы поведения», — указали вЕвропейской комиссии. 
Также закон об искусственном интеллекте вводит правила для моделейискусственного интеллекта общего назначения, которые предназначенные длявыполнения широкого спектра задач, таких как генерация текста. Большинство правил документы начнут применяться 2 августа 2026 г. Однакозапреты на «неприемлемые» системы вступят в силу через шесть месяцев, а правиладля ИИ-моделей общего назначения — через год.
Кроме того, комиссия создала Пакт об искусственном интеллекте, чтобысократить переходный период до полного внедрения закона. Эта инициативапредлагает разработчикам ИИ добровольно принять ключевые обязательствадокумента раньше установленных законом сроков.
Члены Евросоюза должны до 2 августа 2025 г. назначить национальныекомпетентные органы, которые будут осуществлять надзор за применением правилдля ИИ-систем. Европейская комиссия будет ключевым органом по реализациизакона. 
Компании, не соблюдающие установленные правила, будут оштрафованы.
Штрафы могут составлять до 7% от мирового годового оборота за использованиезапрещенных приложений искусственного интеллекта, до 3% за нарушения другихобязательств и до 1,5% за предоставление неверной информации.
Ранее Роспотребнадзор заявлял, чтосоздаст свои предложения для законодательного регулированияпо защите прав потребителей ИИ-решений. Для этого в том числе будет изучен опытЕвросоюза.