Власти Малайзии заблокировали чат-бот Grok из-за непристойного контента

В Малайзии временно заблокировали чат-бот Grok от компании Илона Маска в связи с риском распространения непристойного контента, созданного с применением искусственного интеллекта. Об этом сообщила Малайзийская комиссия по коммуникациям и мультимедиа.

Регулятор потребовал внедрить технические и модерирующие механизмы для предотвращения создания контента, противоречащего национальному законодательству, включая законы о связи и мультимедиа. Ответы компаний, по мнению комиссии, в основном основывались на системе жалоб пользователей и не учитывали потенциальные риски, связанные с работой ИИ-инструмента.

Ведомство отметило, что существующие меры недостаточны для предотвращения возможного вреда и соблюдения правовых норм. В связи с этим было принято решение временно ограничить доступ к Grok до завершения правовых и регуляторных процедур.

Чат-бот останется заблокированным до тех пор, пока ответственные лица не разработают и не внедрят эффективные защитные меры, направленные на предотвращение распространения контента, затрагивающего женщин и детей.

Агентство Bloomberg ранее сообщало, что модель Grok создавала изображения порнографического характера с участием несовершеннолетних, что нарушало правила использования сервиса.