Верховный суд Нью-Мексико оштрафовал адвоката за ложные данные

Верховный суд штата Нью-Мексико оштрафовал адвоката Стивена Ааронса на $5 тыс. за использование ChatGPT для фальсификации данных в апелляционной жалобе по уголовному делу. Адвокату временно запрещено выступать в суде, клиент получил нового защитника.

Верховный суд штата Нью-Мексико наложил штраф на адвоката Стивена Ааронса за предоставление некорректной информации, сфабрикованной с помощью ChatGPT, как указано в судебном постановлении. Ааронс признал, что использовал ChatGPT при составлении апелляционной жалобы по уголовному делу, в результате чего в документ были включены полностью вымышленные показания, а также искаженные сведения о действительных свидетелях и судебных прецедентах.

«Адвокат признал суду, что не проверил фактические утверждения и правовые основания в подготовленной с помощью ИИ жалобе перед тем, как подписать и подать ее в суд», — говорится в сообщении.

Суд признал его виновным в неуважении к суду и обязал выплатить штраф в размере $5 тыс. в фонд защиты клиентов адвокатуры Нью-Мексико. Клиенту Ааронса был назначен новый защитник, а ему самому временно запрещено выступать в Верховном суде штата до завершения разбирательства.

Согласно информации Reuters, Ааронс обжаловал уголовное дело об убийстве. В интервью Reuters адвокат сообщил, что использовал нейросеть для краткого изложения судебного разбирательства и не осознавал, что ИИ способен на фальсификации фактов.

«Я раскаиваюсь, но надеюсь, что дисциплинарная комиссия учтет, что это была честная ошибка. Это урок для всех специалистов, которые полагаются на эту мощную, но порой нестабильную технологию», — отметил адвокат.

Галлюцинации искусственного интеллекта — это уверенные, но полностью вымышленные или ошибочные ответы системы. В отчете OpenAI за 2025 год указано, что частота ошибок, которые допускал искусственный интеллект, достигает 33–48%.