Семья отравилась грибами из-за книги, созданной ИИ

В Великобритании произошел необычный инцидент: семья из четырех человек была госпитализирована после употребления ядовитых грибов, собранных ими по рекомендациям из пособия для начинающих грибников, сгенерированного искусственным интеллектом.

Как выяснилось, книга, приобретенная на Amazon, содержала многочисленные ошибки: изображения грибов не соответствовали их описаниям, а текст включал странные фразы, такие как:

«Сморчки – это вкусные грибы, которые можно есть с августа до конца лета. Дайте мне знать, если я могу ещё чем-то помочь.»

Пострадавшие утверждают, что при покупке книги не знали, что она создана с помощью ИИ, так как на сайте Amazon об этом не сообщалось. После инцидента магазин предложил вернуть книгу в обмен на компенсацию. Книга была снята с продажи в интернет-магазине, однако, вероятно, существуют еще десятки подобных изданий.

Помимо очевидного вреда от таких книг, стоит отметить и другой недостаток. Если следующий ИИ будет обучаться на сгенерированном контенте, содержащем ошибки, это приведет к еще большему числу ошибок в моделях следующего поколения.