ИИ Google опозорился ненормальными ответами. Компания ввела оперативную модерацию

В социальных сетях, блогах и на форумах появились мемы о странных и нередко ненормальных ответах технологии интеллектуального поиска Google AI Overview. В мае 2023 года технология была запущена как составляющая поисковой системы под названием Search Generative Experience.

Назначение функционала — предоставление пользователям быстрых и лаконичных ответов со ссылками на первоисточники, собранных ИИ в компактную сводку. Однако на практике оказалось, что год тестирования не сделал технологию зрелой.

Недавно ИИ Google начал выдавать забавные и даже опасные ответы. Например, ИИ посоветовал улучшить вкус пиццы добавлением в рецепт клея, есть камни, либо что-то подобное. И теперь модераторы Google удаляют подобные ответы, даже вручную, в рамках «быстрых действий» для «оздоровления» поисковика.

Многие ответы ИИ Google, ставшие мемами, уже удалены: пользователи обратили на это внимание. И, возможно, Google нашла объяснение подобным «кривым» ответам.

Как на днях заявил глава Google Сундар Пичаи, за период бета-тестирования AI Overview компания снизила стоимость предоставления ответов с помощью ИИ на 80%. Добились разработчики этого «благодаря аппаратным, инженерным и техническим прорывам». Но, видимо, такая оптимизация пока ещё не помогла.

«Компания, которая когда-то была известна тем, что была на переднем крае и поставляла высококачественные материалы, теперь известна низкокачественными продуктами, которые становятся мемами», — заявил изданию The Verge один из основателей ИИ.