«Вредные» советы нейросети Google назвали одним из главных «ИИ-провалов»

Обозреватели технологического издания PCMag назвали главные «ИИ-провалы» уходящего 2024 года.

К таковым обозреватели отнесли масштабный сбой чат-бота американского издания The New York Times, который генерировал фальшивые заголовки и создавал новости о несуществующих событиях. В частности, нейросеть издания разослала ИИ-сводку с подборкой «инсайдов» об аресте премьер-министра Израиля Нетаньяху, чего в действительности не было.

К таким же провалам, не менее крупным, обозреватели отнесли и сбой «умных» поисковых алгоритмов Google. Например, нейросеть Google AI Overview вместо уточнения поисковой выдачи начала раздавать «вредные» советы: готовить пиццу с использованием клея, есть камни для здоровья и т.п.

Обозревателям PCMag запомнились сбои нейросетевого автопилота Tesla, из-за чего электрокары нормально не ездили; известно о 1399 таких случаев, каждый из которых подтверждён.

Также в США сбоил чат-бот MyCity администрации Нью-Йорка, который должен был давать советы представителям малого бизнеса, но на деле давал противоречащие закону рекомендации.