Лже-науку победит только искусственный интеллект

Новые технологии могут анализировать тысячи самых разных научных работ и делать интересные выводы

Заслоном лже-науке может стать искусственный интеллект.  К такому выводу пришли  учёные из Университетского колледжа Лондона (UCL). Как пишет 3dNews, учёные поставили перед собой задачу научить большие языковые модели (LLM) анализировать обширные данные и делать выводы, обобщая информацию.

Учёные решили узнать, могут ли LLM использовать данные научной литературы для анализы новых работ. И эксперимент удался: ИИ смог точнее людей оценивать научные работы. 

В ходе эксперимента ИИ оценивали работы по нейробиологии, но точно также можно исследовать и другие области науки. Программа изучила сотни пар рефератов. Это были настоящая и фейковая научные работы. В фейковой содержались вполне правдоподобные, но ложные выводы.

Для анализа использовали 15 LLM общего назначения. Кроме того, в эксперименте участвовали 117 учёных. И системы ИИ превзошли нейробиологов. Искусственный интеллект выявлял фейки с точностью 81 процент, а у людей точность составила 63 процента.

Учёные считают, что ИИ поможет отличать новые открытия от сделанных давным-давно и в самом начале отсекать фейковые работы или работы, дублирующие уже существующие исследования, экономить при этом и деньги, и время исследователей. Новый инструмент позволит понять, стоит ли заниматься исследованиями или нужно поискать данные в интернете и библиотеках.