Нобелевку дали «крёстному отцу». Физик Дж. Хинтон предупреждал об угрозе ИИ

В Стокгольме объявлены имена лауреатов Нобелевской премии по физике этого года. Ими стали Джон Хопфилд из Принстонского университета (США) и Джеффри Хинтон из Университета Торонто (Канада).

Награду они получат «за основополагающие открытия и изобретения, которые делают возможным машинное обучение с использованием искусственных нейронных сетей». Как сказано в сообщении Нобелевского комитета, лауреаты «обучили искусственные нейронные сети, используя физику».

Технология подсказана самой структурой мозга

Машинное обучение на основе искусственных нейронных сетей прямо сейчас производит революцию в науке, инженерии, да и в нашей повседневной жизни. Машинное обучение играет огромную роль в научных исследованиях, позволяя проводить сортировку и анализ гигантских массивов данных. Более того, когда мы говорим об искусственном интеллекте, то чаще всего подразумеваем именно машинное обучение с использованием искусственных нейросетей.

Эта технология изначально была подсказана самой структурой головного мозга человека. В искусственной нейронной сети клетки мозга (нейроны) представлены узлами, имеющими разные значения. Эти узлы влияют друг на друга через связи, которые можно сравнить с синапсами (местами контактов между двумя нейронами) и которые можно ослабить или, наоборот, усилить. И когда нейросеть обучается, она делает это, например, путём развития более сильных связей между узлами с высокими значениями.

Используют, например, для создания новых материалов

Хотя компьютеры не умеют думать, они уже способны имитировать такие человеческие функции, как память и обучение. И как раз нынешние лауреаты Джон Хопфилд и Джеффри Хинтон помогли сделать это возможным. Используя фундаментальные концепции и методы из физики, они предложили технологии, которые используют структуры в нейросетях для обработки той или иной информации.

В сообщении Нобелевского комитета говорится, что Джон Хопфилд создал структуру (ассоциативную память), которая может хранить и восстанавливать информацию — изображения и другие типы данных. А Джеффри Хинтон изобрёл метод, который может автономно находить свойства в данных и таким образом выполнять важные задачи. Например, распознавать определённые элементы в изображениях. Всё это используется в машинном обучении в настоящее время.

«Работа лауреатов уже принесла огромную пользу. В физике мы используем искусственные нейронные сети в широком спектре областей, таких, как создание новых материалов с заданными свойствами», — объяснила заслуги учёных председатель Нобелевского комитета по физике Эллен Мунс.

Работал в Google, но ушёл

Британско-канадского физика Джеффри Хинтона вообще называют «крёстным отцом» нейросетей. С его именем связаны если не скандальные, то уж точно нашумевшие заявления.

Хинтон работал над развитием нейросетей с 1970-х годов, когда в их будущее мало кто верил — всё это казалось какой-то фантастикой и причудой высоколобых учёных. В 2012 году его фирму, которая занималась разработкой технологий распознавания изображений, приобрёл IT-гигант — компания Google. В ней Хинтон и проработал до апреля 2023 года. А когда уволился, то сразу присоединился к авторам открытого письма об опасности искусственного интеллекта, подписанного многими представителями IT-отрасли, в числе которых были Илон Маск и Стив Возняк. Помните эту историю?

Тогда по миру начал победное шествие ChatGPT, и авторы письма призывали на время остановить масштабные эксперименты с искусственным интеллектом и нейросетями. Они считали, что ИИ, сопоставимый с человеческим, представляет серьёзную угрозу обществу и всей цивилизации. А Илон Маск в те дни опубликовал в соцсетях анекдот: «Технари-агностики решили создать искусственный сверхинтеллект, чтобы узнать, есть ли Бог. Наконец, завершив дело, они задают этот вопрос. ИИ отвечает: "Теперь есть, придурки!”»

«Крёстный отец» восстал против своего детища

Так вот, один из пионеров тех самых нейросетей и искусственного интеллекта Хинтон, уволившись из Google, не только поставил свою подпись под алармистским воззванием, но и стал направо и налево рассказывать об опасности технологий, которые сам же разрабатывал.

Например, он предрекал, что интернет будет наводнён фальшивыми фотографиями, видео и текстами, созданными ИИ, так что обычный человек «больше не сможет знать, что является правдой». (И кто скажет, что он был неправ?) Также Хинтон был обеспокоен тем, что технологии ИИ со временем перевернут рынок труда, начав вытеснять людей из многих профессий.

Наконец, учёный предположил, что вероятность гибели человечества от развития ИИ составляет «10-20% или что-то около того». А вездесущий Илон Маск подтвердил, что согласен в этой оценке с «крёстным отцом» нейросетей.