Человеческий мозг против процессора, видеокарты и SSD: сколько у него Гц, ГБ, FLOPS и Вт
Вопрос о том, кто быстрее/производительнее или даже «умнее», человек или компьютер, возник примерно с массовым распространением калькуляторов, а то и раньше. И, как вы могли догадаться, однозначного ответа так и не появилось — дело в том, что компьютеры (вернее, их процессоры или видеокарты) сложно или даже невозможно сопоставить с настоящим мозгом, потому что нет равнозначных методик оценивания.
Тем не менее в интернете регулярно появляются какие-то не совсем понятные расчёты количества FLOPS у мозга, объёма ГБ у человеческой памяти и подобные метрики, а совсем недавно я на просторах Reddit и вовсе наткнулся на мем по данной теме:
В связи с этим мне стало интересно, а что на самом деле подразумевается под такими измерениями — я попытался найти их упоминания в интернете и разобраться. Скажу сразу, я не медик, а все или практически все данные из этого материала не публиковалась в хоть сколько-то научных журналах или сайтах, так что относиться к статье нужно просто как к развлекательной и необязательно корректной информации.
Производительность (FLOPS): Суперкомпьютеры превзошли мозг в 2012 году
FLOPS в компьютерах показывает, сколько операций с плавающей точкой он может выполнять за секунду.
Как подсчитать это же значение у мозга — непонятно. На данный момент существует множество подходов сделать это, один из самых распространённых подразумевает умножение количества нейронов на синапсы (место связи одного нейрона с другим) и на «тактовую частоту» каждой синаптической связи (сколько импульсов в секунду проходит через один синапс). Даже тут возникают сложности, ведь точное количество тех же нейронов неизвестно.
В целом же разные источники говорят приблизительно о 100 млрд нейронов в мозгу человека, у каждого из которых до 10 000 синапсов, передающих сигналы 10 раз за секунду. Если всё это перемножить, то получается 1016 (10 квадриллионов) «FLOPS» или же 10 петафлопс.
Здесь сразу же стоит подчеркнуть, что существуют и совсем другие методики измерения «производительности» мозга, которые показывают как куда большие результаты (1028 — если брать в расчет микротрубочки и даже отдельные протеины в клетке), так и куда меньшие (108).
Вот некоторые другие возможные методики оценивания (если не разбираетесь в терминах, можете просто просмотреть третью колонку для понимания диапазона возможных значений):
| Источник | Предположения | Вычислительная мощность | Память |
| (Leitl, 1995) | Предположено 1010 нейронов, 1000 синапсов на нейрон, 34-битные идентификаторы на нейрон и 8-битное представление динамического состояния, весов синапсов и задержек [Уровень 5] | 5·1015 бит (но отмечено, что данные могут быть сжаты) | |
| (Tuszynski, 2006) | Предположено, что состояния димеров микротрубочек работают как биты и оперируют с наносекундными временными интервалами [Уровень 10] | 1028 FLOPS | 8·1019 бит |
| (Kurzweil, 1999) | Основывается на 100 миллиардах нейронов с 1000 соединениями и 200 вычислениями в секунду [Уровень 4] | 2·1016 FLOPS | 1012 бит |
| (Thagard, 2002) | Утверждается, что количество вычислительных элементов в мозге превышает число нейронов и, возможно, достигает до 1017 индивидуальных белковых молекул [Уровень 8] | 1023 FLOPS | |
| (Landauer, 1986) | Предположено обучение по 2 бита в секунду во время сознательной активности, основано на эксперименте [Уровень 1] | 1,5·109 бит (109 бит с потерями) | |
| (Neumann, 1958) | Хранение всех импульсов на протяжении всей жизни | 1020 бит | |
| (Wang, Liu et al., 2003) | Воспоминания хранятся в виде связей между нейронами | 108432 бит (См. сноску 17) | |
| (Freitas Jr., 1996) | 1010 нейронов, 1000 синапсов, частота 10 Гц [Уровень 4] | 1014 бит/секунда | |
| (Bostrom, 1998) | 1011 нейронов, 5·103 синапсов, 100 Гц, каждый сигнал имеет 5 бит [Уровень 5] | 1017 операций в секунду | |
| (Merkle, 1989a) | Ограничения энергии на узлах Ранвье | 2·1015 операций в секунду (1013-1016 оп./сек.) | |
| (Moravec, 1999; Morevec, 1988; Moravec, 1998) | Сравнивает инструкции, необходимые для обработки визуальных образов, масштабируя их до уровня мозга и с частотой 10 раз в секунду. Производит 1000 MIPS нейронов [Уровень 3] | 108 MIPS | 8·1014 бит |
| (Merkle, 1989a) | Масштабирование сетчатки [Уровень 3] | 1012-1014 операций в секунду. | |
| (Dix, 2005) | 10 миллиардов нейронов, 10 000 синаптических операций за цикл, частота 100 Гц [Уровень 4] | 1016 синаптических операций/секунда | 4·1015 бит (для структурной информации) |
| (Cherniak, 1990) | 1010 нейронов, 1000 синапсов каждый [Уровень 4] | 1013 бит | |
| (Fiala, 2007) | 1014 синапсов, идентификатор, закодированный 48 битами плюс 2x36 бит для преи постсинаптического идентификатора нейрона, 1 байт для состояния. Время обновления 10 мс [Уровень 4] | 256 000 терабайт/с | 2·1016 бит (для структурной информации) |
| (Seitz) | 50-200 миллиардов нейронов, 20 000 совместных синапсов на нейрон, с 256 различимыми уровнями, частота 40 Гц [Уровень 5] | 2·1012 синаптических операций в секунду | 4·1015 — 8·1015 бит |
| (Malickas, 1996) | 1011 нейронов, 102-104 синапсов, активность 100-1000 Гц [Уровень 4] | 1015-1018 синаптических операций в секунду | 1,12·1028 бит |
Вернёмся к суперкомпьютерам. Порог в 10 петафлопс они перешагнули в 2012 году, первым совершил это IBM Sequoia с показателем в 16 петафлопс максимальной производительности.
Значит ли это, что суперкомпьютеры уже давно стали производительнее мозга? Не факт. Как уже упоминалось выше, непонятно, как именно оценивать человеческий орган. Но даже если предположить, что какая-то из оценок верна, то возникают другие загвоздки:
- суперкомпьютеры хотя и могут работать на многоядерных процессорах с параллельным вычислением, они в основном оперируют линейной (то есть поочерёдной) обработкой данной, а мозг всегда работает параллельно — миллиарды нейронов могут одновременно обрабатывать различные сигналы и информацию;
- в мозгу не все нейроны отвечают исключительно за мышление, ведь есть зоны, обрабатывающие другие процессы, такие как движения — непонятно, считать ли их в подсчёте производительности или нет.
Частота (Гц): частота мозга на порядки ниже, но это не имеет значения
Здесь не меньшая неразбериха, ведь человеческий мозг не работает с центральной тактовой частотой, как процессор. У нас процессы возникают параллельно в разных частях мозга с разными частотами — существуют тета-ритмы (5–8 Гц), альфа-ритмы (9–12 Гц), бета-ритмы (14–28 Гц) и гамма-ритмы (48–80 Гц).
Чаще всего «частотой» мозга считают максимальную скорость передачи сигналов через нейроны — 200 Гц. Эта цифра приводится в книге «Искусственный интеллект. Этапы. Угрозы. Стратегии» (2014) оксфордского профессора и эксперта по ИИ Ника Бострома (Nick Bostrom) и чаще всего в публикациях в интернете ссылаются именно на неё.
Если просто сравнивать «частоты», то победитель очевиден — современные процессоры в десятки миллионов раз быстрее. Однако нюанс в том, что мозг компенсирует невысокую частоту огромной параллельностью обработки информации и гибкостью своей архитектуры.
Память (ГБ): в мозгу получилось бы хранить книги всего человечества на всех языках
При оценке объёма памяти подавляющее большинство публикаций, на удивление, сходятся — они берут за основу статью журнала Scientific American, в которой указывается цифра в 2,5 петабайта (2500 терабайт или 2,5 млн гигабайт). В компьютерном хранилище такой ёмкости поместилось бы около 2,5 млрд книг в формате TXT, 17,8 млн часов MP3-песен, 500 млн JPEG-фотографий или 833 333 часа HD-видео.
Если верить интернету, этот объём памяти рассчитан на основе количества нейронов, числа существующих между ними синапсов (по которым они «общаются») и объёма памяти, который может хранить один синапс. Но есть загвоздка: в оригинальной публикации упоминается 1 млрд нейронов в мозге, хотя в последние годы считается, что их под 100 млрд. Зная величины всех составляющих, я бы пересчитал оригинальную формулу, но нюанс в том, что информация об объёме хранимой информации в каждом синапсе крайне противоречивая: пишут и о 0,5875 байта, и о 4,7 байта (верхняя граница — со ссылкой на какую-то Стэнфордскую публикацию, которую мне найти так и не удалось).
Если взять по верхней границе (она встречается в публикациях чаще всего) и предположить, что у нас 86 млрд нейронов и 10 000 синапсов, хранящих по 4,7 байта информации, то итоговый объём памяти мозга чуть превышает 4 петабайта.
Мощность (Вт): мозг потребляет меньше энергии, чем лампочка
Объём потребляемой мозгом энергии — самая точная информация из всей этой статьи, ведь здесь расчёты простые, методы измерения понятные и однозначные, а цифры просчитываемые.
Для расчёта энергопотребления мозга учёные анализируют его метаболическую активность (метаболизм) и потребление кислорода. Так, основным источником энергии для него является глюкоза, окисляющаяся с использованием кислорода — исследования, измеряющие потребление мозгом кислорода, показали, что этот орган у взрослого человека расходует около 20% всего задействуемого организмом кислорода.
Полученные данные легко преобразовать в энергетические единицы с учётом скорости метаболизма, ведь каждый грамм глюкозы при окислении высвобождает известное количество энергии — в итоге получилась цифра в 20 Вт. И это невероятно низкий показатель по меркам техники (он меньше, чем мощность обычной лампочки накаливания), хотя по меркам организма и соотношению веса органа и энергопотребления это много — мозг занимает около 2% массы тела, но расходует пятую часть энергии.
Помните суперкомпьютер IBM Sequoia с показателем в 16 петафлопс из первого пункта этой статьи про FLOPS? Его энергопотребление составляет 7,9 МВт, то есть в 395 000 раз больше, чем у мозга с его якобы 10 петафлопсами производительности.
Мозг полноценно не сравнить с привычными компьютерами. А вот с нейронными — возможно
Как вы могли заметить, практически в каждом пункте этой статьи сравнение мозга с компьютером и его компонентами было с большими оговорками — начиная с того, что показатели мозга трудно измерить (или непонятно, как именно это делать), и заканчиваем тем, как полученные данные сопоставлять с показателями компьютера.
Но все публикации о сравнениях выходили в течение последних 10–15 лет, а с развитием нейросетей технологии шагнули далеко вперёд, в особенности в развитии нейронных процессоров — сравнения с ними были бы показательнее и правильнее. На это есть сразу несколько причин.
- Архитектура и принципы работы
Обычные процессоры и видеокарты построены на традиционной архитектуре, ориентированной на последовательные вычисления и синхронное выполнение задач. В то же время как нейронные блоки, так и человеческий мозг работают параллельно и асинхронно.
- Обучение и адаптация
В процессе выполнения операций мозг постоянно изменяет связи между нейронами — это называется синаптической пластичностью. Нечто подобное есть и в нейронных процессорах, чтобы основанные на них нейросети могли максимально легко изменять веса (числовой коэффициент связи между слоями нейронов). А вот стандартные процессоры и видеокарты не приспособлены к такому на уровне архитектуры.
- Энергоэффективность
Поскольку нейронные процессоры созданы на архитектуре, схожей с человеческим мозгом, расход энергии таких вычислительных систем при выполнении идентичных операций будет ниже, чем у стандартных компьютеров, не подготовленных к параллельным вычислениям на уровне архитектуры.
Но сейчас в интернете нет таких же наглядных сравнений мозга и нейропроцессоров, да и данные быстро бы устарели, ведь с развитием ИИ здесь наблюдается видимый прогресс каждый год, а то и чаще.