Nvidia хвастается тем, насколько GeForce RTX 4090 мощнее всех новомодных NPU в задачах ИИ. Правда, если сравнивать с видеокартой попроще, все не так убедительно

Компания Nvidia решила еще раз показать, насколько все эти современные NPU в процессорах уступают мощи видеокарт GeForce в задачах ИИ. 

Для демонстрации компания взяла GeForce RTX 4090, что, с одной стороны, демонстрирует максимум возможностей, но с другой, делает сравнение не очень корректным, так как RTX 4090 стоит более 1500 долларов. 

Как бы там ни было, флагман Nvidia действительно предоставляет совершенно иной уровень производительности, нежели NPU в процессорах. В сухих цифрах речь идет о 1321 TOPS у видеокарты против 10-20 TOPS в уже вышедших APU и около 50 TOPS в готовящихся к выходу. 

В реальности, как можно видеть на диаграммах, производительность тоже отличается в разы. В частности, тут Nvidia помогает ее собственная библиотека TensorRT-LLM, которая стала доступна для Windows в конце прошлого года. 

Без этой библиотеки в тесте платформы Jan.ai видеокарта обходит Ryzen 9 8945HS в девять раз, а с ней преимущество вырастает уже до 15-кратного.  

К слову, если посмотреть видеокарту попроще — RTX 4070 Laptop — разница уменьшается до 4-5 раз. И вот тут будет интересно взглянуть на новые APU Ryzen AI 300 и Intel Lunar Lake. Вполне возможно, они будут довольно близки к видеокарте, а ведь это далеко не самая доступная мобильная карта у Nvidia.