Tenstorrent представила новый комплект разработки Wormhole и мощные рабочие станции с искусственным интеллектом

Tenstorrent, производитель чипов искусственного интеллекта, возглавляемый знаменитым инженером-микропроцессором Джимом Келлером, объявил о выпуске новых комплектов для разработки искусственного интеллекта и рабочих станций на базе передовых ускорителей Wormhole компании. Tenstorrent ранее предлагала комплекты для разработки на базе своего AI-процессора Grayskull (и будет продолжать это делать, пока есть в наличии), но Wormhole имеет более новую, более мощную архитектуру, и это первый раз, когда компания предлагает готовые рабочие станции целиком. вокруг своих фишек.

Tenstorrent использует уникальный подход к ускорению искусственного интеллекта, используя бесплатный процессор RISC-V ISA и стеки программного обеспечения с открытым исходным кодом. Конечная цель — создать высокопроизводительные, хорошо масштабируемые процессоры искусственного интеллекта с низким входным барьером и более низкой совокупной стоимостью владения, чем у конкурирующих решений. Но чтобы добиться успеха в области ИИ, разработчики должны быть знакомы с чипами и программным обеспечением, и именно здесь на помощь приходят новые комплекты разработки и рабочие станции.

Дорожная карта кремния для Tenstorrent

Ускорители центров обработки данных Tenstorrent и эти новые комплекты разработки используют одну и ту же архитектуру и работают одинаково, поэтому разработка на одной из этих новых карт или рабочих станций и расширение в облако должны быть довольно простыми. Ключевым моментом является предоставление комплектов разработки в руки разработчиков.

«Всегда приятно делать больше наших продуктов доступными для разработчиков, — сказал Джим Келлер, генеральный директор Tenstorrent. — Запуск систем разработки с картой Wormhole помогает разработчикам масштабироваться и работать над многочиповым программным обеспечением искусственного интеллекта». «В дополнение к этому запуску мы очень рады тому, что запись и воспроизведение звука второго поколения Blackhole идут очень хорошо».

Blackhole — это автономный AI-компьютер следующего поколения от Tenstorrent, который будет оснащен 140 ядрами Tensix++ компании, 16 ядрами ЦП и множеством высокоскоростных подключений. Blackhole будет предлагать до 790 TOPS вычислительной производительности с типом данных FP8, но его появление запланировано на некоторое время. Wormhole — основа этих новых инструментов разработки и рабочих станций — производится на 12-нм техпроцессе и имеет 80 ядер Tensix+ от Tenstorrent, 16 каналов Ethernet 100 Гбит/с, 6 каналов памяти DDR6 и 16 линий подключения PCIe Gen 4. меньше ядер, чем у Grayskull, но использует более совершенную микроархитектуру и обеспечивает гораздо большую производительность — 328 TOPS против 276 TOP.

TT-Loudbox и TT-QuietBox — первые рабочие станции Tenstorrent.

Tenstorrent предлагает две карты на базе Wormhole: N150 и N300, а также две рабочие станции: TT-LoudBox и TT-QuietBox. N150 оснащен одним чипом «Червоточина», а N300 — двумя. Их цена составит 1000 и 14 000 долларов соответственно. Каждая из TT-LoudBox и TT-QuietBox будет содержать по четыре карты N300 (в общей сложности восемь чипов Wormhole в сети 2×4 на систему), а также 512 ГБ оперативной памяти, 4 ТБ хранилища NVMe и двойной порт Ethernet по 10 ГБ. Обе системы также можно опционально установить в стойку, но на этом сходство заканчивается. TT-LoudBox стоимостью 12 000 долларов имеет воздушное охлаждение и оснащен парой восьмиядерных процессоров Intel Xeon, а TT-QuietBox стоимостью 15 000 долларов имеет жидкостное охлаждение и один 16-ядерный процессор AMD EPYC. Что касается того, насколько громкими или тихими являются системы, реальных измерений в децибелах не было, но мне сказали, что они похожи на мощные компьютерные системы, а не на массивные серверы.

N150, N300 и TT-LoudBox Доступно на Тенторренте сейчас. TT-QuietBox также присутствует в списке, но он доступен для предварительного заказа и его поставки начнутся не раньше 8-10 недель.