Microsoft выпустит новую ИИ-модель для конкуренции с OpenAI и Google
Разработкой MAI-1 руководит Мустафа Сулейман, бывший глава Google AI, который занимал пост генерального директора стартапа в сфере искусственного интеллекта Inflection. В марте Microsoft приобрела большую часть сотрудников и интеллектуальную собственность этого стартапа за $650 млн. Хотя MAI-1 может опираться на методы, привнесенные бывшими сотрудниками Inflection, по словам двух сотрудников Microsoft, знакомых с проектом, это совершенно новая большая языковая модель.
С 500 млрд параметров MAI-1 будет значительно превосходить предыдущие открытые модели Microsoft, например, Phi-3. Это потребует большей вычислительной мощности и обучающих данных. Сообщается, что по своим масштабам MAI-1 приближается к GPT-4, которая, по слухам, имеет более 1 трлн параметров, и превосходит модели Meta (компания признана экстремистской и запрещена в РФ) и Mistral с 70 млрд параметров.
Разработка MAI-1 говорит о том, что Microsoft придерживается двойного подхода к искусственному интеллекту. С одной стороны, компания фокусируется на небольших локальных языковых моделях для мобильных устройств, а с другой — на более крупных, передовых моделях, работающих на облачных мощностях. По слухам, Apple также изучает подобный подход. Кроме того, разработка MAI-1 подчеркивает стремление Microsoft к разработке ИИ независимо от OpenAI. В настоящее время технологии OpenAI питают самые амбициозные генеративные функции ИИ Microsoft, включая чат-бот, встроенный в Windows.
Точное предназначение MAI-1 пока не определено даже внутри самой Microsoft. Согласно одному из источников The Information, применение будет зависеть от конечной производительности модели. Для обучения модели Microsoft выделила большой кластер серверов с графическими процессорами Nvidia и собирает обучающие данные из различных источников, включая текст, сгенерированный GPT-4 от OpenAI, и общедоступные данные из интернета.
В зависимости от прогресса, достигнутого в ближайшие недели, Microsoft может представить предварительную версию MAI-1 уже на своей конференции для разработчиков Build в конце этого месяца.