Mistral представила Large 4 с триллионом параметров — веса обещают открыть до конца октября

Mistral запустила предварительную версию Large 4. Новая мультимодальная модель уже доступна через API в Mistral Studio, а публикацию её весов компания планирует до конца октября.

В Large 4 используется архитектура Mixture of Experts: всего у модели около 1,05 трлн параметров, но при обработке запроса активируются 49 млрд. Контекстное окно составляет 1 млн токенов. Модель работает с текстом и изображениями.

Разработчики делают акцент на программировании, задачах для ИИ-агентов и работе с визуальной информацией. Mistral заявляет о конкурентоспособности новинки относительно других открытых моделей, однако это оценка самой компании — окончательные выводы потребуют независимых тестов.

Пока речь идёт именно о предварительном доступе через сервис Mistral. Веса ещё не опубликованы: их обещают выпустить вместе с подробностями об архитектуре, обучении и результатах тестирования. Компания также продолжает дорабатывать модель перед этим релизом.