Meta випустила відкриту модель Muse Spark Open: для запуску знадобиться $11 000

Компанія Meta випустила у відкритий доступ ваги своєї моделі Muse Spark Open. Це мультимодальна система типу Mixture-of-Experts на 816 мільярдів параметрів, з яких 42 мільярди активні одночасно. Модель розроблена для програмування, агентних завдань та багатоетапних міркувань, працює з контекстним вікном у 1 мільйон токенів і навчена на даних понад ста мовами.

Muse Spark Open базується на попередній версії Muse Spark 1.2, до якої було додано пост-тренінг для підвищення безпеки при використанні поза внутрішніми сервісами Meta. Розробники стверджують, що модель успішно пройшла внутрішні вимоги Meta Superintelligence Scaling Framework. Архітектура оптимізована для ефективної роботи з такими інструментами, як SGLang, vLLM, TensorRT-LLM, Apple MLX, llama.cpp та PyTorch.

За внутрішніми тестами Meta, модель демонструє високі результати: 61,8 бала у JobBench та 89,2 бала у MCP-Atlas, що перевіряє роботу з інструментами. Ці показники, за даними компанії, перевищують результати конкурентів. Проте, незалежна верифікація цих даних наразі відсутня. Раніше лідерами у відкритому сегменті були моделі від китайських лабораторій, і згідно з індексом Artificial Analysis, Muse Spark Open може поступатися їм, якщо спиратися на показники її основи (Muse Spark 1.2).

Однією з ключових переваг Muse Spark Open Meta бачить можливість її локального запуску. Модель була адаптована для роботи на пристроях Apple з MLX, що дозволяє її функціонування на робочих станціях, таких як Mac Studio з чіпами M5 Ultra. Однак такий запуск вимагає значних інвестицій: для роботи моделі на двох Mac Studio з M5 Ultra знадобиться близько 11 000 доларів США.

Можливості моделі тестувалися в агентних сценаріях, зокрема, вона успішно вносила реальні зміни в iOS-клієнт Mastodon Ice Cubes, виправляючи помилки та додаючи функції. Також Muse Spark Open показала ефективність у роботі з відеоредактором DaVinci Resolve, аналізуючи та редагуючи відеоматеріали. Доступ до моделі через API забезпечують Baseten, Fireworks AI, Groq та інші платформи, а її ваги доступні для завантаження на Amazon SageMaker AI, Google Cloud Model Garden та Hugging Face.

Ліцензія Muse Model License передбачає широкі можливості для вільного використання, модифікації та донавчання моделі, що відкриває доступ до неї багатьом розробникам. Проте, комерційні умови мають певні обмеження, і продукти, створені на базі моделі, повинні містити позначку «Built with Muse Spark Open». Цей крок є поверненням Meta до стратегії відкритих ваг після попередніх закритих релізів, таких як Muse Spark 1.0, що викликали розчарування серед розробників.