Meta випустила ШІ-модель, яку можна запустити на двох ноутбуках Mac

Розроблена Meta ШІ-модель Muse Spark Open має 816 мільярдів загальних параметрів (42 мільярди активних) та контекстне вікно в 1 мільйон токенів. Ключовою особливістю є її нативна мультимодальність, що дозволяє працювати з різними типами даних. Основне призначення моделі — підтримка довготривалих завдань, розробка складного програмного забезпечення та багатокрокових міркувань, що робить її інструментом для розширення можливостей автоматизації та інтелектуальної обробки.

Доступ до Muse Spark Open забезпечується через API-платформи таких компаній, як Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter та Together AI. Саму модель можна завантажити через провідні хмарні сервіси: Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face та Microsoft Foundry Models. Це розширює коло потенційних користувачів і розробників, забезпечуючи інтеграцію в існуючі екосистеми.

Модель підтримує широкий спектр рушіїв, включаючи SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp та Unsloth. Вона оптимізована для роботи з різними апаратними платформами, зокрема для кремнієвих архітектур AMD, Apple, Intel та NVIDIA. Для розробників доступні інструменти для донавчання ШІ, такі як PyTorch і TorchTitan, що дозволяє адаптувати модель до специфічних потреб. Meta заявляє про значне прискорення на ядрах GPU NVIDIA та AMD, а також покращення наскрізної продуктивності на AMD MI350.

Meta підкреслює, що версія моделі з відкритими вагами пройшла додаткове посттренувальне навчання з безпеки. Внутрішня оцінка за системою Meta Superintelligence Scaling Framework підтвердила відповідність моделі встановленим порогам для випуску. Це має на меті гарантувати відповідальне використання та мінімізувати потенційні ризики, пов'язані з передовими ШІ-технологіями.

Що це означає: Випуск такої потужної відкритої ШІ-моделі від Meta може значно прискорити інновації в галузі розробки програмного забезпечення та агентних систем. Доступність моделі для широкого кола розробників та її оптимізація під різні апаратні платформи може знизити бар'єри для створення нових бізнес-рішень, автоматизації складних процесів та розвитку інтелектуальних продуктів. Це також посилює конкуренцію на ринку штучного інтелекту, що може сприяти загальному технологічному прогресу та появі нових інвестиційних можливостей у секторі ШІ.