До 128 ГБ пам'яті і 1 петафлопс: NVIDIA RTX Spark запускає ШІ без хмари

Платформа NVIDIA RTX Spark, представлена у рамках презентації Microsoft Windows & Surface, призначена для автономної роботи з інструментами штучного інтелекту без необхідності постійного підключення до хмарних ресурсів. Вона інтегрує обчислювальні ядра Arm NVIDIA Grace з графічним процесором Blackwell RTX та власною оперативною пам'яттю, поєднаними за допомогою інтерфейсу NVLink C2C.

Ключовою особливістю RTX Spark є її продуктивність: топовий чип здатен досягати 1 петафлопса при виконанні завдань ШІ. Це дозволяє запускати великі мовні моделі з понад 120 мільярдами параметрів безпосередньо на пристрої. Такі можливості відкривають шлях для значної оптимізації робочих процесів та підвищення конфіденційності даних, які обробляються локально.

Інтеграція даної платформи очікується в нових поколіннях персональних комп'ютерів. Зокрема, Microsoft вже анонсувала ноутбук Surface Laptop Ultra на базі RTX Spark. Інші великі виробники також готуються випустити власні пристрої, які використовуватимуть потужності нової архітектури NVIDIA. Ці пристрої позиціонуються як універсальні рішення для роботи, створення контенту та розваг.

Поява таких потужних локальних ШІ-рішень може спричинити зміни на ринку хмарних послуг. Хоча хмарні обчислення залишаться критично важливими для масштабних корпоративних завдань, зростання можливостей пристроїв кінцевого користувача для виконання складних ШІ-операцій може зменшити залежність від хмарних інфраструктур для певних типів завдань, особливо тих, що вимагають високої конфіденційності та низької затримки.

Що це означає: Для бізнесу та фінансового сектору це може призвести до зниження операційних витрат на хмарні сервіси для обробки даних ШІ, підвищення безпеки та конфіденційності через локальне виконання завдань. З'являться нові можливості для розробки спеціалізованого програмного забезпечення, що працює офлайн, та прискориться прийняття рішень за допомогою ШІ без залежності від стабільності інтернет-з'єднання.