Amazon робить свій найбільший крок проти Nvidia з новим інструментом розробки TorchNeuron

Новий інструмент TorchNeuron інтегрується з PyTorch, популярним відкритим фреймворком для розробки моделей ШІ. За даними Amazon, це дозволяє розробникам переносити свої PyTorch-додатки на чипи Trainium, змінюючи лише одну конфігураційну строчку без необхідності переписувати код. Близько 85% ШІ-додатків створюються за допомогою PyTorch, що робить цей інструмент значним кроком у напрямку широкої інтеграції.

PyTorch був розроблений Facebook, а з 2022 року адмініструється Linux Foundation. NVIDIA значні зусилля доклала для забезпечення безперебійної підтримки PyTorch своєю програмною інфраструктурою CUDA, що дозволяє запускати ШІ-додатки на GPU та інших апаратних рішеннях компанії. Це фактично зробило апаратне забезпечення NVIDIA стандартом за замовчуванням у екосистемі PyTorch.

Amazon стверджує, що перехід на Trainium є не лише простим, але й надає стартапам доступ до повної екосистеми хмарних сервісів AWS. За словами компанії, це є перевагою порівняно з так званими «неохмарними» провайдерами, багато з яких тісно пов’язані з апаратним забезпеченням NVIDIA. AWS підкреслює, що їхня інфраструктура вже містить все необхідне для масштабування проектів від прототипу до повноцінного виробництва.

Завдяки тому, що чипи Trainium можуть обробляти як навчання (тренування моделі ШІ), так і інференцію (застосування готової моделі), а також тісній інтеграції з хмарною інфраструктурою, Amazon обіцяє економію коштів для стартапів. Компанія посилається на приклади, де перехід на Trainium забезпечив значне збільшення ефективності витрат при збереженні високої точності.

Крім власного інструменту, Amazon активно працює над тим, щоб зробити сам фреймворк PyTorch менш залежним від конкретного апаратного забезпечення. Компанія долучається до спільноти PyTorch, вносячи зміни до коду, спрямовані на усунення прив'язок до певних чипів, що має зробити PyTorch більш апаратно-незалежним для всієї спільноти розробників.

Що це означає: Цей крок Amazon спрямований на створення прямої конкуренції апаратним рішенням NVIDIA, зменшуючи їхнє домінування у сфері ШІ-розробки. Для бізнесу та стартапів це може відкрити доступ до ширшого вибору апаратних рішень та хмарних сервісів, потенційно знижуючи витрати та надаючи більшу гнучкість у розгортанні ШІ-додатків. Це також сприяє дефрагментації ринку та стимулює інновації серед виробників чипів та хмарних провайдерів.