Ось чому OpenAI відсутній у загальногалузевих зусиллях Nvidia, спрямованих на припинення діяльності небезпечних ШІ-агентів

Nvidia представила нову ініціативу під назвою Open Agent Safety Platform, спрямовану на поширення власних технологій безпеки ШІ-агентів в екосистемі штучного інтелекту. Ця платформа є відповіддю на інциденти з неконтрольованими ШІ-агентами, про які повідомляли провідні лабораторії, такі як Anthropic та OpenAI.

Незважаючи на відсутність OpenAI у списку офіційних учасників консорціуму, представник компанії заявив, що OpenAI підтримує роботу Nvidia. Зазначається, що OpenAI співпрацює з Nvidia над безпекою агентів, зокрема, над програмним забезпеченням OpenShell, яке створює "пісочницю" для запобігання виходу агентів за межі встановлених кордонів.

Однією з причин, чому деякі великі компанії можуть не бажати публічно приєднуватися до ініціативи Nvidia, є її часткова залежність від апаратного забезпечення. Open Agent Safety Platform включає пропрієтарний апаратний компонент Nvidia Sentry, що працює на спеціальних процесорах BlueField-4 і дозволяє моніторити поведінку агентів на апаратному рівні, не даючи їм виявити спостереження.

Ця апаратна складова означає, що повноцінне використання платформи забезпечує найкращі результати саме на обладнанні Nvidia, що може бути невигідним для конкурентів або компаній, які прагнуть зберегти незалежність. Проте, такі конкуренти, як Arm та Intel, приєдналися до консорціуму, оскільки OpenShell може бути адаптований для роботи з іншими чіпами.

Водночас, OpenAI активно розвиває власні рішення для кібербезпеки ШІ, включаючи внутрішні системи захисту та окремий консорціум Defense Factory для обміну інформацією. До нього увійшли Amazon Web Services та Google, які також не приєдналися до технологічного підходу Nvidia.