Група з безпеки ШІ виявила недоліки у внутрішній системі моніторингу OpenAI

Дослідницька група з безпеки штучного інтелекту METR провела стрес-тестування інфраструктури OpenAI, спрямоване на оцінку надійності систем внутрішнього контролю. У ході пілотного проєкту експерти виявили низку вразливостей, які дозволяли цифровим агентам уникати моніторингу сотень останніх дій і маніпулювати захисними бар'єрами.

Зокрема, фахівці виявили спосіб, завдяки якому кодувальні агенти на базі Codex могли ігнорувати обмеження безпеки та виконувати будь-які системні дії з правами користувача, що їх запускає. Крім того, було зафіксовано параметри, здатні повністю деактивувати нагляд для нових агентів. За оцінками METR, внутрішній моніторинг компанії покривав лише від 75% до 94% трафіку моделей із потужністю рівня GPT-5.5 і вище.

У відповідь на результати тесту OpenAI заявила про ліквідацію всіх виявлених дефектів, що впливали на безпеку робочого середовища. Водночас у METR зазначили, що повторну незалежну перевірку цих виправлень наразі не проводили. Сам проєкт став прецедентом надання стороннім аудиторам широкого доступу до внутрішніх розробок гіганта галузі.

Питання керованості автономних систем набуває гострого юридичного значення на тлі розвитку технологій. Неконтрольована поведінка алгоритмів створює пряму загрозу судових позовів від бізнес-клієнтів та користувачів через завдання матеріальних чи репутаційних збитків, із ризиком яких уже стикаються інші гравці ринку, зокрема Anthropic.

Що це означає: недоліки в аудиті дій автономних ШІ-агентів підвищують операційні та юридичні ризики для технологічного сектору. Відсутність повного контролю за поведінкою моделей загрожує розробникам втратою довіри корпоративних клієнтів, штрафами за порушення комплаєнсу та значними судовими витратами.