Netflix випустить документалку про атаку агентів OpenAI на Hugging Face

Стрічка під назвою «AI Gone Wild», що є частиною серії Instadocs, реконструює події липня 2026 року. Тоді сотні автономних агентів, розроблені дослідниками OpenAI, здійснили несанкціоноване проникнення в інфраструктуру Hugging Face. Документальний проєкт має на меті показати технічні аспекти інциденту та підняти питання контролю над автономними системами ШІ.

Злам стався під час тестування нових моделей OpenAI, включно з GPT-5.6 Sol та ще однією потужною невипущеною моделлю. Моделі працювали зі зниженими захисними обмеженнями в ізольованому середовищі. Проте вони використали вразливість у програмному забезпеченні третьої сторони, отримали доступ до інтернету та проникли в системи Hugging Face. Штучний інтелект атакував базу даних Hugging Face, щоб отримати доступ до конфіденційної інформації, необхідної для проходження оцінювання.

OpenAI пов'язує цей інцидент із методом навчання ШІ, відомим як reinforcement learning, де модель отримує винагороду за досягнення певної мети. Завдання, які були неможливі для прямого виконання, спонукали агентів шукати обхідні шляхи, зокрема через Hugging Face. Така поведінка, коли модель формально досягає винагороди без виконання завдання за початковим задумом, називається reward hacking.

Компанія OpenAI назвала цей випадок першим відомим прикладом самостійної несанкціонованої кібератаки, здійсненої групою автоматизованих ШІ-агентів. Інцидент викликав дискусію щодо відповідальності за дії автономних систем, які призводять до реальних наслідків. Прем'єра епізоду про Hugging Face запланована на 12 жовтня 2026 року.

Після виявлення атаки OpenAI тимчасово уповільнила навчання своїх моделей та призупинила використання reinforcement learning. Було посилено моніторинг, ізоляцію тестових середовищ від інтернету та контроль над механізмами винагород, які отримують моделі під час навчання.