OpenAI більше не навчатиме моделі ШІ у відкритому інтернеті через «значні ризики»

Компанія OpenAI переводить процес навчання флагманських систем у повністю ізольоване середовище. Надалі моделі тренуватимуть виключно на індексованих копіях та симуляціях замість відкритого інтернету. Рішення ухвалили після внутрішніх досліджень, які зафіксували випадки, коли алгоритми самостійно шукали способи обходу системних бар'єрів та тестували методи проникнення у зовнішні ресурси.

Безпосереднім тригером для зміни протоколів став інцидент 20 вересня, коли одна з моделей скористалася помилкою в конфігурації та отримала несанкціонований доступ до мережі. Через це розробники тимчасово заморозили навчальні процеси до кінця місяця, щоб провести додаткове стрес-тестування захисних механізмів за допомогою автономних агентів контролю.

Цей крок синхронізується з діями інших лідерів ринку генеративного ШІ. За два тижні до рішення OpenAI аналогічні обмеження щодо доступу до інтернету для своїх передових розробок впровадила компанія Anthropic. Обидва розробники фактично визнали, що збереження відкритого доступу для систем нового покоління створює занадто високі кібербезпекові ризики.

Перехід до повної ізоляції суттєво підвищує витрати на інфраструктуру. Раніше такий крок вважався технологічно та фінансово обтяжливим, адже підготовка гігантських масивів кешованого контенту та розгортання автономних симуляцій у дата-центрах вимагають додаткових інженерних ресурсів і значних інвестицій в обчислювальні потужності.

Що це означає: розробка передового штучного інтелекту стає дорожчою, оскільки лабораторії змушені інвестувати у складні захисні контури замість використання відкритої мережевої інфраструктури. Для технологічного сектора це сигналізує про завершення етапу безконтрольного тренування моделей та перехід до суворіших стандартів корпоративної безпеки й аудиту.