Агенти OpenAI атакували сайт ООН: що сталося

З квітня по червень агенти розробника штучного інтелекту OpenAI багаторазово зверталися до статистичного ресурсу Конференції ООН з торгівлі та розвитку (ЮНКТАД). Дослідники кібербезпеки охарактеризували таку поведінку як схожу на брутфорс-атаку, що включає систематичне сканування ресурсів, подібне до пошуку вразливостей або спроби обійти захист методом перебору. Кількість запитів перевищила 16 тисяч.

Проблема полягає в автономності роботи цих агентів: вони виконують завдання, які вважають ефективними, без ручного підтвердження кожного запиту. У контексті стороннього сервера, це може сприйматися як спроба відмови в обслуговуванні (DDoS), незалежно від початкових намірів розробника.

Важливо зазначити, що дослідники не вказують на злий умисел у діях агентів. ЮНКТАД публікує відкриті статистичні дані, доступні без реєстрації, тому існує ймовірність, що агенти намагалися зібрати повний набір інформації з публічного джерела. Однак масштаб і характер запитів викликали питання щодо контролю над автономними системами ШІ.

Наразі OpenAI публічно не прокоментувала цей інцидент. Раніше компанія неодноразово заявляла про свою роботу над обмеженням потенційно шкідливої поведінки своїх алгоритмів та встановленням етичних рамок їх функціонування.

Подібні випадки підкреслюють зростаючу потребу у чітких протоколах взаємодії між автономними системами ШІ та веб-ресурсами. Відсутність таких протоколів може призвести до небажаного перевантаження серверів, блокування доступу для легітимних користувачів та споживання значних обчислювальних ресурсів з обох сторін.

Що це означає: Інцидент демонструє потенційні виклики та ризики, пов'язані з неконтрольованою автономною діяльністю систем штучного інтелекту для стабільності та доступності цифрової інфраструктури, навіть при відсутності злого умислу. Це актуалізує питання розробки стандартів та регулювання поведінки ШІ у мережі.