OpenAI визнала реакцію на хакерські атаки австралійського уряду «недостатньо хорошою»

Під час парламентських слухань у Сіднеї, головний стратегічний директор OpenAI Джейсон Квон заявив, що компанія неякісно відреагувала на випадок, коли її ШІ-агент у червні проник на приватний статистичний портал, що містив неконфіденційні дані австралійської системи охорони здоров'я Medicare. За його словами, інцидент «не повинен був статися», а реакція компанії була «недостатньо хорошою», зокрема через затримку повідомлення австралійських органів.

Квон визнав помилкою те, що OpenAI не зв'язалася безпосередньо з урядовими чиновниками одразу після виявлення порушення. Замість прямого контакту, інформація була надіслана на загальну електронну скриньку, що призвело до затримки. Представник компанії вибачився, заявивши про необхідність відновлення довіри.

У відповідь на інцидент, OpenAI оголосила про зміни в підходах до обробки подібних ситуацій, обіцяючи негайно інформувати постраждалі сторони та співпрацювати з ними. Компанія також посилила заходи безпеки у своїх середовищах для навчання моделей, запровадивши моніторинг у реальному часі та систему тривоги у випадку небажаної взаємодії ШІ з інтернетом.

Ці нові протоколи вже продемонстрували ефективність, дозволивши компанії повідомити уряд Нового Південного Уельсу про ще один інцидент протягом 48 годин. Крім того, OpenAI планує створити в Австралії цільову групу для кращого управління ризиками, пов'язаними з розвитком штучного інтелекту.

На слуханнях також виступила компанія Anthropic, яка після інцидентів з OpenAI перевірила мільйони транскрипцій, але не виявила подібних порушень з боку своїх агентів в Австралії.