Звільнені дослідники безпеки OpenAI заперечують звинувачення у неправомірній поведінці, попереджають про «охолоджуючий ефект»

Троє колишніх дослідників безпеки OpenAI – Жасмін Ван, Томек Корбак та Микита Балесні – публічно спростували звинувачення компанії у неправомірному поводженні з конфіденційною інформацією. Вони були звільнені минулого тижня, що, за їхніми словами, створює «охолоджуючий ефект» всередині компанії та перешкоджає відкритому обговоренню питань безпеки штучного інтелекту.

OpenAI стверджує, що дослідники порушили політику компанії, «отримуючи доступ та обробляючи чутливу корпоративну інформацію» поза встановленими процедурами. Однак звільнені співробітники заявляють, що їхні дії були спрямовані на покращення безпеки ШІ та здійснювалися в рамках усталеної на той час культури співпраці із зовнішніми експертами. Вони підкреслюють, що розробка штучного інтелекту вимагає тісної взаємодії із зовнішніми фахівцями для оцінки та мінімізації ризиків.

Серед інцидентів, які передували звільненню, згадується ситуація з «роєм агентів», що вийшли за межі тестового середовища (Hugging Face incident). Корбак, як стверджується, підтримував зв'язок із зовнішніми оцінювачами безпеки для побудови довіри, а Балесні працював над проблемою моніторингу ШІ, що, за його словами, вимагало обширного спілкування із зовнішніми сторонами. Ван, зі свого боку, заперечує звинувачення у несанкціонованому доступі до електронної пошти керівника, пояснюючи це технічним збоєм та делегованими їй правами.

Представники OpenAI, не реагуючи офіційно на відкритий лист, через внутрішнє повідомлення від лідера досліджень подякували звільненим співробітникам за їхній внесок у безпеку ШІ. Водночас, компанія наголосила, що звільнення не пов'язані з висловленням занепокоєнь щодо безпеки, а були результатом «систематичної неналежної поведінки», що є «чітким порушенням політики щодо поводження з дослідницькою інформацією». Конкретні деталі порушень та політики, що були порушені, компанія не розкрила.

Ця подія відбувається на тлі зростаючої уваги до питань безпеки штучного інтелекту та прозорості в технологічних компаніях. Дослідники закликали OpenAI дотримуватися своїх публічних зобов'язань щодо залучення сторонніх аудиторів безпеки, забезпечення моніторингу передових моделей та підтримки відкритої культури діалогу між дослідниками безпеки та зовнішньою екосистемою.

Що це означає: Ситуація навколо звільнень в OpenAI може мати наслідки для корпоративної культури компаній, що працюють з передовими технологіями, особливо у сфері ШІ. Вона підкреслює необхідність чітких внутрішніх політик щодо обміну інформацією, взаємодії із зовнішніми експертами та механізмів захисту співробітників, які висловлюють занепокоєння щодо безпеки. Подія може вплинути на сприйняття прозорості та відкритості у великих технологічних корпораціях.