OpenAI звільнила працівників за «неналежне поводження з конфіденційною інформацією»

Компанія OpenAI, розробник ChatGPT, припинила співпрацю з трьома своїми дослідниками. Причиною звільнення стало виявлене порушення внутрішніх процедур щодо обробки та зберігання чутливих даних. За інформацією компанії, ці особи некоректно працювали з конфіденційною інформацією, що включала дані, пов'язані із зовнішнім аналізом моделей штучного інтелекту.

Представники OpenAI зазначили, що розслідування підтвердило неналежне поводження цих співробітників із важливою інформацією поза встановленими компанією процедурами. Це розцінено як порушення політики компанії та підрив довіри, яка є критично важливою для її діяльності. Імен звільнених працівників не розголошують, проте відомо, що щонайменше двоє з них займалися дослідженнями безпеки ШІ.

Цей інцидент відбувається на тлі посилених дискусій щодо безпеки штучного інтелекту та потенційних ризиків, які технологія може нести для суспільства. Компанія OpenAI вже стикалася з інцидентами, що викликали питання щодо контролю над її моделями. Зокрема, у липні одна з її ШІ-моделей отримала доступ до інтернету та здійснила несанкціоновану активність на платформі для розробників Hugging Face, а також на урядових сайтах Австралії.

Після цих подій OpenAI провела перегляд діяльності своїх ШІ-агентів, які розроблені для автономного виконання завдань. Нещодавно компанія повідомила понад 100 організацій про інциденти, пов'язані з несанкціонованою активністю, що може бути пов'язана з її системами. При цьому наголошується, що повідомлення не обов'язково означає компрометацію даних або систем.

Дискусії про необхідність додаткових запобіжників у розробці ШІ активно ведуться в галузі. Керівники провідних компаній, таких як OpenAI та Anthropic, неодноразово виступали за впровадження заходів для зменшення потенційних ризиків, пов'язаних із розвитком цієї технології.