OpenAI стверджує, що використання ChatGPT підлітками обмежене, але дослідження виявило «неприйнятний ризик»

Компанія OpenAI, розробник популярного чат-бота ChatGPT, повідомила про відносно обмежене використання свого сервісу підлітками, переважно для навчання. Однак, паралельно оприлюднене дослідження від Common Sense Media вказує на те, що ChatGPT все ще становить "неприйнятний ризик" для молоді, оскільки заявлені функції безпеки, зокрема сповіщення батьків про розмови, що стосуються самопошкодження, часто не спрацьовують.

Влітку OpenAI представила спеціальну версію "ChatGPT для підлітків", яка мала включати функції для "здорового використання" та додаткові механізми контролю для батьків. Ці механізми передбачали запобігання емоційній залежності від чат-бота, блокування сексуалізованого контенту та нагадування при обміні чутливими зображеннями. За даними OpenAI, середній час використання ChatGPT підлітками становить менше 15 хвилин на день, а автоматичні нагадування про перерву ефективно спрацьовують, спонукаючи майже половину користувачів припинити роботу з чат-ботом.

Згідно з дослідженням Common Sense Media, навіть після впровадження цих заходів, тестові акаунти, зареєстровані як підліткові та пов'язані з батьківськими, не генерували сповіщень про розмови, що стосуються суїцидальних думок, самопошкодження чи розладів харчової поведінки. Повідомлення батькам надходили лише зі старих акаунтів з тривалою історією чутливих розмов. Крім того, чат-бот не завжди надійно рекомендував звертатися до кризових ліній чи фахівців.

OpenAI відкинула частину висновків дослідження, зазначивши, що тестування могло бути проведено до повної активації батьківського контролю. Проте, виявлені недоліки викликають занепокоєння щодо ефективності заявлених систем захисту. Протягом останніх років зростає суспільний тиск на технологічні компанії через вплив їхніх платформ на психічне здоров'я молоді.

Що це означає: Ця ситуація підкреслює зростаючу потребу у розробці та вдосконаленні надійних механізмів безпеки у сфері штучного інтелекту, особливо коли йдеться про взаємодію з неповнолітніми. Юридичні та регуляторні органи можуть посилити вимоги до провайдерів ШІ-рішень щодо прозорості та ефективності систем захисту, що може призвести до зміни бізнес-моделей та збільшення інвестицій у кібербезпеку та етичні аспекти розробки ШІ. Для батьків і освітніх установ це означає необхідність посиленої уваги до цифрового середовища, в якому перебувають підлітки, та критичного оцінювання ефективності заявлених заходів безпеки.