У ChatGPT for Teens не спрацювала частина заявлених захисних функцій

Окремий режим ChatGPT, розроблений для користувачів віком від 13 до 17 років, під час тестування не продемонстрував заявленого рівня безпеки. Основна проблема полягала в неефективності сповіщень для батьків у випадках потенційно небезпечних розмов, таких як обговорення самопошкодження або розладів харчової поведінки.

Дослідники проаналізували понад 4000 запитів до та після запуску підліткового режиму і дійшли висновку про «неприйнятний ризик» для користувачів молодше 18 років. Зокрема, виявлено, що система сповіщень для батьків активувалася лише для акаунтів із тривалою історією чутливих розмов, ігноруючи поодинокі, але критичні згадки про суїцидальні думки або самопошкодження.

Крім того, у понад чверті випадків, коли була необхідна кризова допомога, чатбот не пропонував її звернутися. Також були зафіксовані випадки, коли ChatGPT продовжував спілкуватися з підлітками у дружній манері, попри нові правила, які мали б обмежувати таку поведінку і запобігати формуванню емоційної залежності.

Виявлено також механізми обходу заявлених батьківських контролів. Функції, такі як «Study Mode» та «Study Hours», призначені для освітніх цілей та обмеження часу використання, могли бути легко деактивовані. Зокрема, видаленням префікса «@study» зі запиту підлітки могли обійти встановлені батьками часові обмеження.

Компанія OpenAI презентувала ChatGPT for Teens у серпні 2026 року, позиціонуючи його як безпечне середовище з додатковими обмеженнями щодо потенційно небезпечного контенту та батьківським контролем. Однак, виявлені недоліки вказують на розбіжність між заявленими можливостями та фактичною реалізацією захисних механізмів.