OpenAI почне додавати водяні знаки до тексту ChatGPT в ЄС

Компанія OpenAI оголосила про поступове впровадження так званих «водяних знаків» для всього текстового контенту, створеного за допомогою своїх моделей ChatGPT та Codex, орієнтованих на ринок Європейського Союзу. Ця функція буде доступна користувачам у всіх планах, починаючи з найближчих тижнів. Розробники, що використовують API OpenAI в будь-якій точці світу, вже можуть активувати цю опцію для окремих моделей, хоча вона за замовчуванням залишається вимкненою. Наразі OpenAI не планує робити текстове маркування глобальним стандартом.

Технологія водяних знаків не є видимим символом. Вона працює шляхом тонкого впливу на вибір слів моделлю, створюючи приховану структуру, яку людське око не сприймає, але може ідентифікувати спеціальний детектор. Оскільки ця «метка» вбудована безпосередньо у текст, вона зберігається навіть після копіювання та вставки. Заяви компанії свідчать, що використання водяних знаків не впливає на продуктивність моделей та не ідентифікує конкретного користувача.

Це рішення OpenAI пов'язане з виконанням прозорих правил Закону ЄС про штучний інтелект, які набули чинності 2 серпня. Згідно з цими правилами, компанії, що розробляють ШІ, зобов'язані маркувати контент, створений штучним інтелектом, таким чином, щоб інші системи могли його розпізнати. Паралельно з оголошенням, OpenAI опублікувала технічний звіт про свій метод, названий textGrain, розроблений спільно з дослідниками Пенсільванського та Єльського університетів.

Проведені OpenAI тести показали, що водяні знаки не є абсолютно надійними. Заміна лише 10% слів синонімами може знизити показник виявлення з приблизно 92% до 66%. Компанія також зазначила, що короткі фрагменти тексту, математичні відповіді та перекладений контент складніше виявити. Через ці обмеження, доступ до детектора спочатку буде наданий лише схваленим дослідникам та експертним організаціям для подальшої оцінки надійності та можливостей відповідального використання.

Схоже рішення про маркування згенерованого тексту раніше анонсувала компанія Anthropic для своєї моделі Claude, застосувавши його глобально. OpenAI раніше розробляла подібну технологію, але утримувалася від її впровадження, частково через побоювання, що користувачі можуть перейти до конкурентів, які не маркують контент. Проте, зараз Anthropic, Google, Meta, Microsoft та OpenAI входять до числа компаній, які взяли на себе зобов'язання дотримуватися Кодексу етики ЄС щодо контенту, створеного ШІ.