OpenAI почне маркувати тексти ChatGPT прихованими водяними знаками

Компанія OpenAI анонсувала впровадження прихованих водяних знаків textGrain для своїх генеративних моделей ChatGPT та Codex. Нововведення стосується користувачів у Євросоюзі та буде активоване автоматично найближчими тижнями. Розробникам доступ до функції через API надано вже зараз.

Технологія textGrain працює за принципом зміни ймовірності вибору наступного слова, створюючи приховану послідовність, яку може розпізнати лише спеціальний детектор OpenAI. Важливо, що ця мітка є невидимою для користувача та зберігається навіть після копіювання тексту в інший документ. Заяви компанії свідчать, що впровадження системи не вплине на продуктивність моделей.

OpenAI стверджує, що ефективність textGrain відповідає або перевищує показники аналогічних рішень конкурентів, зокрема SynthID від Google DeepMind. Наразі інструмент для перевірки згенерованого тексту доступний лише перевіреним дослідникам та профільним експертним організаціям, а не широкому загалу.

Цей крок OpenAI є відповіддю на нові регуляторні вимоги. Зокрема, йдеться про Акт про штучний інтелект ЄС, стаття про прозорість якого набула чинності 2 серпня. Цей документ зобов'язує компанії маркувати контент, створений за допомогою ШІ, на території Євросоюзу. Раніше подібну функцію маркування впровадила компанія Anthropic для свого чат-бота Claude.