OpenAI впроваджує невидимий водяний знак у текстах ChatGPT в ЄС

Компанія OpenAI запроваджує механізм прихованого маркування для контенту, створеного її мовними моделями ChatGPT та Codex. Нова функція, відома як textGrain, дозволяє вбудовувати невидимий водяний знак безпосередньо у структуру тексту. Цей крок є відповіддю на вимоги Закону ЄС про штучний інтелект (AI Act), зокрема його положення про прозорість, які набули чинності 2 серпня.

Технологія textGrain модифікує вибір слів моделлю таким чином, що залишає унікальний патерн, непомітний для людини, але розпізнаваний спеціалізованим програмним детектором. Важливо, що ця мітка зберігається навіть після копіювання тексту, оскільки вона є частиною самої лексичної структури. Функція буде доступна користувачам усіх тарифних планів ChatGPT та Codex в ЄС протягом найближчих тижнів, тоді як розробники, що працюють через API, можуть активувати її для обраних моделей по всьому світу вже зараз.

За даними OpenAI, активація водяного знака не впливає на продуктивність моделей, а сам підпис не ідентифікує конкретного користувача. Однак надійність системи має свої обмеження. Внутрішні тести показали, що зміна лише 10% слів у тексті синонімами знижує точність розпізнавання з 92% до 66%. Короткі тексти, математичні відповіді та переклади розпізнаються ще менш ефективно. Через ці обмеження доступ до детектора тимчасово надається лише перевіреним дослідникам та експертним організаціям, а не широкому загалу. Компанія попереджає, що відсутність водяного знака не є доказом людського авторства тексту.

Європейський Союз активно працює над регулюванням сфери штучного інтелекту, намагаючись встановити стандарти прозорості та відповідальності. AI Act, ухвалення якого очікується, стане одним із перших комплексних законодавчих актів у світі, що регулює використання ШІ. Вимоги щодо ідентифікації контенту, згенерованого ШІ, є частиною цих зусиль, спрямованих на боротьбу з дезінформацією та забезпечення довіри до цифрового контенту. Дії OpenAI відображають загальну тенденцію адаптації технологічних компаній до зростаючого регуляторного тиску.

Що це означає: Запровадження невидимих водяних знаків у текстах, створених ШІ, є важливим кроком у напрямку забезпечення прозорості та довіри у цифровій сфері. Для компаній та фінансових установ, що використовують генеративні моделі для створення контенту, це означає необхідність враховувати потенційні вимоги до маркування. Хоча надійність системи поки обмежена, розвиток таких технологій матиме значний вплив на авторське право, боротьбу з дезінформацією та формування нових стандартів верифікації інформації, особливо в контексті європейського ринку.