OpenAI маркуватиме згенерований текст водяними знаками через вимоги ЄС

OpenAI анонсувала наміри маркувати контент, створений її моделями штучного інтелекту, так званими «водяними знаками». Цей крок є відповіддю на зростаючі запити щодо прозорості та ідентифікації ШІ-генерованих матеріалів, особливо в контексті можливих зловживань та поширення дезінформації.

Впровадження таких механізмів, як правило, передбачає інтеграцію непомітних цифрових ідентифікаторів у вихідний текст або зображення. Це дозволить відрізняти контент, створений алгоритмами, від того, що написаний або створений людиною. Подібні технології є предметом активних розробок та вдосконалень у сфері штучного інтелекту.

Ця ініціатива OpenAI відбувається на тлі посиленої уваги до регулювання штучного інтелекту, зокрема з боку Європейського Союзу. ЄС активно працює над «Законом про ШІ» (AI Act), який має на меті створити уніфіковану правову базу для розробки та використання систем ШІ, з особливим акцентом на прозорість, безпеку та захист прав громадян. Однією з ключових вимог є саме можливість ідентифікації контенту, згенерованого ШІ.

Регуляторні органи різних країн все частіше висловлюють занепокоєння щодо потенційних ризиків, пов'язаних з використанням ШІ, включаючи плагіат, поширення фейкових новин та маніпуляції громадською думкою. Тому запровадження систем маркування розглядається як один з інструментів для пом'якшення цих ризиків та забезпечення відповідального розвитку технологій штучного інтелекту.

Що це означає: Цей крок може встановити новий стандарт у галузі ШІ, підвищивши довіру до згенерованого контенту та зменшивши можливості для маніпуляцій. Для бізнесу та медіа це означатиме необхідність адаптації до нових вимог щодо прозорості та потенційне впровадження інструментів для перевірки походження матеріалів. Для розробників ШІ це стане стимулом для інтеграції аналогічних функцій у свої продукти, формуючи загальногалузеві практики.