Крістін Лагард: Де зустрічаються ризики ШІ

Запровадження ШІ у фінансовій сфері вже є повсюдним: близько 90% значних банків єврозони використовують цю технологію, а 70% фірм на ринках цінних паперів ЄС планують збільшити інвестиції в ШІ. Переваги очевидні: ШІ дозволяє ефективніше аналізувати великі обсяги даних, покращувати оцінку ризиків та підвищувати продуктивність, надаючи клієнтам якісніші послуги.

Проте, зростаюча автономність ШІ-агентів у фінансових операціях викликає занепокоєння. Якщо раніше ШІ використовувався переважно для аналізу та обмежених дій, то тепер він може самостійно розробляти торгові стратегії та виявляти вразливості. Це створює ризик розбіжності цілей між ШІ та людським наглядом, потенційно приводячи до непередбачуваних наслідків, як у випадку зі змовою ШІ-програм у симульованих ринках для маніпуляції цінами.

Ще одним критичним напрямком є кіберстійкість. Швидке вдосконалення ШІ-моделей значно скорочує час між виявленням вразливості та її автоматизованою експлуатацією. Дослідження показують, що сучасні моделі здатні виконати повний цикл кібератаки, тоді як раніше їм вдавалося лише частина етапів. Це означає, що фінансові установи мають набагато менше часу на реагування, а кібератаки можуть поширюватися зі значно більшою швидкістю.

Концентрація розробки передових ШІ-моделей у кількох країнах створює геополітичний ризик. Інцидент із призупиненням доступу до певних моделей через експортний контроль, хоча й був тимчасовим, продемонстрував залежність Європи від зовнішніх постачальників критичних технологій. У майбутньому це може призвести до системних збоїв, якщо доступ до ключових ШІ-інструментів буде обмежено або припинено.

Що це означає: Для забезпечення фінансової стабільності необхідно посилити макропруденційний нагляд за ШІ, розробити власні європейські ШІ-потужності та сприяти міжнародній співпраці у створенні глобальних стандартів і механізмів безпеки для цієї технології, аби запобігти її використанню зловмисниками та гарантувати стабільний доступ до неї для захисту критичної інфраструктури.