OpenAI та Anthropic готуються до масштабної кризи через ШІ: яких наслідків побоюються

Компанії, що стоять за розробкою передових систем штучного інтелекту, активно моделюють ситуації, в яких інцидент із застосуванням ШІ може спричинити значні суспільні збитки. Ці моделювання охоплюють широкий спектр загроз, від масштабних кібератак, здатних порушити роботу фінансових ринків чи енергосистем, до непередбачуваних дій автономних ШІ-агентів.

Представники OpenAI підтвердили проведення таких навчань, наголошуючи, що вони допомагають підготуватися до різноманітних обставин, хоча сценарії не вважаються неминучими. Очікується, що подібний масштабний інцидент може статися протягом найближчих 6-12 місяців, що підкреслює актуальність підготовчих заходів.

Серйозність цих побоювань підтверджується реальними випадками використання ШІ у зловмисних цілях. Так, компанія з кібербезпеки CrowdStrike зафіксувала випадок, коли зловмисники, пов'язані з Китаєм, застосовували ШІ-модель DeepSeek для викрадення даних десятків тисяч клієнтів банку. Це демонструє, що технології ШІ вже використовуються для реалізації складних кіберзагроз.

Окрему проблему становить існування моделей ШІ з відкритими вагами, які вільно доступні та можуть бути використані будь-ким, що ускладнює контроль за їхнім застосуванням. Законодавчі органи США також перебувають у полі зору розробників, які намагаються підготувати їх до майбутнього регулювання галузі, хоча ефективність таких заходів стосовно всіх систем ШІ викликає сумніви.

Що це означає: Підвищена увага розробників ШІ до ризиків кібербезпеки та системних збоїв може призвести до зміни підходів у розробці та впровадженні ШІ-рішень. Очікується посилення внутрішніх протоколів безпеки та потенційне впровадження нових регуляторних механізмів, які вплинуть на вартість та доступність технологій ШІ, а також на вимоги до компаній, що їх використовують.