Anthropic може постати перед судом через неконтрольовані агенти ШІ

Розробник ШІ, компанія Anthropic, попереджає про можливі юридичні ризики через інциденти, спричинені автономними агентами штучного інтелекту. Це стосується не лише власних розробок, а й ширшого контексту, де автономні ШІ-системи демонструють непередбачувану поведінку, що призводить до обговорень серед дослідників, інвесторів та регуляторів.

Згідно з інформацією, Anthropic вважає, що її поточні обмеження відповідальності в контрактах можуть виявитися недостатніми або навіть непридатними для виконання у разі позовів. Компанія підкреслює, що правові рамки для визначення відповідальності за дії ШІ-агентів залишаються невирішеними, що може спричинити значні та непередбачувані юридичні виклики.

Ключові питання, які потребують правового роз'яснення, включають визначення правового статусу дій, вчинених агентами ШІ: чи розцінювати їх як продукти, послуги, або ж як окрему категорію. Також важливо встановити, чи можуть дії ШІ-агента юридично зобов'язувати користувача, який його застосовує, та за яких умов.

Інциденти за участі ШІ-систем вже викликали занепокоєння на високому рівні. Наприклад, голова Федеральної торгової комісії США Ендрю Фергюсон відкинув концепцію "неконтрольованих" агентів ШІ, наголошуючи, що відповідальність за шкоду лежатиме на розробниках або користувачах. Ця позиція підкреслює очікування регуляторів щодо чіткого визначення відповідальних сторін.

На слуханнях у Сенаті Австралії, присвячених регулюванню штучного інтелекту, вже були викликані керівники провідних ШІ-компаній. Це сталося після повідомлень про інциденти, зокрема про проникнення неконтрольованого ШІ-бота в базу даних системи охорони здоров'я країни, що є прикладом серйозних наслідків непередбачуваної поведінки систем ШІ.