Anthropic пропонує законопроєкт про безпеку ШІ, що блокуватиме моделі у разі загрози життю понад 50 людей

Згідно із запропонованим документом, вихід нової моделі на ринок може бути заблокований, якщо існує очевидна й неминуча загроза життю понад 50 людей або ризик завдання матеріальних збитків на суму від одного мільярда доларів. Йдеться про наслідки, пов'язані з розробкою біологічної зброї, масштабними кібератаками або випадками, коли штучний інтелект виходить з-під контролю розробників.

Для оцінки безпеки пропонується створити інститут незалежних експертів, зареєстрованих у Міністерстві торгівлі США. Фінансування таких оцінювачів дозволяється коштом самих технологічних компаній за умови, що оплата праці не залежатиме від кінцевих висновків перевірки.

Процедура реагування передбачає, що у разі виявлення катастрофічних загроз фахівці мають протягом 72 годин сповістити профільне міністерство. Після цього державний орган зобов'язаний звернутися до федерального суду для отримання офіційної заборони на розповсюдження продукту, оскільки прямі позасудові обмеження з боку регуляторів проєктом не передбачені.

Запропоновані порогові показники збитків та ризиків перегукуються з нещодавніми нормативними ініціативами штату Каліфорнія. Водночас розробники намагаються зберегти баланс між регуляторним тиском та комерційною гнучкістю, віддаючи перевагу моделям контролю із залученням приватних аудиторів, подібним до практик фінансового сектору.

Що це означає: ініціатива Anthropic свідчить про намагання провідних технологічних гравців самостійно сформувати правове поле для ШІ на федеральному рівні, заклавши високі фінансові та кількісні пороги втручання, які мінімізують ризик раптових регуляторних заборон для повсякденних комерційних розробок.