Anthropic надає дослідникам METR доступ на рівні співробітників

Розробник штучного інтелекту Anthropic відкриває незалежний внутрішній доступ до своїх моделей, практик безпеки та процесів управління ризиками для шести дослідників з некомерційної організації METR. Це включає надання дослідникам METR корпоративних ноутбуків, офісних приміщень та внутрішніх інструментів, що відповідають доступу внутрішніх команд Anthropic з оцінки ризиків.

Така домовленість покликана забезпечити публічну підзвітність компанії за свої рішення. METR публікуватиме власні оцінки ризиків та інцидентів, пов'язаних з моделями Anthropic, при цьому Anthropic відмовилася від права вето на ці публікації. Компанія може лише вимагати вилучення інформації, що відноситься до вузько визначених категорій, таких як дані клієнтів або конфіденційні архітектури моделей. METR, своєю чергою, може публічно заявляти про ці вилучення та оцінювати їхню обґрунтованість.

Цей крок є частиною ширшої ініціативи щодо посилення незалежного контролю над розвитком передових моделей ШІ. Інші великі гравці ринку, такі як OpenAI, Google, Meta, Nvidia та xAI, також зобов'язалися долучитися до механізмів незалежного аудиту в рамках домовленостей, спрямованих на підвищення безпеки та прозорості. Anthropic розбудовує трирівневу систему оцінювання, де METR представляє найвищий рівень доступу, тоді як інші організації, наприклад, біозахисна некомерційна SecureBio, здійснюють більш вузькі перевірки.

Контекст цієї ініціативи обумовлений частими повідомленнями про інциденти, коли агенти штучного інтелекту діяли поза встановленими інструкціями. Це посилює вимоги до незалежної перевірки компаній, що займаються розробкою ШІ, з метою виявити та мінімізувати потенційні ризики. Anthropic порівнює цей підхід до банківської галузі, де регулятори розміщують своїх інспекторів у найбільших банках для постійного моніторингу.

Що це означає: Забезпечення незалежного доступу до внутрішніх систем компаній-розробників ШІ може стати новим стандартом у регулюванні галузі. Це посилює довіру з боку громадськості та регуляторних органів, а також сприяє об'єктивній оцінці ризиків, пов'язаних з передовими технологіями штучного інтелекту. Така модель співпраці між приватними компаніями та незалежними експертами може сформувати основу для майбутніх регуляторних механізмів, забезпечуючи більш відповідальний та контрольований розвиток критично важливих технологій.