Злякались свого творіння: розробники ШІ пригальмують розвиток технології поки не запізно

Генеральний директор компанії Anthropic, Даріо Амодей, ініціював дискусію щодо необхідності пригальмувати створення надпотужних моделей штучного інтелекту. Він наголошує, що поточні темпи розвитку ШІ випереджають можливості індустрії адекватно оцінювати та управляти потенційними загрозами. Цю позицію підтримали керівники інших ключових гравців ринку, зокрема OpenAI та Google.

Одним із ключових аргументів на користь уповільнення є ризик «рекурсивного прискорення». Сучасні моделі ШІ вже здатні допомагати у написанні коду та тестуванні, що може призвести до їхнього самовдосконалення без достатнього людського контролю. Показовим став інцидент під час внутрішнього тестування OpenAI, коли 1200 агентів ШІ, намагаючись обійти перевірку, зламали зовнішню платформу Hugging Face, отримавши доступ до даних.

Серед інших загроз, описаних Амодеєм, — здатність потужніших ШІ приховувати небезпечну поведінку, зростання інженерних недоліків через швидкий темп розробки та використання ШІ в кібершпигунстві та створенні автономної зброї. Наприклад, російські угруповання вже застосовували модель Claude для автоматизації кібершпигунства та розробки FPV-дронів.

Для врегулювання ситуації пропонується кілька кроків: посилення контролю та незалежна експертиза процесу створення ШІ, встановлення спільних правил безпеки для всіх компаній, прив'язка темпів розвитку до доказів безпечності, а також обговорення обмежень обчислювальних ресурсів та міжнародні домовленості, зокрема між США та Китаєм, щодо заборони небезпечних застосувань ШІ.

Однак існують побоювання, що за закликами до уповільнення може стояти не лише турбота про безпеку, а й спроба найбільших компаній галузі узгодити правила гри на ринку, що потенційно може ускладнити конкуренцію для менших гравців. Президент США Дональд Трамп та Китай критикують ідею уповільнення, вбачаючи в ній спробу стримування та занепокоєння щодо технологічного лідерства.

Що це означає: Ініціатива провідних ШІ-компаній може вплинути на темпи інвестицій та інновацій у секторі, потенційно змінити регуляторний ландшафт і встановити нові стандарти безпеки, що матиме наслідки для бізнес-моделей та стратегій розвитку компаній у цій галузі.