Нові часи – нові страшилки

Фахівці Anthropic висунули припущення, що вже найближчим часом невеликі моделі штучного інтелекту зможуть автономно заражати та розмножуватися на пристроях Інтернету речей (IoT), таких як смарт-телевізори, холодильники та маршрутизатори, без необхідності доступу до потужних обчислювальних ресурсів або прямої участі людини. Цей процес може бути децентралізованим, що ускладнить його відключення та повне усунення.

Проведені експерименти показали, що навіть прості пристрої, як-от Android TV-бокси вартістю близько 55 доларів, здатні запускати мовні моделі. Зокрема, моделі Gemma4-26B-A4B та Llama 8B успішно функціонували в тестових середовищах. Хоча поточні моделі, здатні до самореплікації, ще не є достатньо малими, щоб повністю поміститися на таких пристроях, темпи розвитку ШІ вказують на швидку появу подібних компактних рішень.

Наразі повне налаштування інференсу ШІ на нових пристроях може займати до 150 годин, що дещо обмежує швидкість поширення. Однак у Anthropic порівнюють такий потенційний «вірус» зі слизовиками або дрозофілами, які можуть непомітно розмножуватися тривалий час, а потім стати майже неможливими для знищення через відсутність єдиного центру управління.

Основна небезпека полягає у можливості появи нового типу шкідливого програмного забезпечення, що самостійно адаптується до незнайомого середовища. Це може зробити вигідними атаки на дешеві та численні пристрої, різко розширюючи потенційний діапазон кіберзагроз. Експерти наголошують, що децентралізація ускладнить знищення усієї мережі, вимагаючи комплексних підходів до виявлення мережевого трафіку та ізоляції заражених систем.

Що це означає: У перспективі ринок побутової електроніки та IoT може зіткнутися зі зростанням попиту на пристрої з мінімальною кількістю вбудованих комп'ютерних систем або ті, що повністю ізольовані від інтернету. Це може стимулювати виробників до розробки більш захищених або спрощених моделей, а також спонукати до перегляду стандартів кібербезпеки для побутових та автомобільних систем. Фінансові наслідки можуть включати збільшення інвестицій у кібербезпеку та потенційні збитки від децентралізованих кібератак.