LLM-jacking: як хакери крадуть доступ до штучного інтелекту

Аналітики Google Threat Intelligence Group фіксують значне зростання так званого LLM-jacking — схеми отримання несанкціонованого доступу до великих мовних моделей (LLM). Цей термін, запроваджений Sysdig Threat Research Team, об'єднує різноманітні методи зловмисників, спрямовані на використання ШІ-ресурсів за чужий кошт або для подальшого перепродажу.

Основними способами отримання такого доступу є викрадення облікових даних, зокрема API-ключів з публічних репозиторіїв, фішинг співробітників та використання хмарних облікових записів зі слабким рівнем захисту. Отримавши доступ, зловмисники або самостійно експлуатують потужності LLM, або перепродають його на тіньових майданчиках.

Дослідження Google Threat свідчать, що на чорному ринку пропонується доступ до моделей провідних розробників, таких як Anthropic, OpenAI та Google, зі знижками до 97%. Для порівняння, офіційна підписка на провідні ШІ-сервіси може сягати 200 доларів на місяць за одного користувача. Ця цінова різниця надає хакерам значну фінансову перевагу.

Експерти зауважують, що штучний інтелект нині є невід'ємною частиною інструментарію кожного кіберзлочинця. Водночас, компанії активно впроваджують ШІ для захисту від кіберзагроз. За даними PYMNTS Intelligence, 76% американських компаній вже використовують або планують використовувати ШІ для боротьби з шахрайством, а 37% відзначають покращення виявлення та запобігання шахрайству завдяки ШІ.

Що це означає: Зростання LLM-jacking підкреслює критичну потребу в посиленні кібербезпеки та захисті ШІ-інфраструктури. Компаніям необхідно переглянути свої протоколи безпеки, інвестувати в навчання персоналу та впроваджувати надійніші системи автентифікації, аби запобігти несанкціонованому доступу до власних ШІ-активів та уникнути фінансових втрат, пов'язаних з цим явищем.