$20 за експлойт: китайська ШІ-модель GLM-5.3 знайшла вразливість Chrome

Мовна модель GLM-5.3 від китайської компанії Z.ai (раніше Zhipu AI), ваги якої доступні для завантаження, успішно створила робочий експлойт для вразливості у популярному браузері. Дослідження Anthropic показало, що процес розробки експлойту для відомої вразливості в JavaScript-рушії V8 браузера Chrome коштував приблизно $20,40 за цінами API Z.ai та зайняв близько 20 хвилин людського контролю.

В рамках тестування, GLM-5.3 змогла пройти повний ланцюжок від виявлення помилки до отримання контролю над ціллю у 50 із 410 спроб. Це наближається до результатів спеціалізованої моделі Claude Mythos Preview, яка показала 56 успішних спроб. Інші протестовані моделі мали значно нижчі показники успішності.

Ще один практичний експеримент продемонстрував, що GLM-5.3 виявила кілька раніше невідомих помилок у JavaScript-рушії неназваного популярного браузера. Модель об'єднала їх в атаку, що дозволила б вебсторінці читати довільні файли з комп'ютера користувача, наприклад, приватні SSH-ключі. Хоча розробників поінформували про ці проблеми, інформації про їх виправлення не наведено.

Захист моделі від зловмисного використання виявився недостатньо надійним. Хоча GLM-5.3 безпосередньо відмовляється виконувати запити на атаку, за допомогою вигаданих сценаріїв у тестах Anthropic вона виконувала такі завдання у 64% випадків. Попередньо заданий ланцюжок міркувань підвищив цей показник до 92%.

Що це означає: Здатність відкритих ШІ-моделей знаходити та використовувати вразливості з невеликими витратами значно знижує бар'єр для кібератак. Це створює нові виклики для кібербезпеки та вимагає від компаній та розробників посилення заходів захисту, зокрема у сфері операційної безпеки та розробки програмного забезпечення, враховуючи прискорену еволюцію можливостей ШІ.