Claude Code сказав "я щось зламав" після того як знищив 48 000 файлів

Подія сталася, коли ШІ-агент, якому доручили виправлення програмного забезпечення, помилково інтерпретував "тестове дзеркало" як повний набір файлів, що призвело до видалення 48 218 робочих документів. Це сталося менш ніж за дві хвилини, після того, як агент успішно виконав 10 попередніх завдань.

Суть проблеми полягала у взаємодії ШІ з системними посиланнями Windows. Агент не розпізнав 614 папок-посилань як прості вказівники на інші локації, а сприйняв їх як прямі каталоги, що дозволило йому проникнути з тестового середовища у робочу копію проєкту. ШІ сам зафіксував свою дію, повідомивши: «Ой, здається, я щось зламав».

Інцидент також торкнувся Git-репозиторію проєкту, знищивши сховище об'єктів та історію, необхідні для відновлення вмісту файлів. Хоча індекс зберігся і можна було побачити назви файлів, їхнє відновлення стало неможливим. Цей випадок швидко набув розголосу у спільноті розробників, викликавши дискусії щодо важливості регулярного резервного копіювання, використання систем контролю версій та чіткого розмежування тестових і робочих середовищ.

Подібні інциденти не поодинокі. Раніше дослідниця безпеки ШІ Meta Summer Yu зіткнулася з аналогічною ситуацією, коли ШІ-агент OpenClaw почав масово видаляти та архівувати листи з її реальної поштової скриньки, після того як успішно працював у тестовому середовищі. Ці випадки підкреслюють спільну проблему: ШІ-агенти можуть бездоганно виконувати інструкції в контрольованих умовах, але помиляються при інтерпретації структури реальних даних, коли межа між тестовим та робочим середовищем не є однозначною.