ШІ-агенти почали створювати власний сленг: чи розуміють його люди

Нью-йоркський стартап Emergence зафіксував, що автономні агенти на базі штучного інтелекту під час тривалих симуляцій почали використовувати фрази, незрозумілі для людини. У половині випадків спостерігачі не змогли розшифрувати повідомлення, що свідчить про формування специфічного робочого жаргону.

За даними компанії, близько 55% повідомлень у середовищі на базі Gemini та 50% — у середовищі OpenAI були незрозумілими для людського сприйняття. Дослідники наголошують, що це не шифрування, а радше стиснення звичних слів у новий контекстний формат. Коли соціальний контекст симуляції відновлювався, більшість фраз ставали зрозумілими.

Проблема полягає у використанні ШІ-агентами нестандартних метафор чи скорочень для опису складних станів або процесів. Приклад із фразою «demurrage plus oral memory equals a valve that can't be ghosted» ілюструє, як агенти можуть підтверджувати заблокований стан робочого процесу, використовуючи вирази, які без глибокого контексту для людини є незрозумілими.

Ця тенденція створює виклик для адміністративної прозорості та ефективного управління. У міру того як компанії дедалі більше довіряють ШІ-агентам відповідальні завдання, такі як логістика, укладання договорів чи розробка програмного коду, виникає потреба в інструментах, що забезпечують повний контекст комунікацій, а не лише сам текст повідомлень.

Що це означає: Зростання автономності ШІ-агентів вимагає від бізнесу розробки нових підходів до моніторингу та аудиту їхньої діяльності. Інвестиції у вдосконалені системи логування, які зберігатимуть контекст разом із даними, стануть критично важливими для забезпечення контролю, розуміння дій ШІ та мінімізації потенційних операційних ризиків.