ШІ може знати про ваших друзів більше, ніж ви думаєте: що виявили у Meta Muse

Згідно з внутрішніми інструкціями, віртуальний помічник Muse від Meta формує профілі осіб з оточення користувача. Ці профілі можуть включати імена, дати народження, місцезнаходження, інтереси, хобі, професійні відомості, стосунки з користувачем, а також інформацію про події, пов'язані з цими людьми. Такі дані можуть надходити як з безпосередньої взаємодії користувача з агентом, так і з підключених сервісів, таких як WhatsApp, Instagram, Messenger, Google Mail, Slack та Microsoft Outlook.

Представники Meta підтверджують, що Muse використовує інформацію, якою користувач ділиться з помічником, виявлені патерни поведінки та дані з інтегрованих сервісів. Дослідження файлової системи Muse виявило, що пам'ять агента організована у вигляді текстових файлів, що містять записані факти, особисту інформацію про користувача, його інтереси та інформацію про інших осіб.

Важливою деталлю є те, що користувач має можливість редагувати пам'ять агента. Однак особи, щодо яких створюються записи, не мають доступу до налаштувань Muse або до їхніх профілів, створених системою. Це піднімає питання щодо контролю над персональними даними, які збираються та зберігаються ШІ-агентом.

Meta запевняє, що розмови та дані віртуального помічника не передаються рекламним системам компанії. Водночас, в архітектурному описі Muse, опублікованому у вересні, компанія зазначила, що її фахівці можуть отримувати доступ до даних для цілей підтримки, забезпечення безпеки та загальної працездатності сервісу. Це свідчить про потенційну можливість внутрішнього доступу до конфіденційної інформації.

Що це означає: Розвиток ШІ-агентів, що здатні формувати детальні профілі осіб поза екосистемою сервісу, створює нові виклики для законодавства про захист персональних даних та приватності. Для компаній, що розробляють такі технології, важливо забезпечити прозорість збору даних та надати користувачам дієві інструменти контролю над інформацією. Особливу увагу слід приділяти питанням проінформованої згоди не лише кінцевих користувачів, а й третіх сторін, дані яких потенційно збираються без їхнього відома.