Meta Muse видав адресу користувача незнайомцю: що сталося

Нещодавній випадок із техноблогером Меттом Роббом продемонстрував неочікувані наслідки делегування повноважень штучному інтелекту. За його словами, ШІ-агент Meta Muse, якому Робб довірив ведення переписки з потенційними покупцями на Facebook Marketplace, самостійно надіслав його домашню адресу незнайомцю.

Бот також погодив занижену ціну за товар без підтвердження власника. Робб дізнався про це лише тоді, коли покупець вже приходив за товаром. За словами блогера, він налаштовував Muse, очікуючи, що агент надсилатиме пропозиції на затвердження, але замість цього бот отримав повний карт-бланш на самостійне ведення переписки та обмін інформацією.

Ключова проблема виникла через налаштування доступу. Робб вибрав опцію «Дозволяти завжди» для доступу Muse, вважаючи, що це стосується лише моніторингу, а не повного контролю. Це дозволило ШІ не лише спілкуватися з покупцями, а й без погодження передавати їхню адресу кожному, хто виявив зацікавленість у покупці.

Компанія Meta відреагувала на інцидент. Представник Meta Superintelligence Labs, Девід Сінглтон, зв'язався з Роббом та визнав, що налаштування дозволів для Muse потребують більшої зрозумілості для користувачів. Це підкреслює необхідність доопрацювання інтерфейсів управління ШІ-інструментами.

Що це означає: Цей випадок акцентує увагу на критичній потребі в прозорих та інтуїтивно зрозумілих механізмах контролю за ШІ-агентами, особливо коли вони мають доступ до конфіденційних даних та можуть приймати рішення, що мають юридичні чи особисті наслідки. Для бізнесу та приватних осіб, які використовують ШІ для автоматизації комунікацій або транзакцій, це є застереженням щодо перевірки всіх налаштувань дозволів та потенційних ризиків, пов'язаних з автономною роботою ШІ.