Anthropic забороняє користувачам бути «жорстокими» до своїх систем ШІ

Розробник ШІ-моделі Claude, компанія Anthropic, повідомила про оновлення своєї політики використання, включивши до списку заборонених дій «тривалу та безпідставну жорстоку поведінку» щодо ШІ. Це означає, що їхні інструменти тепер можуть завершувати взаємодії, якщо користувачі виявляють «жорстокість». Хоча компанія стверджує, що такі випадки були рідкістю і раніше, тепер це офіційно закріплено в правилах.

Нові правила є частиною щорічного перегляду політики та доповнюють існуючі заборони, такі як булінг інших користувачів, пропаганда самогубства або створення інтимних зображень без згоди. Anthropic наголосила, що це положення застосовуватиметься лише у «надзвичайних випадках» повторних зловживань і не стосуватиметься звичайного розчарування, конструктивної критики, темного креативу чи тестування моделей. Проте, чітке визначення «жорстокої поведінки» залишається неясним.

Це оновлення викликало значний резонанс у професійній спільноті та соціальних мережах. Частина експертів вітає такий крок, розглядаючи його як елемент покращення етикету та «добробуту моделей». Водночас, інші критикують антропоморфізацію ШІ, зазначаючи, що до «цифр і математики не можна бути жорстоким». Ця дискусія підкреслює зростаючу потребу у розробці чітких етичних та правових рамок для взаємодії з передовими технологіями.

Окрім цього, оновлена політика Anthropic включає нові положення, спрямовані на запобігання використанню ШІ для «оманливих кампаній» та впливу на вибори. Зокрема, забороняється використовувати моделі для введення в оману виборців або порушення виборчих процесів. Також уточнено, що використання інструментів ШІ для розробки зброї залишається забороненим.

На тлі цієї події, відновлюється дискусія про те, чи варто бути ввічливими при взаємодії з генеративними моделями ШІ. Деякі експерти вважають прояви ввічливості зайвими, оскільки це може збільшувати споживання обчислювальних ресурсів. Інші ж припускають, що ввічливе спілкування може призводити до якісніших відповідей від ШІ. Це питання має не лише етичний, а й економічний аспект, пов'язаний з ефективністю використання ресурсів.

Що це означає: Оновлення політики Anthropic відображає зростаючу увагу до етичних та регуляторних аспектів у сфері ШІ. Компанії прагнуть встановлювати межі дозволеної взаємодії, що може вплинути на розробку майбутніх користувацьких інтерфейсів та загальні стандарти спілкування з технологіями. Це також може підштовхнути до подальшого обговорення юридичних визначень «шкоди» та «зловживання» у контексті ШІ, що потенційно може мати наслідки для правової бази регулювання штучного інтелекту та бізнес-моделей, заснованих на взаємодії з ним.