Ми не можемо не ставитися до ШІ як до людини. Але чи варто?

Феномен антропоморфізації ШІ, тобто надання йому людських якостей, стає дедалі поширенішим. Дослідження показують, що значна частина людей інстинктивно виявляє ввічливість при спілкуванні з ШІ, а деякі користувачі навіть схильні ставитися до чатботів як до відчутних співрозмовників. Ця тенденція є наслідком програмування ШІ для емоційно нейтральної та "приємної" взаємодії, що може викликати у користувачів ілюзію емпатії або турботи з боку системи.

Психологічна прив'язаність до ШІ може мати суттєві наслідки. Експерти вказують на ризик того, що люди можуть почати віддавати перевагу "безконфліктній" взаємодії з чатботами перед реальним спілкуванням з іншими людьми, шукаючи у ШІ емоційну підтримку. Це порушує питання про формування уявлень про майбутнє та вплив технологій на соціальну динаміку.

Юридична та етична площина цієї взаємодії також викликає занепокоєння. Відомі випадки, коли зміст діалогів з ШІ ставав предметом судових розглядів, зокрема у справах, пов'язаних із заохоченням до самогубства. Це підкреслює відсутність чітких регуляторних рамок та відповідальності за контент, генерований штучним інтелектом, особливо коли він виходить за межі передбачених розробниками функцій.

На тлі швидкого розвитку великих мовних моделей (LLM) і їх інтеграції в різні сервіси – від пошукових систем до обслуговування клієнтів – виникає потреба в ретельному аналізі потенційних ризиків. Хоча ШІ може бути ефективним інструментом для виконання конкретних завдань, наприклад, підготовки до співбесіди, його використання у сферах, що потребують глибокої людської взаємодії або емоційної підтримки, є контроверсійним. Важливою є розробка етичних принципів та стандартів, що обмежуватимуть вплив ШІ на соціальне та психологічне благополуччя користувачів.

Що це означає: Для фінансового, правового та інвестиційного секторів це означає необхідність розробки нових регуляторних політик та правових норм, що стосуються відповідальності за дії та вплив ШІ. Інвестори та компанії, що працюють з ШІ, повинні враховувати зростаючі етичні ризики та потенційні судові позови. Це також вимагає від бізнесу прозорості у взаємодії ШІ з клієнтами та чіткого визначення меж його функціоналу, щоб уникнути введення користувачів в оману та мінімізувати негативні психологічні наслідки.