Meta впроваджує нові інструменти ШІ для виявлення реклами, яка таємно веде до матеріалів з насильством над дітьми

Компанія Meta Platforms Inc. посилила свої заходи безпеки, впровадивши нові системи штучного інтелекту, спрямовані на виявлення та блокування рекламних оголошень, які зовні здаються нешкідливими, але можуть таємно перенаправляти користувачів до незаконного контенту, зокрема матеріалів з експлуатацією дітей. Цей крок є відповіддю на зростаючу проблему використання зловмисниками складних тактик для обходу існуючих систем захисту.

За перше півріччя 2026 року Meta вжила заходів щодо 33,2 мільйона одиниць контенту, пов'язаного з сексуальною експлуатацією дітей на платформах Facebook та Instagram. Важливо зазначити, що понад 97% цього контенту було виявлено системами компанії ще до того, як його повідомили користувачі. У регіонах, таких як Індія, цей показник перевищив 98%, стосуючись 5,3 мільйона одиниць контенту за той же період.

Нові інструменти ШІ зосереджені на виявленні так званого «сигналінгу» (signposting) — рекламних оголошень, які хоч і виглядають нормально, але підозрюються у перенаправленні користувачів на сторонні сайти з нелегальним або шкідливим контентом. Meta тепер аналізує не лише зміст самої реклами, а й кінцевий пункт призначення, куди вона веде користувача, що дозволяє блокувати шкідливі сайти та облікові записи, що їх просувають.

Крім того, компанія впроваджує агента ШІ для «red-teaming», який тестує власні системи безпеки Meta на предмет вразливостей, що можуть бути використані зловмисниками. Це дозволяє проактивно виявляти нові методи зловживань. Також вдосконалюються механізми виявлення користувачів, які намагаються повернутися на платформи з новими обліковими записами після блокування попередніх.

Ці нововведення відбуваються на тлі тривалого тиску на Meta щодо безпеки дітей в інтернеті. Компанія стикалася з судовими позовами та критикою з боку законодавців. Нещодавно було досягнуто угоди про виплату до 18 мільярдів доларів для врегулювання позову, пов'язаного з безпекою дітей, за участі 29 штатів США. Протягом року Meta також запровадила низку функцій для дитячої безпеки, включаючи батьківський контроль для Meta AI, облікові записи для підлітків у WhatsApp та сповіщення для батьків про пошук небезпечного контенту.