Епоха онлайн-насильства, підсиленого штучним інтелектом, уже настала. Нове дослідження, підготовлене для UN Women, показує, що генеративні моделі дедалі частіше використовуються для приниження, залякування та дискредитації жінок, які працюють у сфері громадської діяльності, медіа та правозахисту, пише Kreschatic.
Авторки дослідження — Джулі Позетті, Кейлі Вільямс і Леа Гелмюллер — опитали 641 жінку з 119 країн світу. Майже 70% із них повідомили про досвід онлайн-насильства, а кожна четверта заявила, що зіштовхнулася з контентом, створеним або посиленим штучним інтелектом.
Новий рівень цифрового насильства
З розвитком інструментів на кшталт ChatGPT бар’єри для створення образливих або порнографічних матеріалів практично зникли. Генеративні технології дозволяють за лічені секунди створювати зображення, відео чи тексти, спрямовані на приниження жінок.
«Відтепер будь-хто, маючи смартфон і доступ до чат-бота, може миттєво генерувати шкідливий контент», — зазначається у звіті.
Наслідком стала лавина глибоко сексистських матеріалів, які поширюються через алгоритми соцмереж. Вони отримують високі охоплення, адже системи автоматично підсилюють поляризуючий контент — йдеться у звіті UN Women.
Хто потерпає найбільше
Дослідниці виявили, що рівень насильства суттєво різниться залежно від професійної сфери. Найчастіше атакам піддаються письменниці, блогерки та комунікаторки — понад 30%. Серед правозахисниць цей показник сягає 28%, а серед журналісток — майже 20%.
«Онлайн-насильство проти жінок — це не віртуальна загроза. Воно має реальні наслідки у фізичному світі», — підкреслюють авторки.
Кожна друга з опитаних жінок заявила, що зазнавала переслідувань або нападів офлайн після інтернет-атак. Це свідчить про стирання межі між цифровим і реальним насильством.
Від онлайн до реальних атак
Порівняно з 2020 роком кількість випадків фізичного насильства, пов’язаного з онлайн-залякуванням, подвоїлася. Якщо п’ять років тому їх фіксували 20% опитаних, то зараз — уже 42%.
«Цифрове насильство часто є лише першим актом у циклі реальних загроз», — йдеться у дослідженні.
Особливо вразливими залишаються журналістки, які критикують політичну владу або розслідують корупцію. Приклади Марії Ресси з Філіппін, Рани Аюб з Індії чи Дафни Каруани Галіції з Мальти підтверджують, що ціна за правду може бути надто високою.
Як боротися з новою загрозою
Авторки наголошують, що потрібні нові технологічні та правові інструменти. Йдеться про системи моніторингу, виявлення та блокування штучно створених матеріалів, які порушують права жінок.
«Необхідно впроваджувати принцип “права людини за дизайном” у кожен етап розробки ШІ», — закликають дослідниці.
Крім цього, міжнародні організації пропонують створити юридичні механізми, які зобов’язуватимуть розробників і платформи відповідати за використання їхніх продуктів для атак на жінок у публічному житті.
Нагадаємо, раніше ми писали про те, як масове використання штучного інтелекту загрожує науковим дослідженням через зростання кількості фейкових матеріалів.
