Кожна четверта жінка у публічній сфері, яка зазнає онлайн-насильства через професійну діяльність, уже стикалася з атаками, згенерованими або посиленими штучним інтелектом. Такі дані нового глобального дослідження ООН-Жінки, проведеного у 119 країнах.
Про цю тенденцію говорили під час дискусії «Гендерно зумовлене насильство з використанням штучного інтелекту: моторошна ескалація онлайн насильства щодо жінок у публічнічній сфері» на Міжнародному журналістському фестивалі в Перуджі, яку відвідала команда «Жінки в медіа».
Що це означає для журналісток і як реагувати на нову хвилю ШІ-насильства — розповідаємо далі.
ГЕНДЕРНО ЗУМОВЛЕНЕ НАСИЛЬСТВО ОНЛАЙН: УДВІЧІ БІЛЬШЕ ПОСТРАЖДАЛИХ
«Ера онлайн насильства за допомогою штучного інтелекту – не загроза майбутнього. Ми вже в ній живемо. І це змінює природу загроз для жінок у громадському секторі по всьому світу», — розпочинає Джулі Позетті.
Вона презентує результати нового глобального дослідження, в якому взяли участь журналістки, правозахисниці та активістки зі 119 країн. Дослідження демонструє, наскільки широко генеративний ШІ використовується як зброя для масового цькування публічних діячок в умовах посилення авторитаризму у світі.
Модераторкою дискусії виступила Джулі Позетті — очільниця Ініціативи з інформаційної цілісності та співавторка дослідження. Вона досліджує гендерно зумовлене онлайн-насильство, дезінформацію та роль медіа у захисті суспільних інтересів. Саме її команда готувала для ООН-Жінки дослідження про вплив ШІ на гендерно зумовлене насильство. Ініціатива входить до проєкту The Nerve — лабораторії цифрової криміналістики, заснованої лауреаткою Нобелівської премії миру Марією Рессою.
На жаль, сама Марія Ресса неодноразово ставала мішенню атак й продовжує страждати від цькування онлайн. Ще у 2016 році журналістка отримувала одночасно 90 повідомлень з погрозами на годину. Тоді це були текстові повідомлення. Нове ж дослідження демонструє, наскільки сильно дипфейк-відео та додатки, що використовують ШІ для «оголення» жінок (так звані nudify-apps, які замінюють одяг на фотографіях згенерованими оголеними частинами тіла, створюючи реалістичні, але фейкові зображення без згоди людини – ред.) експоненційно посилюють ці загрози.
«Спершу я думала, що людям просто справді не подобається те, що я роблю. Бо вам здається, що ці атаки про вас. Це не так. Це інформаційні операції зі створення шкідливого наративу. Для них вишуковують ваші слабкості. Кожного разу, коли ми публікували нове розслідування (а я в журналістиці понад 20 років, очолювала два відділи американського CNN у Південній Азії) – зʼявлявся новий мем, де на моєму обличчі чоловічі тестикули. (У мене суха шкіра, я маю екзему). Соцмережі відмовлялися видаляти ці зображення. Мовляв, «ви — публічна діячка». А згодом ці меми еволюціонували. Нещодавно завдяки нашому проєкту Nerve ми виявили російську шахрайську мережу, яка поширювала фейкові відео зі мною», — ділиться Марія Ресса.
Нове дослідження демонструє, що майже кожна четверта жінка, що веде публічну діяльність (24%) з 70% тих, хто зіштовхується з насильством онлайн через свою роботу, постраждала від атак, згенерованих чи підсилених ШІ. Найбільше ризикують зіткнутися з онлайн-насильством за допомогою ШІ письменниці, лідерки думок та блогерки. 30% жінок, що займаються публічними комунікаціями, страждають від цькування з використанням ШІ.
Джулі Позетті акцентує на важливій деталі: ШІ лише підсилює загрозу, що існувала й раніше. Соціальні мережі та великі технологічні компанії роками уникають спроб притягнути їх до відповідальності.
«Ми не можемо розглядати ці нові дані про ШІ, як окрему, ізольовану статистику. Ці цифри – лише частина загальних показників зростання онлайн-насильства щодо публічних жінок. Крім того, вони вписуються в ще більш широку та тривожну тенденцію – розмивання межі між насильством онлайн та утисками в реальному житті», — наполягає Джулі.
4 з 10 опитаних жінок (40.9%), які постраждали від нападів, цькування чи домагань офлайн, повʼязують ці випадки з онлайн-насильством. Тобто атаки, які починалися онлайн, зрештою ставали фізичним насильством, переслідуваннями, фальшивими викликами поліції та словесними образами в реальному житті.
«Ці дані підтверджують те, що постраждалі стверджували роками: онлайн-насильство не залишається в онлайні. Натомість найчастіше це перший крок в ланцюжку ескалації насильства. Тим часом жінки з Сирії, Лівану чи України, які зазнають найжахливіших наслідків такого насильства через власну діяльність, регулярно залишаються без уваги та підтримки, адже онлайн-цькування не сприймають як «реальне насильство». Що ж, я тут, аби сказати вам: дані свідчать про зворотне – наслідки онлайн-насильства цілком реальні. І це продовжує становити величезну загрозу», — додає Джулі.
Ба більше, кількість постраждалих від нападів за останні роки стрімко зростає. Особливо відчутно це для журналісток.
«У дослідженні, яке ми проводили для ЮНЕСКО в 2020 році, 20% опитаних жінок повідомляли про реальні напади, які розпочиналися з онлайн-цькування. За 5 років ця цифра зросла більш, як удвічі – тепер це 42%. Ця небезпечна тенденція має стати гучним сигналом для медіа, влади та великих технологічних компаній», — наголошує дослідниця.
З моменту виходу генеративного ШІ, як ChatGPT, на масовий ринок у 2022 році, значно спростився та здешевився доступ до створення сексуалізованих дипфейк-відео, гендерної дезінформації та інших форм гендерно зумовленого онлайн-насильства. Тим часом швидкість поширення лише зросла. Як наслідок, ми маємо цифровий простір, наповнений мізогінним контентом, який несе реальну шкоду. Контентом, який може створити будь-то зі смартфоном та доступом до генеративного ШІ. Паралельно алгоритми соцмереж налаштовані так, аби посилювати охоплення та прискорювати поширення публікацій, які містять ненависть та образи. Адже емоційна включеність приводить людей на платформи, а це може приносити значну особисту, політичну, а часто й фінансову вигоду винуватцям та тим, хто сприяє цьому, зокрема технологічним компаніям.
СТРАЖДАЮТЬ НЕ ЛИШЕ ЖІНКИ, АЛЕ ЖІНКИ — НАЙБІЛЬШЕ
Старша дослідниця Ініціативи з інформаційної цілісності та аспірантка Колумбійської школи журналістики Кейлі Вільямс наводить аналітику щодо ШІ у колишньому Twitter (X), яким дуже пишається Ілон Маск — Grok. Цей вбудований бот від Gen-AI дає можливість створювати сексуалізовані зображення без згоди прямо в коментарях до дописів. До прикладу, за 11 днів між груднем та січнем цього року Grok згенерував 3 мільйони сексуалізованих зображень, зокрема «роздягнувши» 2300 неповнолітніх.
«В основному мішенню стають політикині, журналістки та активістки. Адже кожного разу, коли публікують новину про їхню діяльність, хто завгодно може прийти в коментарі й попросити Grok згенерувати оголене зображення цих жінок. І часто ці зображення йдуть далі за оголення — бота, до прикладу, просять генерувати сцену зґвалтування. Що найстрашніше: цю технологію використовують і на дітях», — розповідає Кейлі Вільямс.
Джулі Позетті ділиться ще одним прикладом координованих атак з використанням схожої технології. Британська депутатка, яка адвокатувала регуляцію додатків, які використовують штучний інтелект для «оголення» жінок, сама постраждала від атаки за допомогою ШІ. Вірусним стало дипфейк-відео, на якому політикиню позбавляють свідомості за допомогою хлороформу, готуючи до зґвалтування.
«Зараз паралельно розвиваються маносфера (інфопростір чоловіків в опозиції до фемінізму — ред.) та набирають популярності інструменти, які дозволяють чинити системне й масове насильство щодо жінок. По факту ці технології сприяють відкату у боротьбі за права жінок та гендерну рівність, яка й так вигризається з величезними зусиллями», — переконана Джулі Позетті.
Попереднє дослідження щодо гендерно зумовленого насильства онлайн, проведене для ЮНЕСКО у 2020 році, охопило 15 країн.
«Ще тоді ми виявили, що в більш консервативних країнах онлайн-цькування жінок зачіпає й чоловіків – їхніх партнерів та рідних. Чоловіків та родини жінок, яких переслідують, починають присоромлювати, аби ті тисли на своїх близьких й переконували їх залишати публічну діяльність», — розповідає Джулі Позетті.
Цькування жінок є частиною геополітичної стратегії з придушення голосів тих, хто займається критичною журналістикою та правозахистом.
Приклад наводить Марія Ресса. Колишня сенаторка Філіппін (2016-2022 роки) Лейла де Ліма зазнала цькування, коли з її обличчям створювали фейкові порнографічні зображення та відео. Замість захисту політикиня не лише постраждала від засудження та присоромлення колегами по парламенту, а й згодом була несправедливо увʼязнена майже 7 років.
«Ми бачимо, як зараз, прикриваючись свободою слова, свободу ж слова атакують. Спершу сексистські, а тепер мізогінні способи атакувати жінок створюються спеціально для того, аби витискати нас з публічного простору», — переконана Марія Ресса.
ЩО МИ МОЖЕМО ЗРОБИТИ?
Нове дослідження вказує на те, що що штучний інтелект є як джерелом дезінформації, так і потенційним рішенням цієї проблеми. Оскільки ШІ лежить в основі систем виявлення генерованого контенту та відповідних контрзаходів. Однак даних про ефективність цих засобів виявлення поки що недостатньо.
Саме тому замість лише реагувати важливо думати і як запобігти створенню подібного контенту. А безпека на етапі проєктування напряму залежить від регуляторних механізмів, які б мали реальний вплив на технологічні компанії. Важливо працювати над системним забезпеченням дотримання кодексів поведінки та відповідних стандартів.
«Ми працюємо над створенням превентивних механізмів. А також над інструментами, які б допомогли отримувати більше інформації про чинники, які сприяють вчиненню таких злочинів. Це необхідно, аби працювати над зміною наративу», — каже керівниця відділу з питань припинення насильства щодо жінок в ООН-Жінки Калліопі Мінґейру.
Відповідні дослідження та розробка займають час, тоді як прямо зараз вже є нагальна потреба регуляції на державному та міжнародному рівні, додає Джулі Позетті.
«Існує гостра потреба у більш ефективних інструментах для виявлення, моніторингу, повідомлення та відбиття атак із використанням штучного інтелекту. Крім того, необхідно запровадити правові та регуляторні механізми, які зобов’яжуть платформи та розробників штучного інтелекту запобігати використанню їхніх технологій з метою порушення прав жінок», — зазначає вона.
Вимагати реальної регуляції та використовувати стратегічні судові процеси – це два основні шляхи для громадянського суспільства сьогодні у протидії цій загрозі, переконана Марія Ресса.
«Усе зводиться до влади та грошей. Хто несе відповідальність за ці технології? Технологічні компанії, які лише збагачуються та нарощують владу за їх допомогою. І це повертає нас до нинішньої бізнес-моделі. Стежачий капіталізм (surveillance capitalism — капіталістична система, коли особисті дані використовують для поведінкових прогнозів, щоб нарощувати прибуток – ред.) перетворює людей на товар. Тому ми мусимо йти далі – й вимагати ухвалення законів, які мають нас захищати», — додає вона.
Калліопі Мінґейру наголошує на ще одному важливому акценті: молоді чоловіки та хлопчики формують свої уявлення про жінок в цьому ж інфопросторі, де мізогінію підживлюють технології. І загроза тут не лише в насильстві щодо жінок та дівчат.
«Усі ці процеси тісно пов’язані з насильницьким екстремізмом та крайньою радикалізацією. Мізогінія йде в одну ногу з расизмом та гомофобією», — зазначає вона.
Одна з дослідниць в авдиторії, докторка наук у сфері ШІ, комунікацій та медіа Саллі Гаммуд слушно зауважує: як ми можемо сподіватися на впровадження законів, які стануть запобіжниками, якщо навіть президент США використовує та нормалізує дипфейки. Раніше на дискусії згадували, що й власник Twitter (X) Ілон Маск також дозволяв собі просити Grok «роздягати» жінок у коментарях. Важко протидіяти ризикам, які несуть технології, якщо люди, які за це відповідають, самі використовують ці інструменти, котрі несуть реальну шкоду.
«Технологічні компанії лише нарощують свою владу і мають дедалі більший вплив на законодавство. А якщо працювати з освітою, сподіватися на громадянське суспільство та журналістику, то є країни, які зіштовхуються з іншими викликами. Я родом із Лівану. Мала нагоду поспілкуватися з представниками міністерства щодо штучного інтелекту. Ті просто наполягали на налагодженні партнерських відносин із технологічними компаніями, зовсім не замислюючись про питання цифрової безпеки чи освіти», — розповідає Саллі Гаммуд.
Старша дослідниця Ініціативи з інформаційної цілісності Кейлі Вільямс каже: здається, у своїй роботі ми знову мусимо повертатися до просування базових засад фемінізму.
«До важливості інформування громадськості про культуру згоди, до будування систем, які підтримують та захищають жіночу тілесну автономію. Мені здавалося, що ми всі вже дійшли згоди щодо цих питань. Але, досліджуючи ШІ та гендерно зумовлене насильство сьогодні, я бачу або відкат, або те, що насправді досі цієї згоди ми, як суспільство, і не досягли», — каже вона.
Під час сесії український контекст у дискусію внесла очільниця ГО «Жінки в медіа» Ліза Кузьменко. Вона наголосила, що в Україні серед медійниць найчастіше мішенями онлайн-цькування стають воєнні кореспондентки, антикорупційні журналістки та авторки, які пишуть про ЛГБТІК+ і фемінізм.
На цьому тлі вона поставила учасницям панелі питання: «Якщо платформи та розробники ШІ вже знають, що їхні технології множать насильство, в який момент їхня бездіяльність стає співучастю?»
«Важливо відмітити, що немає небезпечніших кампаній з гендерно зумовленого насильства онлайн, ніж ті, що спрямовані проти воєнних кореспонденток в країнах, де триває війна. І Україна — яскравий приклад цього, — починає відповідати Джулі Позетті. — Ваше зауваження щодо того, чи визнають ці компанії свою співучасть, найкраще ілюструється тим, як компанія Meta (Facebook) боролася і продовжує боротися проти розслідування на рівні ООН».
За словами слідчих ООН, стверджує Джулі, Facebook відіграв визначальну роль у геноциді в М’янмі. Цей геноцид, також відомий як геноцид рохінджа, — серія переслідувань і вбивств мусульманського народу рохінджа військовими М’янми що відбувається донині. Перший етап був військовим придушенням, що відбувався з жовтня 2016 року по січень 2017 року, а другий — триває з серпня 2017 року.
«Немає жодних сумнівів, що технологічні компанії усвідомлюють, що, фактично, сприяють і, ймовірно, є співучасниками страшного впливу та ризиків, які несуть їхні технології на надзвичайно вразливі спільноти. Зараз ми можемо допомагати одні одним, солідаризуючись. Ми мусимо створювати безпечні фізичні простори, за можливості поза цими платформами, аби збиратися разом, щоб працювати над законодавчими змінами та регуляторними механізмами», — підсумовує Джулі Позетті.
За даними дослідження ГО «Жінки в медіа» та ЮНЕСКО «Коли штучний інтелект стає ворожим: гендерні загрози проти українських журналісток», 7% українських журналісток уже пережили ШІ-згенеровані онлайн-атаки, а ще 16% бачили подібні атаки проти своїх колег.