Вкрасти чиєсь обличчя, тіло, голос і створити згенеровану ШІ копію людини, яка говоритиме й рухатиметься так, як захоче її «творець», легко. За допомогою штучного інтелекту зловмисники перетворюють відомих журналісток на фейки.
Українські журналістки дедалі частіше стають «цифровими аватарами» — не з власної волі, а через бажання маніпуляторів використати довіру до них як інструмент впливу. Те, що ще кілька років тому здавалося технологічною цікавинкою, сьогодні перетворюється на форму онлайн-насильства. А штучний інтелект став знаряддям дискредитації та дезінформації.
Texty.org.ua спільно з ГО «Жінки в медіа» вирішили розібратися, як у ТікТоці використовують штучний інтелект для створення чи спотворення відео з образами журналістів. У полі уваги — журналістки, які у відсотковому виразі становлять більшість у медіагалузі України. Ми проаналізували 595 відео, згенерованих ШІ, де використовуються образи відомих українських журналісток. Загалом у ТікТок ці ролики набрали понад 24 млн переглядів. Більшість знайдених нами прикладів, мають усі ознаки технологічно й гендерно зумовленого насильства (Technology-facilitated gender-based violence, TFGBV).
У процесі аналізу натрапили на десятки роликів, де їхні голоси, зовнішність або стиль мовлення були штучно змінені чи повністю згенеровані. У роликах використовуються різні технології штучного інтелекту — від синтезу голосу і накладання його на реальне зображення до повноцінних дипфейків із згенерованими й зображенням, і звуком.
Переважна частина контенту у вибірці мала ознаки аудіовтручання. Реальні новинні сюжети були озвучені новими голосами, створеними для просування певного меседжу, сюжету чи наративу. Подеколи голос штучно моделювався під відомих українських телеведучих, і це посилювало ефект достовірності.
Такі аудіоманіпуляції часто видають самі себе. Неприродна вимова, неправильні наголоси, дивні паузи й рваний ритм мови — усе це ознаки машинної генерації.
Серед журналісток, чиї образи використовували найчастіше: Соломія Вітвіцька, Анастасія Даугуле, Алла Мазур, Наталія Островська, Ірина Прокоф’єва, Лілія Налягака, Марічка Падалко, Анастасія Мазур, Олена Морозова, Наталія Мосейчук.
Команда Texty.org.ua навіть спеціально створила фейкове відео з ведучою YouTube-каналу Валерією Павленко, щоб показати, як працюють ці технології.
Жінки-журналістки асоціюються з довірою, а впізнавані обличчя збільшують охоплення. Однак фейкові відео б’ють по репутації реальної журналістки. Люди починають хейтити людину за те, чого вона не говорила.
За допомогою фейкових відео зазвичай просувають антиукраїнські й деструктивні наративи, однак іноді це просто заклики підписатись на канали. Найчастіше у відео зустрічається заклик підписати петицію чи пройти опитування — 268 (45%). На практиці це означає, що потрібно перейти на сторонні ресурси, підписатися на фейкові акаунти або передати свої персональні дані зловмисникам.
Наприклад, «популярні телеведучі» розповідають про те, що з’явилася петиція, яка:
- поверне Залужного на посаду головнокомандувача;
- приведе до відставки Зеленського або зробить президентом проросійського політика Євгена Мураєва;
- відправить усіх поліцейських і працівників ТЦК на фронт;
- допоможе конфіскувати майно топпосадовців чи Юлії Тимошенко;
- змусить Мар’яну Безуглу йти воювати на нуль.
На перший погляд, ці повідомлення можуть здаватися випадковими. Проте їх структура чітко повторює звичні тактики російської дезінформації: апеляція до емоцій, розпалювання суперечок і підрив довіри до держави.
Наприклад, питання про можливе повернення Валерія Залужного на посаду головнокомандувача хоч і не має під собою реальних підстав, але провокує суперечки й сильні емоції. Просування Євгена Мураєва очікуване: це фігура, яку російські медіа вже не раз намагалися легітимізувати.
Інша теза — про відправлення всіх поліцейських на фронт — також звучить нереалістично. Проте вона активно транслюється джерелами, що поширюють російські наративи в Україні, й, на жаль, знаходить відгук у частини суспільства.
Ще один інструмент для посилення суспільної поляризації, що покликаний відокремити державу від громадян, — ідея конфіскації майна високопосадовців.
Майже кожне четверте знайдене нами ШІ-відео експлуатує образи журналісток зі схожою метою — отримати дані користувачів і збільшити аудиторію своїх ресурсів за допомогою брехні про соціальну допомогу. Ми виявили 145 таких відео (24%).
Фейкові Наталія Островська та Ірина Прокоф’єва (ведучі телеканалу «1+1») розповідають, що українці можуть отримати надбавки, пенсії чи виплати, якщо заповнять відповідні форми. Звернення часто таргетуються на певні категорії: пенсіонери, батьки, вчителі, ті, хто залишився в країні після початку повномасштабного вторгнення. Виплати нібито здійснюють різні структури — від ООН, Товариства Червоного Хреста, ЄС, Канади та США до державних банків, особисто президента й мереж магазинів «Аврора» і «MOYO».
Майже 20% проаналізованих відео (116) містять деструктивні або антиукраїнські наративи. Найчастіше це контент про жахи мобілізації, незаконні дії правоохоронців, дискредитацію влади та військово-політичного керівництва. У таких роликах розповідають, що сусіди України нібито планують окупувати західні області або що мир настане вже найближчим часом — варто лише підписатися на соцмережі, щоб дізнатися дату.
Спекуляції на поточних подіях поширюються миттєво. Наприклад, 19 липня 2024 року було вбито політичну та громадську діячку Ірину Фаріон, і вже за кілька днів згенеровані ШІ голоси, накладені на реальні журналістські сюжети, розганяли в ТікТоці фейки про те, що вбивця був родичем Фаріон, що затримали не того і що є реальні кадри трагедії.
Структура майже всіх ШІ-відео з українськими журналістками чітко повторює звичні тактики російської дезінформації: апеляція до емоцій, розпалювання суперечок і підрив довіри до держави.
Повне розслідування читайте на сайті Texty.org.ua
- Нагадаємо, що випадки онлайн-атак на журналісток ми фіксуємо на мапі. Якщо ви стикнулися з онлайн-насильством через свою професійну діяльність, та хочете розповісти про це, будь ласка, заповніть цю онлайн-форму або напишіть нам на імейл ngo.womeninmedia@gmail.com
Матеріал підготовлений Texty.org.ua і ГО «Жінки в медіа» в партнерстві з ЮНЕСКО та за підтримки Японії. Автори несуть відповідальність за вибір і викладення фактів, що містяться в матеріалі, а також за висловлені в ньому думки, які не обов’язково збігаються з позицією ЮНЕСКО і не накладають на Організацію жодних зобов’язань.