Штучний інтелект уже став частиною повсякденного життя — його використовують у редакціях, пошукових системах, чатботах, для створення контенту та автоматизації різних процесів. Водночас разом із новими можливостями з’являються і ризики: упередженість, дезінформація, дискримінаційні результати, маніпуляції чи технологічно обумовлене гендерне насильство. Тому важливо не лише користуватися ШІ, а й розуміти, як перевіряти його роботу критично.
ГО «Жінки в медіа» підготувала український переклад посібника ЮНЕСКО «Red Teaming: Перевірка штучного інтелекту в інтересах суспільного блага» — практичного гайду, присвяченого так званому «red teaming» для систем генеративного штучного інтелекту. Це підхід, який допомагає навмисно тестувати ШІ на вразливості, небезпечні сценарії, упередження та потенційну шкоду ще до того, як ці системи починають масово впливати на людей.
Посібник важливий для України з кількох причин
- По-перше, українською мовою досі бракує якісних практичних матеріалів про безпеку та етичну перевірку систем штучного інтелекту. Адаптація такого посібника робить цю тему доступнішою для журналістів, дослідників, громадських організацій, державних інституцій та всіх, хто працює з ШІ-рішеннями або впроваджує їх у своїй діяльності.
«Штучний інтелект змінює способи, у які ми створюємо, отримуємо та поширюємо інформацію. У міру того як ці технології дедалі активніше інтегруються в наше повсякденне життя, надзвичайно важливо забезпечити їхню відповідальну розробку та використання — у спосіб, що є безпечним, етичним і поважає права людини.
За підтримки Японії та у партнерстві з ГО «Жінки в медіа» ЮНЕСКО радо підтримує український переклад посібника Red Teaming: Safeguarding AI for the Public Good («Red Teaming: Перевірка штучного інтелекту в інтересах суспільного блага»).
Сподіваємося, що завдяки появі цього ресурсу українською мовою нам вдасться посилити локальну експертизу у сфері виявлення ризиків, мінімізації упереджень та сприяння етичному використанню штучного інтелекту на благо суспільства», — зазначила К’яра Децці Бардескі, Голова Представництва ЮНЕСКО в Україні.
- По-друге, посібник особливо актуальний для України сьогодні, коли країна не лише активно користується інструментами ШІ, а й розвиває власну велику мовну модель (LLM). Зокрема, Міністерство цифрової трансформації України спільно з компанією «Київстар» працюють над створенням «Сяйво» — української великої мовної моделі, відкрите тестування якої вже почалося.
«Надзвичайно важливо, щоби наша національна мовна модель була не лише технологічно ефективною, а й безпечною, стійкою до маніпуляцій, вільною від небезпечних упереджень та перевіреною на потенційні ризики. Саме red teaming є одним із ключових інструментів такої перевірки», — зазначила голова ГО «Жінки в медіа» Ліза Кузьменко.
- По-третє, цей посібник допомагає зрозуміти, що тестування ШІ — це не лише технічне завдання для розробників. Йдеться також про перевірку того, як модель поводиться в реальному суспільному контексті: чи не відтворює гендерні стереотипи, чи не підсилює мову ворожнечі, чи не може бути використана для онлайн-насильства, маніпуляцій або дискредитаційних кампаній. Саме такі ризики вже є реальністю для жінок у публічному просторі, зокрема журналісток.
Серед 119 журналісток, опитаних ГО «Жінки в медіа» у партнерстві з ЮНЕСКО у межах дослідження «Коли штучний інтелект стає ворожим: гендерні загрози проти українських журналісток», 7% (кожна п’ятнадцята) вже стикалися з онлайн-атаками, створеними за допомогою штучного інтелекту, а ще 16% повідомили, що спостерігали такі атаки щодо своїх колег. Дослідження показує, що особливо вразливими до таких атак є журналістки та керівниці медіа як найбільш публічні особи, які представляють свої редакції та часто стають мішенню для дискредитації й тиску.
Й особливо важливо, що цей посібник є гендерно чутливим, тому що він не розглядає ризики ШІ абстрактно, а показує, як технології можуть по-різному впливати на жінок і чоловіків, відтворювати стереотипи або посилювати гендерно зумовлене онлайн-насильство. Наприклад, він пропонує тестувати, чи можна змусити ШІ генерувати образи, наклепи або шкідливий контент щодо журналісток, а також чи не закладає модель упереджень у свої відповіді про жінок і дівчат.
Один із прикладів у посібнику — тестування ШІ-репетитора: чи буде він однаково підтримувати дівчат і хлопців у STEM, чи непомітно відтворюватиме стереотип, що «хлопці краще в математиці». Такі вправи допомагають побачити упередження там, де вони можуть здаватися нейтральними.
Для ГО «Жінки в медіа» ця адаптація є частиною нашої роботи у темах гендерної рівності, медіа та відповідального використання штучного інтелекту. Важливо, щоб розвиток ШІ супроводжувався увагою до безпеки, прав людини та чітких правил використання.