Онлайн-зловживання — одна з найгостріших загроз цифровій безпеці, з якою щодня стикаються мільйони користувачів у всьому світі. Особливо вразливими до цькування в інтернеті залишаються жінки, журналісти, правозахисники, представники ЛГБТК+ спільнот, етнічних і релігійних спільнот.
Відсутність ефективних механізмів реагування з боку цифрових платформ — таких як Facebook, Instagram, TikTok, X (колишній Twitter) та YouTube — часто змушує людей або терпіти зловживання, або залишати онлайн-простір
У відповідь на цю тривожну ситуацію PEN America спільно з Consumer Reports оприлюднили нове дослідження “Сприйняття онлайн-насильства як спаму: Як платформи можуть зменшити вплив зловживань і водночас захистити свободу вираження”, в якому запропонували інноваційну модель боротьби з онлайн-насильством, що базується на принципах фільтрації спаму.
У доповіді автори ставлять під сумнів традиційний підхід до модерації контенту, який зосереджений на покаранні чи видаленні контенту після його публікації. Замість цього вони пропонують переосмислити онлайн-зловживання як проблему інформаційного шуму, подібно до спаму в електронній пошті. Ідея полягає в тому, щоб автоматично виявляти образливий контент та ізолювати його в окрему зону — “спам-фільтр” — де користувачі самостійно вирішуватимуть, чи бачити цей контент і як на нього реагувати.
Цей підхід, на думку авторів, допоможе зменшити вплив токсичного контенту, дозволивши при цьому зберегти свободу слова і персональну автономію.
Серед ключових елементів моделі:
- Виявлення: автоматизований аналіз потенційно шкідливого контенту.
- Перегляд: поміщення контенту в окрему зону попереднього перегляду.
- Дія: вибір користувачем — переглянути, проігнорувати, заблокувати чи повідомити про порушення.
Рекомендації для платформ
- Створити централізовану панель для перегляду та дій: інтерфейс, де користувачі можуть керувати виявленим контентом.
- Дозволити користувачам налаштовувати фільтри: адаптація системи під індивідуальні потреби.
- Використовувати машинне навчання для персоналізації: покращення точності виявлення образливого контенту.
- Позначати особливо небезпечний контент: наприклад, погрози фізичної розправи або розкриття особистої інформації.
- Використовувати дизайн, що враховує травматичний досвід: створення інтерфейсів, які мінімізують повторну травматизацію.
- Надати можливість делегування: дозволити користувачам передавати управління виявленим контентом довіреним особам.
- Полегшити документування інцидентів: збір доказів для подальших дій.
- Використовувати різні сигнали для виявлення координованих атак: наприклад, одночасні атаки з багатьох акаунтів.
- Залучати постраждалих користувачів до розробки рішень: врахування їхнього досвіду та потреб.
- Доповнювати, а не замінювати існуючу модерацію: поєднання нового підходу з уже наявними методами.
Дослідження PEN America та Consumer Reports порушує важливе питання: чи здатні ми як суспільство не лише реагувати на онлайн-насильство, а й запобігати його впливу ще до того, як користувач з ним стикнеться? Модель, що трактує зловживання як інформаційний шум, який можна фільтрувати, пропонує більш гуманний, персоналізований і проактивний підхід до захисту людей у цифровому просторі.
Цей підхід вартий уваги платформ, розробників, законодавців та громадських організацій — усіх, хто зацікавлений у створенні безпечнішого, інклюзивнішого та гідного онлайн-середовища. Автори наголошують, що настав час переглянути пріоритети: не лише боротися з наслідками, а й будувати системи, які за замовчуванням захищають.
Цей матеріал підготовлено за підтримки Міністерства закордонних справ Нідерландів у межах проєкту “Посилення стійкості журналісток в Україні: протидія онлайн-насильству та гендерній дезінформації”, що реалізується ГО “Жінки в медіа”