Як працює програма боротьби Facebook з порнопомстою

Програма боротьби Facebook з порнопомстою буде покращуватися, проте модератори все-таки побачать інтимні знімки без «розмиття».

У листопаді 2017 року Facebook почав тестувати в Австралії програму проти публікації знімків колишніх партнерів – найчастіше екс-кохані намагаються так в помститися за розставання. Методи боротьби з «порнопомстою» багатьом здалися неоднозначними: інтимні фотографії, які спочатку потрібно відправити самому собі, потім побачать модератори.

Звідки взялася «порнопомста»

Термін «порнопомста» (revenge porn) почав формуватися на початку 2010-х років через сайт IsanyOneUp і порноагрегатора XTube. У 2015-2016 роках в головній світовій соцмережі – Фейсбуці – виникло кілька скандалів через «порнопомсту»: наприклад, солдати Корпусу морської піхоти публікували інтимні знімки жінок-колег, а батьки австрійської дівчини викладали її «незручні» фотографії.

У квітні 2017 року Марк Цукерберг оголосив про початок боротьби з явищем в Facebook, Facebook Messenger і Instagram. Він визначив «порнопомсту» як будь-яку інтимну фотографію, якою поділилися без дозволу автора. Щоб модератори перевірили знімок на порушення стандартів, досить було натиснути кнопку «Поскаржитися» (Report).

Програма боротьби Facebook з порнопомстою – новий крок Facebook по боротьбі з «порнопомстою». Країна вибрана не випадково, адже кожна четверта-п’ята місцева жителька у віці від 18 до 45 років страждають від аналогічних випадків. У найближчому майбутньому тестування поширять на Великобританію, США та Канаду.

Якщо результати визнають задовільними, функція стане доступна всім користувачам соцмережі. Ось тільки новина про те, що модератори будуть переглядати інтимні знімки перед створенням цифрового відбитка, багатьом здалася дивним і порушенням їх прав. Ще більше запитань виникло до об’єктивності модераторів, адже людський фактор здатний привести до помилки.

Як поводиться Facebook практично в усьому, крім інтимних знімків: «Ми любимо алгоритми. Алгоритм – король усього ». Як поводиться Facebook, відносно ваших інтимних фото: «Так, треба, щоб Гері глянув на це»

Як Facebook тестує програму

Припущень і домислів про боротьбу з «порнопомстою» стало так багато, що глава департаменту глобальної безпеки Facebook Антігона Девіс (Antigone Davis) додатково роз’яснила, як працює програма. За її словами, участь в тестуванні нової функції цілком добровільна.

Кожен австралієць, який хоче випробувати нову функцію, заповнює онлайн-форму на сайті австралійського урядового агентства e-Safety;

Користувач Фейсбуку відправляє інтимну фотографію собі в Messenger і позначає спеціальним прапорцем – так в соцмережі визначать фото, яке «викликає занепокоєння»;

Секретарі e-Safety повідомляють Facebook про те, що учасник програми заповнив форму. При цьому у влади немає доступу до зображення;

Коли Facebook отримує повідомлення, представник Community Operations (підрозділ з підтримки користувачів) відкриває фотографію, вивчає її, хешує і створює цифровий біометричний шаблон за аналогією з відбитком пальця;

Facebook пише в e-Safety і просить автора скарги видалити оригінальне фото з Messenger на їх пристрої. Потім модератори видаляють це зображення зі своїх серверів;

Після всіх дій відновити вихідний знімок з хеша можна. Якщо хтось спробує завантажити таку ж фотографію в соцмережу, автоматично запуститься база даних хеш. Якщо вони співпадуть, Фейсбук не дозволить публікацію.

За словами представника Facebook (Антігона Девіс про це не згадувала), кожну фотографію вивчатиме тільки одна людина, а взагалі цим буде займатися невелика група співробітників спеціального підрозділу (скільки їх – не уточнювалося). На серверах Фейсбуку будуть зберігатися тільки посилання, а не самі інтимні фотографії і відео.

Чи побачить співробітник Facebook інтимний знімок

Facebook спочатку навіть не згадував, що програма боротьби з «порнопомстою” не повністю автоматизована – про те, що модератори будуть вручну вивчати фотографії, пізніше дізналися журналісти.

Видання Motherboard двічі зверталося до Facebook за роз’ясненнями – і в компанії відповідали, що їх співробітник побачить тільки замазаний знімок з оголеним користувачем. Цього має бути достатньо, щоб переконатися в намірах автора скарги.

Однак у відкритому листі Антігони Девіс нічого не говориться про те, що модератори Facebook побачать розмиті кадри. Motherboard втретє запитав прес-службу соцмережі, яка зізналася – ніякого розмиття насправді не буде.

Іншими словами, австралійці, які беруть участь в тестуванні, повинні заздалегідь вирішити – чи готові вони до того, що їх інтимні знімки будуть переглядати модератори. «Незрозуміло, чому так сталося, але дуже важливо підкреслити цю плутанину»,