Алгоритм Instagram пропонує підписаним на підлітків дорослим токсичні відео і контент для педофілів, — розслідування WSJ
Розслідування The Wall Street Journal виявило, що контент, який надходив на створені журналістами тестові акаунти, містив небезпечні кадри з дітьми, відверто сексуальні відео для дорослих упереміш з рекламою великих брендів. Texty.org.ua переказують ключові висновки розслідування.
Відеосервіс Reels від Instagram призначений для показу користувачам потоків коротких відеороликів на теми, які, на думку системи, можуть їх зацікавити, ґрунтуючись на його попередній поведінці під час перегляду.
Meta створила Reels, щоб конкурувати з платформою для обміну відео TikTok, що належить пекінській компанії ByteDance. Обидва продукти надають користувачам безперервну низку відео, опублікованих іншими, і заробляють на цьому гроші, вставляючи між ними рекламу.
WSJ намагався визначити, що алгоритм Reels в Instagram порекомендує для тестування акаунтів, налаштованих на підписку лише на юних гімнасток, чирлідерів та інших молодих інфлюенсерів.
Видання створило тестові акаунти після того, як помітило, що серед тисяч підписників акаунтів таких молодих людей часто є велика кількість дорослих чоловіків, і що багато з тих, хто стежив за цими дітьми, також демонстрували інтерес до сексуального контенту, пов'язаного як з дітьми, так і з дорослими.
Тести показали, що стеження лише за молодими дівчатами призвело до того, що Instagram почав показувати відео з акаунтів, що пропагують дорослий секс-контент, поряд з рекламою великих споживчих брендів.
У потоці відео, рекомендованих Instagram, реклама застосунку для знайомств Bumble з'явилася між відео, на якому хтось гладить обличчя латексної ляльки в натуральну величину, і відео, на якому молода дівчина з заблюреним обличчям підіймає сорочку, оголюючи свою зону декольте. Ще один ролик демонструє чоловіка, який лежить на ліжку, обіймаючи рукою 10-річну дівчинку.
Реклама, що заохочувала користувачів відвідати Діснейленд на свята, йшла поруч із відео, де доросла людина зображала секс зі своїм батьком, а також з молодою жінкою у спідній білизні, у якої з рота капала несправжня кров.
Коли тестові акаунти відстежили деяких користувачів, які стежили за акаунтами тих самих молодих людей, вони видали ще більш тривожні рекомендації. Платформа пропонувала поєднання порнографії для дорослих і матеріалів, що сексуалізують дітей, наприклад, відео з одягненою дівчиною, яка пестить своє тіло, і відео з дитиною, яка імітує статевий акт.
WSJ вже писав, що алгоритми, які використовує компанія Meta, що володіє Facebook та Instagram, пов'язують великі спільноти користувачів, зацікавлених у педофільському контенті. Після публікації Meta створила робочу групу і заявила, що цей орган видаляє десятки тисяч підозрілих акаунтів.
Після того, як видання зв'язалося з компаніями, чия реклама з'явилася в тестуванні поруч із неприйнятними відео, деякі з них заявили, що Meta повідомила їм, що проводить розслідування і заплатить за перевірку безпеки бренду сторонньою фірмою.
Нинішні та колишні працівники Meta розповіли в інтерв'ю виданню, що тенденція алгоритмів Instagram до агрегування контенту з дитячою сексуалізацією з усієї платформи була відома всередині компанії як проблема. За їхніми словами, як тільки Instagram визначає, що користувач зацікавлений у певній темі, його рекомендаційні системи навчаються показувати йому більше пов'язаного з нею контенту.
За їхніми словами, для того, щоб система не показувала шкідливий контент користувачам, які ним цікавляться, необхідно внести значні зміни в алгоритми рекомендацій, які також сприяють залученню звичайних користувачів.
Додатково проблема полягає в тому, що автоматизованим системам контролю важче аналізувати відеоконтент, ніж текст або нерухомі зображення. Інша складність виникає через те, як працює Reels: замість того, щоб показувати вміст, яким поділилися друзі користувачів, як це часто роблять інші частини Instagram і Facebook, Reels рекламує відео з джерел, за якими користувачі не стежать.
У серпні WSJ поінформував Meta про результати своєї перевірки. За місяці, що минули відтоді, тести, проведені як журналом, так і Канадським центром захисту дітей, показали, що платформа продовжувала розміщувати серію відео за участю маленьких дітей, дорослий контент і очевидну рекламу матеріалів дитячого сексу, розміщених на інших ресурсах.
Станом на середину листопада, за даними центру, Instagram продовжує постійно рекомендувати те, що некомерційна організація описує як "дорослих і дітей, які позують у сексуальних позах".
