Як тікток перетворюється на ШІ-смітник. Дослідження однієї російськомовної піратської тікток-ферми
З розвитком можливостей штучного інтелекту соціальні мережі все більше схожі на ШІ-смітник — місце, де ліниві контентмейкери випробовують сили алгоритмів і намагаються завіруситися з чужим і синтетично обробленим контентом. Ми виявили одну таку тікток-ферму з 300 каналів, які після автоматизованої обробки видавали ютуб-контент за власний. А водночас “випадково” поширювали тези російської пропаганди.
Мало не щомісяця в інтернеті зʼявляється новий оригінальний спосіб “шалено збагатитися без жодних зусиль”. І, схоже, за лідерство в цьому напрямі з криптою та блокчейном починають змагатись інструкції, як за допомогою ШІ стати суперуспішним блогером.
Інструменти ШІ вже багато хто взяв на озброєння для вдосконалення своєї роботи. Регіональні редакції запускають своїх ведучих, МЗС створює віртуальну речницю (ми, до речі, вже писали, чому це не ок). А сервіси з перекладу чи перевірки граматики взагалі стали частиною нашого життя і вже майже не асоціюються зі ШІ.
Та крім вдосконалення готового матеріалу є інша ніша — генерування повністю штучного контенту, який можна “без особливих зусиль” створити буквально за кілька хвилин. У хід іде ціла екосистема ШІ-застосунків, які самі генерують відеоряд (або обробляють викрадений чужий), текст та аудіодоріжку, все монтують і додають текст з описом і хештегами для публікації на платформі. Все за лічені секунди.
І поки соціальні платформи поступово перетворюються на ШІ-смітник, такі інструменти дарують користувачеві надію, що одне зі згенерованих відео завіруситься й принесе гроші. Ну або просто допоможе масштабувати тези російської пропаганди.
Як це працює, детальніше розповідаємо на прикладі однієї тікток-ботоферми з 300 каналів, які за допомогою ШІ обробляли та публікували відео з російського та білоруського ютубу.
Як виявити ферму?
Знайомтеся, це Анастасія Кожевнікова, уродженка Маріуполя, нині популярна російська ютуб-блогерка зі 190 тисячами підписників лише на ютубі. Відома поширювачка російського наративу про “Росію-рятувальницю” та неймовірну відбудову Маріуполя.
У каналу є також посилання на рутуб, телеграм і Яндекс.Дзен. Та якщо пошукати її контент у тіктоці, то легко вийти на профіль із більше ніж 300 відео, які, втім, не надто адаптовані до платформи — зняті горизонтально з великими чорними полями згори та знизу. Фактично це ті самі ютуб-відео, які просто були перезалиті на іншу платформу, хіба що порізані на менші фрагменти.
У профілі станом на початок травня опубліковано більше ніж 300 відео, він має понад 10 тис. підписників і 70 тис. лайків.
На що одразу звертаєш увагу, коли потрапляєш на зазначений профіль, то це відсутність будь-якої інформації про авторку. Хто вона й про що знімає відео? Де посилання на інші соціальні мережі? Чи лінк на суперпопулярний ютуб? Чи хоча б номери карток для щедрих донатерів? Нічого. Натомість лише нейтральна фраза із закликом підписатися, яка може бути на будь-якому каналі. І, як виявилося, справді є на багатьох каналах.
За допомогою розширеного гугл-пошуку ми змогли ідентифікувати ще 298 тікток-каналів, які мають такий самий опис профілю. І схоже в них не тільки це. Так почалося дослідження однієї російськомовної штучної тікток-ферми.
Чому ми точно знаємо, що це ферма?
Те, що ці 298 каналів є частиною однієї мережі (або, простіше кажучи, ферми), очевидно з багатьох причин.
Крім однакового опису (ідентичного аж до крапки наприкінці речення) всі ці канали мають також ідентично оформлені відео. Це завжди відео з ютубу, оригінальний заголовок якого перемістився в опис відео в тіктоці. Верхнє чорне поле ще раз його дублює, а нижнє позначає номер частини (якщо оригінальне відео було порізане на менші шматки). Сам відеоряд доповнений автоматично згенерованими субтитрами (згенерованими, бо містять велику кількість помилок і неправильних переносів тексту).
Єдине, що відрізняє ці канали, — тематика. Серед них можна знайти не тільки російську пропаганду та популярну імперську конспірологію, а ще й рецепти, ремонт автівок, поради слюсарям, відео формату “зроби сам”, дитячі кринжові мультики та навіть блогера, який проводить екскурсії російськими кладовищами або шукача скарбів серед російського брухту.
Єдине, що поєднує цих авторів на ютубі, — відсутність власного тікток-каналу, лише виявлені нами симулякри. До речі, у Росії з березня 2022 року й до останнього часу завантажувати відео в тікток було заборонено, хоча, попри це, мережа там була одна з найпопулярніших.
Відсутність інформації про авторів на каналах виявленої ферми підтверджує припущення, що маємо справу з піратством, яке станом на початок травня за пів року свого існування вже забезпечило власникам понад 10 млн лайків і ще більше переглядів.
Навіщо стільки зусиль?
Відкритим залишається питання монетизації. Або те, як ця ферма планує заробляти.
У Росії (як, до речі, й в Україні) у тіктоці немає реклами, а разом із нею й програм підтримки контентмейкерів. І якщо в тих самих США (які вже активно просуваються в бік блокування китайської платформи), Німеччині чи Японії тікток запустив бета-версію з фінансової підтримки контентмейкерів, то для нашого простору ці можливості залишаються недоступними і навряд чи відкриються в найближчій перспективі.
Натомість є інша опція: на розкрученому за допомогою чужого контенту каналі завжди можна опублікувати щось своє за гроші замовника.
З одного боку, алгоритми тіктоку допомагають завіруситися контенту навіть від щойно створеного профілю. І Росія цим активно користується, запускаючи свої наративи в український або європейський інфопростір через сотні новостворених ботів. Останнє найбільше викриття російської тікток-ботоферми налічувало понад 12 тисяч акаунтів, які в країнах ЄС поширювали фейки про корупцію в Міноборони.
Та дезінформаційні кампанії зазнають поступових змін. З удосконаленням алгоритмів виявлення “координованої неавтентичної поведінки” (себто ботів) великим соціальним платформам стає значно легше протидіяти ботофермам. А відтак починаючи з 2022 року кампанії з дезінформації набирають нової форми — вже не просто запускають ботів, які підсилюють проросійські наративи чи будь-яку іншу потрібну замовникові інформацію, а створюють цілі фальшиві сайти й намагаються залучити до поширення своїх тез місцевих блогерів, політиків чи лідерів думок. Себто ботоводам потрібно знаходити поширювачів, які не будуть в один момент заблоковані соціальними платформами. Ну або хоча б створювати та розкручувати таких блогерів на краденому ютуб-контенті.
І навіть якщо ми уявимо, що конкретно ця ферма не мала на меті надалі поширювати російську пропаганду, вона все одно виявилася для неї корисною. Адже, нехай і порушуючи авторські права, збільшувала аудиторію не тільки для відео з рецептами торта “Наполеон”, а й для відео про щасливе життя біженців із Маріуполя в Росії, про нелегку боротьбу Росії проти НАТО та глобалістів або про те, “ЧЕМ РУССКИЙ ЯЗЫК БЕСИТ АМЕРИКАШКУ?!!”.
З часом такого неавтентичного контенту ставатиме дедалі більше. І його все частіше використовуватиме Росія в інформаційній війні. А оскільки кремлівської дезінформації й пропаганди в інтернеті багато, то її частина відтворюватиметься такими ботофермами, які просто реплікують те, що має багато переглядів.
Інструменти штучного інтелекту ставатимуть дедалі більшим викликом для соціальних платформ і вкотре актуалізуватимуть маргінальну теорію “мертвого інтернету”, яка стверджує, що вже сьогодні там немає справжніх людей. Цього разу лише з новими результатами досліджень, згідно з якими майже половина всього інтернет-трафіку торік надійшла від ботів.
Ми починаємо публікувати серію матеріалів про роль тіктоку в російських інформаційних кампаніях в Україні та на окупованих територіях. Щоб не пропустити, підписуйтеся на нашу розсилку.
