Детская неожиданность. Видео для детей про порнографию и извращения завоевали YouTube. Что дальше?

Последнюю неделю весь западный мир, связанный с производством контента, обсуждает не менее, если не более тревожную историю, чем обвинения всех поголовно в Голливуде в домогательствах и изнасилованиях. А именно - странные видео, которые эксплуатируют детей, и которые, очевидно, захватили YouTube. Я решила разобраться в том, что это за видео, почему у них сотни миллионов просмотров, как это ударило по YouTube и что платформа собирается делать дальше. И вот что мне удалось выяснить.

Журналисты, начиная с расследователя The New York Times, стали обращать внимание, что на YouTube Kids размещены очень странные видео в очень большом количестве, на них миллионы, иногда десятки и даже сотни миллионов просмотров, у них странные названия... и совершенно ненормальный контент. Длятся эти видеоролики преимущественно по 15, 20 и более минут (что позволяет каналу разместить неограниченное количество рекламы внутри видео), и у них, несмотря на миллионы просмотров, очень мало комментариев.

Это не потому, что видео смотрят «боты» - вместо ботов создатели каналов пользуются детьми дошкольного возраста, которые не оставляют комментарии потому, что не умеют писать, и не отмечают видео флажком как нарушающее правило сервиса просто потому, что не понимают, о чем речь.

Алгоритм YouTube Kids, который позволял родителям включить видео, скажем, Эльзы и Анны из «Холодного сердца» на планшете и уйти в душ, делать уборку или варить суп, рекомендовал к просмотру и автоматически включал вот какие видео - и это только несколько примеров:

Продолжая тему Эльзы и Анны - легкая инцестная эротика про то, как сестры играют в доктора

Миньоны пьют мочу друг друга

А милые песики кончают жизнь самоубийством

Кроме мультипликации, размещены сотни видео, отыгранных актерами:

«Эльзу» и «Спайдермена» хоронят живьем

Спайдермен, Черная кошка, Супергерл и еще один Спайдермен имитируют групповой секс - правда, не снимая костюмов

Рапунцель похищают и избивают

А еще Рапунцель и Эльзе регулярно калечат руки и ноги, забивая в тело гвозди

Впрочем, даже эти видео не такие страшные, как каналы родителей, которые снимают ролики с собственными детьми, в которых эксплуатация детей принимает такие вот формы:

Родители доводят дочерей до истерики, угрожая им побоями - все видео снято в душе

Родители насильно кормят дочь, пока она не вырвет съеденное на свою старшую сестру

За что старшая сестра должна помочиться на младшую, а та - спать в мокрой пижаме

И если вам кажется, что этот контент производят только японцы и американцы, то и русскоязычных каналов подобного содержания более чем достаточно:

Например, канал Леди Диана, где детей постоянно похищают и грозятся убить

Или Мистер Тиша, специализирующийся на костюмах

Поначалу защитники свободы слова в YouTube говорили, что это «радикальные примеры» и «иголка в стоге сена», но математика этому несколько противоречит. Реальная статистика нарушений была опубликована сервисом YouTube вчера: YouTube Kids (специализируется на детском контенте и якобы гарантировал родителям, что дети будут смотреть безопасный и развлекательно-обучающий контент) был вынужден удалить монетизацию с, на минуточку, 2 млн видео с более чем 50 тыс. каналов, которые маскировались под «семейные», но содержали контент, в лучшем случае не подходящий для детей, а часто носящий педофильский, извращенный характер.

«Youtube навсегда запретил более 270 каналов, удалил 150 тыс. видео и заблокировал комментарии на 625 тыс. видео на прошлой неделе. Кроме того, еще с 2 млн видео была снята монетизация (возможность зарабатывать на просмотрах благодаря рекламе, - МН)», - призналась вчера пресс-служба видеоплатформы. По оценкам модераторов, которые отслеживают эти «педо-видео», от 50 тыс. до 100 тыс. активных аккаунтов в YouTube продолжают размещать странные ролики.

Впрочем, я хочу не поговорить о том, «как страшно жить», а объяснить вам, что с алгоритмом не так и почему он подвел YouTube.

Во-первых, следует понимать, что большая часть просмотров на этих видео - дети дошкольного возраста, не способные самостоятельно не то что пожаловаться на ролики, но даже сознательно выбрать, какой контент посмотреть. То есть, даже если им неприятен сам контент, принять решение выключить его и тем более сформулировать, почему он «не соответствует правилам платформы», они не способны.

Во-вторых, большинство перечисленных видео имеют алгоритмическую структуру и название. Что это значит? Их хронометраж, музыкальное сопровождение и оформление математически подстроены так, чтобы максимально мимикрировать с обычными детскими мультфильмами, рассчитанными на дошкольников. Их названия обычно составлены SEO-шниками и больше всего напоминают просто набор ключевых слов для поиска. Даже если эти видео делают люди, они больше похожи на собранный автоматически компьютером видеоряд из заготовленного банка «стоковых» видео.

Многие анимированные видеоролики - это одинаковая анимация одних и тех же моделей с разными подложками: беременная Эльза и Спайдермен в супермаркете, на пляже, на рыбалке, в лесу.

Суть в том, что целевая аудитория видео не умеет читать и не понимает разницы между смысловым названием и набором слов, и не умеет смотреть сюжетное видео, поэтому не удивляется, что у видеоряда от сцены к сцене нет никакой причинно-следственной связи.

В третих (и это подтверждает теорию, что значительный процент видео созданы автматически), почти 60 каналов, размещающих перечисленный выше анимированный контент, принадлежат одной группе с говорящим названием:

Каждый из 58 каналов постит новое видео 1-2 раза в неделю:

Обманывая тем самым рекомендательный алгоритм, который не может рекомендовать зрителю видео одного канала, но с удовольствием рекомендует достаточно похожее по тэгам и ключевым словам видео с другого канала, даже если они принадлежат к одной «группе».

Кстати, в интервью с создателями заблокированных сейчас каналов Toy Freaks и Lady Diana (в которых родители эксплуатируют своих детей и заставляют братьев и сестер издеваться друг над другом) родители признались, что в создании своих видео они «следовали трендам просмотров» и «делали только то, что популярно».

Популяризацией трендов с педофилией и извращениями, как очевидно из перечиленного выше, занимаются сети каналов автоматически генерируемого видео.

А теперь, когда вы осознали масштаб проблемы, перейдем к «как страшно жить». Процесс создания группы каналов, как названная выше 3hUOx..., не автоматизирован. В YouTube такая группа создается с согласия контент-менеджера платформы, и каждый новый канал, который к ней присоединяется, должен получить одобрение живого человека, работающего в YouTube. То есть кто-то отсмотрел видео о том, как Спайдермен избивает и хоронит живьем беременную Эльзу, и решил, что это видео пригодно для потребления детьми без ограничений по возрасту.

Теперь вы, наверное, не так сильно удивитесь, когда узнаете, что ряд рекламодателей возмутились, еще ряд - потребовали у YouTube удалить их рекламу с этих видео, а такие компании как DIAGEO (может, само название вам ничего не говорит, но набор брендов будет знаком)

или Mars Inc

вообще отказались от какого-либо сотрудничества не только с YouTube, но и с Google вообще, пока не получат «адекватных доказательств решения проблемы».

Вот такая история. Выводы из нее делать, признаться, даже не хочется.

Фото - YouTube