В развитии любой площадки со свободно создаваемым и выгружаемым контентом наступает время, когда туда проникают люди, стремящиеся проверить надежность границ правил и извлечь выгоду из этого. Этой проблемы не удалось избежать и такой крупной площадке как Youtube.
Платформы для видеохостинга — хороший источник развлечений благодаря их разнообразному контенту и бесплатному хостингу. Пользователи могут найти видео практически на любую тему, от образовательного контента до музыкальных клипов и комедийных скетчей. Поэтому появление детского контента было лишь вопросом времени.
«Это производство контента в эпоху алгоритмических открытий — даже если вы человек, вам приходится выдавать себя за машину»
В 2017 году разразился скандал, который впоследствие назвали «Эльзагейт», название которого представляет собой комбинацию имени Эльзы, персонажа диснеевского мультфильма «Холодное сердце» (Frozen, 2013), и суффикса «-гейт», который часто используется для описания политических скандалов (от названия скандала в Уотергейт). Впервые внимание общественности к скандалу привлек Джеймс Бридл, писатель и художник, который в ноябре 2017 года опубликовал статью на платформе Medium. В ней, он обратил внимание, что большую популярность, сравнимую с лидерами платформи вроде Pewdiepie, набирают специфические ролики, направленные на детей, в основе которого лежал прагматичный и механический подход к созданию детского контента, что особенно отражалось на заголовках:
Качество у таких массово создаваемых видео с алгоритмическими комбинациями в названиях было соответствующее — что-то снималось с помощью 3D, что-то с помощью живых актеров, а где-то фигурировали куклы. Вбив по запросу имена популярных персонажей можно легко найти соответствующий результат:
Видео любого типа на разный вкус и любого цвета по желанию. Судя по тому, что канал существует давно, он не нарушает правил сообщества. Кстати, Эльза до сих пор одна из самых популярных героинь для подобных видео.
Зрителями таких роликов оказываются чаще всего дети, которым включали детские песни или мультфильмы на Youtube. Оставшись наедине с гаджетом, ребенок зачарованно смотрит контент, переходя с ролика на ролик, попадая, в том числе, на такие каналы, паразитирующие на популярных темах:
Как вы думаете, кто здесь лишний? Скриншот из публикации Бридла.
Ролики, однако, оказывались не всегда безобидными. Некоторые из них затрагивали болезненные темы — уколы, походы к дантисту, рвоту, беременность. Кое-какие пришлось удалить, потому что в них была явная эксплуатация детского труда или фетишизация детей через ракурсы, образы и одежду.
Специально для детей (до 12 лет) Youtube выпустил приложение с приставкой Kids.
Моральный шторм и как с ним справляться.
Моральной паникой называют явление, при котором общество или его часть реагирует на определенную ситуацию с чрезмерной эмоциональной реакцией. Оно происходит с помощью «сарафанного радио», в основе которого лежит инцидент, затрагивающий моральные границы, с появлением острой реакции масс-медиа, сломанного телефона социальных сетей и попыток предпринять срочные меры на преувеличенную опасность.
Пример функции «Часто пересылаемое» в WhatsApp (является продуктами Meta* — запрещенной экстремистской организации) служит для пресекания моральных паник, так как ограничивает количество пересылок и помечает специальным пояснением. Эту функцию запустили после серии линчеваний в Индии. Тогда группа неизвестных лиц рассылали якобы ориентировки на растлителей. Результатом стала гибель 40 человек от насильственных расправ.
Моральная паника усиливает значимость инцидента и приводит к самым разным видам реакций. Чтобы пресекать такое состояние, любая крупная платформа должна принимать во внимание кризисные ситуации, чем, собственно говоря, YouTube и занялся, пересмотрев политику размещения детских видео. Кейс Эльзагейта можно назвать успешным, так как хостинг вовремя отреагировал на произошедшее, удалив явных нарушителей правил и введя новые правила регуляции вплоть до временного запрета комментирования контента с участием детей. Для каждого это важный урок, ведь без оперативности пришлось бы вмешиваться политикам, которые представляют собой финальный участок цепной реакции моральной паники.
Битвы алгоритмов против массовых некачественных подделок.
Одно из важных последствий Эльзагейта — понимание того, как автоматизация изменит площадки. Ведь нейросети сильно облегчат производство контента — видео, фото, текстового, 3D моделей, шаблонов. Однако, если любой обыватель может создать легко изображение, видео, код, 3D-графику и даже сайт, то нас ждёт эра массового автоматического эрзац-контента от людей с таким подходом. Такие случаи уже были — недавно компания Valve в своем магазине Steam стала выборочно отказывать в выпуске игр, которые созданы с помощью ИИ. Делала она это из соображений соблюдения авторского права. Но скорее всего, компания просто пока не знает как правильно регулировать такой контент.
Сгенерированное в сервисе Lexica.art изображение на тему Эльза-гейта. Нейросети обучены на изображениях популярных персонажей и они могут создавать подобные, но не полностью идентичные образы. Вы вполне можете написать промт «подобный герою А персонаж» — и нейросеть вас поймёт. Кстати, оригинальный Человек-паук не носят плаща.
Плохо ли это для потребителя? На первых порах скорее да, чем нет. С одной стороны вы получите контент любого типа и расцветки, с другой стороны он будет зависеть от уровня работы с нейросетевыми инструментами. Это будет похоже на жанр фанфикшна, вышедшего на уровень массового производства. Для владельцев компании это означает, что пора засучить рукава и начать создавать более драконовские правила. В том числе, на борьбу придется снарядить ИИ-помощников, которые будут автоматически модерировать контент.
Переделки, ставшие оригиналами.
С другой стороны, массовый наплыв эрзац-контента тоже может иметь положительные стороны. Например, популярный когда-то роман «50 оттенков серого» изначально писался как фанфик к «Сумеркам» Стефани Майер. Николай Перумов, российский фантаст, вдохновлялся трилогией Дж.Р.Р. Толкина «Властелин Колец» и создал свою трилогию «Кольцо Тьмы». Серия игр «S.T.A.L.K.E.R» заимствует идеи из произведений Стругацких. Сверхпопулярный сериал «Рик и Морти» — это идея, выросшая на подражании «Назад в будущее». Хотя эрзац-контент может быть некачественной заменой высококачественному контенту, он также может служить источником вдохновения и референсов для создателей в различных областях.
Кроме того, многие жанры юмора, например, пародии живет за счёт инверсий и разрушения логического ожидания в привычных ситуациях. Пародии переворачивают знакомые образы и ситуации верх дном, в чем нейросети тоже могут преуспеть.
Поэтому нельзя сказать, что автоматизированное производство контента — это однозначно плохо. Да, безвкусных вещей станет больше. Но появится больше и интересного контента, играющего на эффекте узнавания.
