«Ютуб», великий радикализатор

0

В какой-то момент во время президентской предвыборной кампании я смотрела кучу видео выступлений Трампа на «Ютубе». Я тогда писала статью о его призывах к основной массе избирателей и хотела подтвердить некоторые цитаты.

Вскоре я заметила что-то странное. «Ютуб» начал рекомендовать мне и автоматически проигрывать видео, где изображались набеги супрематистов, отрицался Холокост и другое неприятное содержимое.

Так как я в принципе не смотрю ничего крайне правого на «Ютубе», мне стало интересно было ли это феноменом исключительно для правого крыла. Поэтому я создала другую учётную запись в «Ютубе» и начала смотреть видео Хиллари Клинтон и Берни Сандерса, позволив алгоритму рекомендаций «Ютуба» завести меня куда-нибудь.

Совсем скоро меня стали перенаправлять на видео с левацким заговорщицким контентом, включая утверждения о существовании тайных правительственных агентств и предположений, что правительство США стояло за атаками 11 сентября. Как и с видео Трампа, «Ютуб» рекомендовал содержимое, которое было более и более экстремальным чем обычное политическое движение, с которого я начинала.

Будучи заинтригованный, я поэкспериментировала с неполитическими темами. Сработала та же схема. Видео о вегетарианстве вели к видео о веганстве. Видео об утренних пробежках вели к роликам об ультрамарафонах.

Казалось, что ты постоянно «недостаточно крут» для алгоритма рекомендаций «Ютуба». Он продвигает, рекомендует и распространяет видео таким образом, как будто он постоянно повышает уровень. Учитывая его число пользователей на уровне миллиарда, «Ютуб» может быть одним их самых мощных радикализирующих инструментов 21-го века.

Это не потому, что клика инженеров «Ютуба» сговорилась сбросить мир с катушек. Более явное объяснение имеет дело со связью искусственного интеллекта и бизнес-модели «Гугла», которому принадлежит «Ютуб». Несмотря на всю благородную риторику, «Гугл» – рекламный брокер, продающий наше внимание компаниям, которые платят за это. Чем больше люди сидят на «Ютубе», тем больше денег делает «Гугл».

Что держит людей прикованными к «Ютубу»? Его алгоритм кажется считает, что людей привлекает контент, который более экстремален, чем тот, с которого они начали, или более возбуждающий.

Верно ли это подозрение? Хорошие данные трудно найти. «Гугл» неохотно делится информацией с независимыми исследователями. Но теперь у нас есть первые намёки на подтверждение, отчасти благодаря бывшему инженеру «Гугла» по имени Джильом Чеслот.

Чеслот работал в «Ютубе» над алгоритмом рекомендаций. Он обеспокоился по поводу используемой тактики, используемой для увеличения времени, проводимого людьми на сайте. «Гугл» уволил его в 2013 году в связи с недовольством его работой. Он настаивает, что реальным поводом было его слишком настойчивое требование изменить подход компании к решению таких проблем.

«Уолл-стрит джорнэл» провела расследование по поводу контента «Ютуба» с помощью Чеслота. Оно обнаружило, что «Ютуб» часто «подавал крайне правые или крайне левые видео пользователям, которые смотрели относительно обычные источники новостей», и что такие экстремистские тенденции были очевидны на фоне широкого разнообразия материала. Если вы искали информацию о вакцине против гриппа, вам предлагали видео с заговором против вакцинации.

Возможно также что алгоритм рекомендаций «Ютуба» имел склонность к возбуждающему контенту. Во время предвыборной гонки 2016 года Чеслот создал программу по отслеживанию самых рекомендуемых «Ютубом» роликов вместе с моделями рекомендаций. Он обнаружил, что, если вы начинали смотреть хоть видео, призывающее голосовать за Клинтон, хоть видео, восхваляющее Трампа, в большинстве случаев вам давались рекомендации смотреть видео про Трампа.

Соедините эту находку с другими исследованиями, показывающими, что во время кампании 2016 года дезинформация, которая склонялась к яростному контенту, возвышала Трампа над Клинтон, и тенденция «Ютуба» в области подстрекательства становится очевидной.

«Ютуб» недавно попал под огонь за рекомендации видео, продвигающих теорию заговора, что выжившие при стрельбе в школе в Паркленде, штат Флорида, являются «кризисными актёрами», изображавшими жертв. Джонатан Олбрайт, исследователь из Колумбийского университета, недавно «прочесал» со своей учётки «Ютуб» на предмет «кризисных актёров» и обнаружил, что при переходе по рекомендации «Смотрите далее» он попадал на сеть из почти 9 000 видео, представлявших эту и подобные теории заговора, включая заявление, что стрельба в школе в Ньютауне, штат Коннектикут, в 2012 году, была постановкой.

То, что мы видим, является компьютерной эксплуатацией натурального человеческого желания: заглянуть «за занавес», копнуть поглубже то, что нас интересует. Пока мы кликаем и кликаем снова, нас ведут к восхитительной сенсации, раскрывающей всё больше тайн и более глубокую правду. «Ютуб» ведёт зрителей вглубь кроличьей норы экстремизма, а «Гугл» тем временем увеличивает продажи рекламы.

У людей много натуральных тенденций, за которыми надо бдительно следить в контексте современной жизни. Например, наша страсть к жиру, соли и сахару, которые хорошо служили нам пока еды не хватало, может завести нас в среду, где жира, соли и сахара очень много и их нам усиленно предлагают. Так и наше натуральное любопытство к неизвестному может завести нас на вебсайт, который направит нас в сторону лжи, инсценировок и дезинформации.

Фактически «Ютуб» создал ресторан, который подаёт нам чересчур сладкую, жирную еду, накладывая нам тарелки сразу после того как мы заканчиваем предыдущее блюдо. Со временем наши вкусы подстраиваются, и нам надо ещё более сладкую и жирную пищу, которую ресторан услужливо подаёт. Когда ему на это указывают министерство здравоохранения и озабоченные граждане, менеджеры ресторана отвечают, что они всего лишь подают то, что мы хотим.

Эта ситуация особенно опасна, учитывая сколько людей – особенно молодых людей – обращаются к «Ютубу» за информацией. Дешёвые и шустрые ноутбуки «Гугла», «Хромбуки», которые сегодня занимают более 50 процентов рынка дошкольного образования в США, обычно уже имеют доступ в «Ютубу».

Это положение дел недопустимо, но не неизбежно. Нет никаких причин позволять компании делать так много денег, одновременно потенциально позволяя радикализировать миллиарды людей, огребая финансовую прибыль, при этом прося общество нести так много своих расходов.

Комментариев нет. Войдите чтобы оcтавить комментарий.

Добавить комментарий

 
 
Наверх