Тренд всемогущий
Паника, которую Сарао, не выходя из спальни, устроил на рынке ценных бумаг, иллюстрирует, насколько просто применить алгоритмы во зло. Слишком часто мы считаем их просто беспристрастными последовательностями инструкций, которые можно спокойно исполнять, забывая, что все алгоритмы разрабатываются с определенной целью. То, что сами правила предопределены и непредвзяты, не означает, что такова и цель, для которой они используются, – даже если непредвзятость была изначально задумана разработчиком алгоритмов.
Twitter, который часто превозносят как оплот прозрачности среди соцсетей, использует относительно простой алгоритм для определения трендовых тем. Алгоритм ищет резкие скачки в использовании хештегов, а не продвигает темы исключительно на основе частого обращения к ним. Это кажется разумным: взгляд на изменение интенсивности, а не на саму интенсивность использования хештегов позволяет быстро вывести в топ новостей короткие, но важные события, вроде запроса на донорскую кровь (#dondusang – донорство) или предложения укрыться на ночь (#porteouverte – открытая дверь) после серии террористических атак в Париже в 2015 году. Если бы большой объем хештегов был единственным критерием тенденции, то мы никогда не услышали бы ни о чем, кроме Гарри Стайлза (#harrystyles) и «Игры престолов» (#GoT).
К сожалению, этот же набор правил означает, что социальные темы, которые разворачиваются медленно, редко набирают ту популярность, которую они заслуживают. В сентябре и октябре 2011 года, когда волна протестного движения «Захвати Уолл-стрит» набирала силу, хештег #occupywallstreet ни разу не был трендовым в родном Нью-Йорке, при том что в этот период он был самым популярным хештегом в «Твиттере» в целом. Тогда же менее протяженные во времени истории, такие как смерть Стива Джобса (#ThankYouSteve) или свадьба Ким Кардашьян (#KimKWedding), привлекли больше внимания (несмотря на то, что отмечали их в целом реже), чтобы подняться вверх по трендовым рейтингам «Твиттера». Стоит помнить, что даже в подлинно прагматичных алгоритмах может быть жестко зашита тенденциозность, которая влияет на то, куда направляется внимание мирового сообщества.
Пожалуй, еще б'oльшую озабоченность вызывают ситуации, когда человек целенаправленно вмешивается в работу, казалось бы, независимых алгоритмов. В мае 2016 года разоблачительная статья на сайте технологических новостей Gizmodo обвинила «трендовый» новостной раздел Facebook в предвзятом отношении к консерваторам. Gizmodo раздобыл свидетельские показания бывшего куратора новостного отдела Facebook, который утверждал, что истории видных американских правых – Митта Ромни, Рэнда Пола и других – исключались из списка трендовых тем Facebook путем прямого человеческого вмешательства. Даже когда посты консерваторов естественным образом выходили в тренды на Facebook, утверждалось, что они не попали в трендовый список. В других случаях истории якобы искусственно вписывались в трендовый список, даже если не были достаточно популярны, чтобы заслуживать включения в него.
В ответ на обвинения в политической ангажированности Facebook решил уволить свою редакционную команду и «сделать продукт более автоматизированным». Доверив больше власти алгоритму и убрав часть человеческого контроля, Facebook надеялся сыграть на том, что в глазах публики алгоритмы выглядят объективными. Спустя всего несколько часов после их решения раздел трендовых тем продвигал фейковую новость от правых, сообщая, что «скрытый либерал» с канала Fox News Мегин Келли была уволена якобы за поддержку Хиллари Клинтон. Этот эпизод окажется первым из целого шквала фейковых новостей (преимущественно от правых), которые станут определять тренды в Facebook на следующие два года – по сравнению с таким скандалом обвинения в предвзятом отношении к консерваторам, с которых все началось, сильно бледнеют. В конце концов проблемы с обеспечением достоверности и верификацией информации заставили Facebook полностью отключить трендовую платформу в июне 2018 года.