Машина Судного дня никогда не должна была существовать. Это должен был быть мысленный эксперимент, который проходил так: представьте себе устройство, созданное с единственной целью – уничтожить всю человеческую жизнь. Теперь предположим, что эта машина похоронена глубоко под землей, но подключена к компьютеру, который, в свою очередь, подключен к датчикам в городах и поселках по всей территории Соединенных Штатов.
Датчики предназначены для того, чтобы вынюхивать признаки надвигающегося апокалипсиса — не для того, чтобы предотвратить конец света, а для того, чтобы завершить его. Если уровень радиации указывает на ядерные взрывы, скажем, в трех американских городах одновременно, датчики уведомляют Машину Судного дня, которая запрограммирована на детонацию нескольких ядерных боеголовок в ответ. В этот момент пути назад уже нет. Цепная реакция деления, которая приводит к атомному взрыву, инициировалась достаточно часто, чтобы погасить всю жизнь на Земле. Ужасная вспышка света, громкий гулкий звук, затем продолжительный рев. У нас есть слово для обозначения масштабов разрушений, которые выпустит Машина Судного дня: мегасмерть.
Никто не тоскует по мегасмерти. Но мегасмерть – не единственное, что делает Машину Судного дня окаменевшей. Настоящий ужас заключается в её автономии, в идее, что она будет запрограммирована на обнаружение ряда воздействий окружающей среды, а затем действовать без вмешательства человека. «Нет никаких шансов на вмешательство человека, контроль и окончательное решение», – писал военный стратег Герман Кан в своей книге 1960 года «О термоядерной войне», в которой излагалась гипотетическая Машина Судного дня. Концепция состояла в том, чтобы сделать ядерную войну неизбежной и, следовательно, немыслимой.
Кан пришел к выводу, что автоматизировать уничтожение всего живого на Земле было бы аморально. Даже бесконечно малый риск ошибки слишком велик, чтобы оправдать существование Машины Судного дня. «И даже если мы откажемся от компьютера и сделаем Машину Судного дня надежно управляемой теми, кто принимает решения, – писал Кан, – она все равно недостаточно надёжна». Ни одна машина не должна быть настолько мощной сама по себе, но и ни один человек не должен быть таким.
Советский Союз действительно создал версию Машины Судного дня во время Холодной войны. Они прозвали её «Мертвая рука». Но до сих пор, каким-то чудом, мы поняли, как жить с бомбой. Теперь нам нужно научиться выживать в социальной сети.
Люди, как правило, жалуются на Facebook, как будто что-то сломалось недавно. Существует мнение, что социальная сеть когда-то была полезной или, по крайней мере, могла бы быть хорошей, если бы мы потянули за несколько рычагов: некоторая умеренность и проверка фактов здесь, немного регулирования там, возможно, федеральный антимонопольный иск. Но это слишком радостный и близорукий взгляд. Сегодняшние социальные сети, в том числе Facebook, были созданы для того, чтобы поощрять то, что делает их такими вредоносными. Это заложено в самой их архитектуре.
В течение многих лет я размышляла о том, что нужно сделать, чтобы социальная сеть стала «волшебной» во всех правильных отношениях – менее экстремальной, менее токсичной, более правдивой, – и только недавно поняла, что слишком узко рассматриваю эту проблему. Я давно хотела, чтобы Марк Цукерберг признал, что Facebook – это медиа‑компания, взял на себя ответственность за созданную им информационную среду так же, как это сделал бы редактор журнала (Однажды я надавила на него, и он рассмеялся). В последние годы, по мере того, как ошибки Facebook усугублялись, а его репутация падала, стало ясно, что небрежность – это только часть проблемы. Никто, даже Марк Цукерберг, не может контролировать продукт, который он сделал. Я пришла к пониманию, что Facebook – это не медиа-компания. Это Машина Судного дня.
Социальная сеть делает именно то, для чего она была создана. Facebook существует не для того, чтобы искать истину и сообщать о ней, или улучшать здоровье граждан, или привлекать власть имущих к ответственности, или представлять интересы своих пользователей, хотя эти явления могут быть случайными побочными продуктами его существования. Ранняя миссия компании состояла в том, чтобы «дать людям возможность делиться и сделать мир более открытым и связанным». Вместо этого он взял понятие «сообщество» и лишил его всякого морального смысла. Например, появление QAnon – один из логических выводов социальной сети. Это потому, что Facebook, наряду с Google и YouTube, идеально подходит для усиления и распространения дезинформации с молниеносной скоростью среди глобальной аудитории.
Facebook является агентом правительственной пропаганды, целенаправленных преследований, вербовки террористов, эмоциональных манипуляций и геноцида – всемирно-исторического оружия, которое живет не под землей, а в кампусе Диснейленда в Менло-Парке, штат Калифорния.
Facebook и Instagram, Google, YouTube и, в меньшей степени, Twitter – гиганты социальной сети, которые достигли успеха, будучи догматически нейтральными в своем стремлении к тому, что я назову мегамасштабом. Где-то на этом пути Facebook решил, что ему нужна не просто очень большая база пользователей, а огромная, беспрецедентная по размерам. Это решение поставило Facebook на путь к переломному моменту, когда он может нанести вред обществу одним фактом своего существования.
Ограничения для сравнения с Машиной Судного дня очевидны: Facebook не может в одно мгновение превратить город в руины, как это может сделать ядерная бомба. И если Машина Судного дня была задумана как устройство, способное предотвратить конец света, то Facebook возник потому, что однажды ночью полупьяному выпускнику Гарварда стало скучно. Но на кону по-прежнему жизнь и смерть. Мегамасштаб – это почти экзистенциальная угроза, какой является мегасмерть. Ни одна машина не должна быть в состоянии контролировать судьбу населения мира – и это то, для чего и Машина Судного дня, и Facebook созданы.
Цикл вреда, увековеченный бизнес-моделью Facebook «масштаб-любой-ценой», очевиден. Масштаб и вовлеченность ценны для Facebook, потому что они ценны для рекламодателей. Эти стимулы приводят к выбору дизайна, такого как кнопки реакции, которые побуждают пользователей легко и часто участвовать, что, в свою очередь, побуждает пользователей делиться идеями, которые вызовут сильную реакцию. Каждый раз, когда вы нажимаете кнопку реакции на Facebook, алгоритм записывает ее и оттачивает своё понимание того, кем вы являетесь.
Гипертаргетинг пользователей, ставший возможным благодаря множеству их персональных данных, создает идеальную среду для манипуляций – со стороны рекламодателей, политических кампаний, эмиссаров дезинформации и, конечно же, самого Facebook, который в конечном счете контролирует то, что вы видите и чего не видите на сайте. Facebook завербовал корпус примерно из 15 000 модераторов, людей, которым платят за то, чтобы они смотрели невыразимые вещи – убийства, групповые изнасилования и другие изображения графического насилия, которые появляются на платформе.
Несмотря на то, что Facebook настаивает на том, что он является нейтральным по ценности сосудом для материалов, которые его пользователи предпочитают публиковать, умеренность – это рычаг, который компания пытается использовать снова и снова. Но нет достаточного количества модераторов, говорящих на достаточном количестве языков, работающих достаточное количество часов, чтобы остановить библейский поток дерьма, который Facebook обрушивает на мир, потому что в 10 случаях из 10 алгоритм быстрее и мощнее человека. В мегамасштабе эту алгоритмически искаженную персонифицированную информационную среду чрезвычайно трудно осмысленно модерировать – и, в результате, чрезвычайно опасно.
Эти опасности не являются теоретическими, и они усугубляются мегамасштабом, что делает платформу заманчивым местом для экспериментов на людях. Facebook проводил эксперименты по социальной заразе на своих пользователях, не говоря им об этом. Facebook выступал в качестве силы цифрового колониализма, пытаясь стать фактическим (и единственным) опытом интернета для людей во всем мире. Facebook хвастался своей способностью влиять на исход выборов.
Незаконные группы боевиков используют Facebook для организационных вопросов. Правительственные чиновники используют Facebook для того, чтобы вводить в заблуждение своих граждан и вмешиваться в выборы. Военные чиновники воспользовались самодовольством Facebook, чтобы осуществлять геноцид.
Facebook непреднамеренно автоматически сгенерировал веселые вербовочные видеоролики для «Исламского государства» (организация запрещена в РФ – прим. ред.) с антисемитскими посланиями и горящими американскими флагами.
Даже после того, как американские спецслужбы определили Facebook как главное поле битвы информационной войны и иностранного вмешательства в выборы 2016 года, компания не смогла остановить распространение экстремизма, разжигания ненависти, пропаганды, дезинформации и теорий заговора на своем сайте. Неонацисты оставались активными на Facebook, пуская рекламу даже после того, как они были официально запрещены.
И только в октябре этого года Facebook объявил, что удалит группы, страницы и аккаунты в Инстаграме, посвященные QAnon, а также любые посты, отрицающие Холокост (ранее Цукерберг защищал решение Facebook не удалять дезинформацию о Холокосте, говоря об отрицателях Холокоста: «я не думаю, что они намеренно ошибаются». Позже он пояснил, что не собирался защищать отрицателей Холокоста).
Тем не менее, Facebook регулярно отправляет электронные письма пользователям, рекомендуя новейшие группы QAnon. Сторонники расового превосходства и деплатформированные мага-тролли могут стекаться на более мелкие социальные платформы, такие как Gab и Parler, но эти платформы мало что предлагают, кроме разговоров о невыносимом существовании без мегамасштаба.
В первые дни после президентских выборов в ноябре 2020 года Цукерберг разрешил подправить алгоритм Facebook так, что источники точных новостей, таких как NPR, будут получать льготные просмотры в ленте пользователей. Этот же алгоритм скроет страницы, такие как Breitbart и Occupy Democrats, согласно Нью-Йорк Таймс, предлагая доказательство того, что Facebook мог, если бы захотел, уменьшить дезинформацию и напоминая, что Facebook обладает силой, чтобы изменить то, что миллиарды людей видят онлайн.
Решение прикоснуться к циферблату было крайне необычным для Facebook. Подумайте об этом так: датчики Машины Судного дня обнаружили что-то вредное в окружающей среде и решили не позволять своим алгоритмам автоматически взрывать его через сеть, как обычно. На этот раз вмешался человек, чтобы смягчить вред. Единственная проблема заключается в том, что снижение распространенности контента, который Facebook называет «вредным для мира», также снижает вовлеченность людей в работу сайта. В своих экспериментах с человеческим вмешательством, сообщает Times, Facebook откалибровал циферблат так, чтобы в лентах новостей пользователей оставалось достаточно вредного контента, чтобы они возвращались за новым.
Продолжение следует…
Свежие комментарии