После нескольких инцидентов, включая ужасное и трагическое обезглавливание американского журналиста Джеймса Фоули, Twitter начал пересматривать свою политику и удалил некоторые аккаунты, в результате чего ИГИЛ стал угрожать убийством руководителям компании. 31 Однако аккаунты ИГИЛ по-прежнему были легко заметны в ноябре 2015 года; после бойни в Батаклане, когда ИГИЛ убил 130 человек на концертной площадке и стадионе в Париже, фанбои праздновали в Twitter. 32
ИГИЛ еще раз продемонстрировал, что пропаганда может иметь эффект в "реальном мире": женщины откликались на информацию о невестах джихадистов и отправлялись в Сирию; 33 разочарованные молодые люди присягали на верность ИГИЛ и затем совершали террористические акты. Призыв не должен был быть широко распространенным, чтобы иметь глубокие последствия. Тем временем правительство США, по-прежнему привыкшее к широковещательным сообщениям, было ограничено и не особенно умело работать в социальных сетях. 34 Бюрократы Госдепартамента начали писать в Твиттере искренние послания подросткам и двадцатилетним - "Подумайте еще раз, отвернитесь", - но было неясно, отговаривают ли они тех, кто находит контент ИГИЛ привлекательным. 35 Фанбои ИГИЛ, воспитанные в интернет-культуре и обладающие врожденным чутьем на то, что действительно становится вирусным, уничтожили эти сообщения с помощью мемов, которые все больше становились предпочтительной формой пропаганды в Интернете. 36
Я следил за развитием пропагандистской машины ИГИЛ, восхищаясь и ужасаясь их способностью кооптировать социальные медиаплатформы, такие как Twitter. Это произошло вскоре после того, как я потратил несколько месяцев на глубокое изучение антивакцинных сетей и нарративов. Я думал, что вот еще одно отдельное сообщество, которое с гораздо большим успехом привлекает внимание в сети, чем можно было бы предположить по их реальным показателям. Затем две вещи неожиданно объединились: В 2015 году меня пригласили принять участие в проекте Цифровой службы США, в рамках которого я совместно с Государственным департаментом оценивал присутствие ИГИЛ в социальных сетях и ответные меры правительства США. Это была увлекательная работа, охватывающая как сетевой анализ (как распространяются сообщения), так и анализ бренда (что пытается изобразить ИГИЛ). Я часто вспоминал статью Адриана Чена о русских троллях - "Агентство", - которая не давала мне покоя. Если политические активисты и террористические организации придумали, как использовать эти системы для расширения своего влияния и власти, то наверняка это сделали и враждебные государства, такие как Россия и Китай. Если они запустили бот-аккаунты, кто их ищет? Наверняка они делают это более скрытно. Какова же была адекватная реакция? Противодействие террористам со стороны правительства США не казалось особенно эффективным, но было также неясно, как к решению этой проблемы отнесутся компании социальных сетей... и должны ли они самостоятельно принимать такие важные стратегические решения.
Исследователи социальных сетей, работавшие над проблемой ИГИЛ, уже в самом начале наметили путь, который мог бы предотвратить нежелательную цензуру инакомыслящих и одновременно ограничить охват воинствующих экстремистов: модерация должна быть прозрачной, чтобы общественность могла понять, почему пользователей отстраняют. Учитывая тенденцию к "возрождению" аккаунтов, когда платформы уделяют внимание другим проблемам, модерация должна быть последовательной. Необходимо было признать, что платформы не должны быть единственной инстанцией для решения проблемы; правительства должны сотрудничать, а также учитывать мнение активистов со всего мира. 37 И все же запросы на удаление аккаунтов от правительств также являются потенциальным источником беспокойства, и с ними следует обращаться очень осторожно. Эти ранние принципы были предложены как командами платформы, так и сторонними исследователями, но часто по отдельности и без обсуждения между ними.
Государственная машина пропаганды сотрудничает с мельницей слухов
Интернет, а затем и социальные медиа расширили возможности пропаганды с точки зрения того, кто мог ее производить, на каких каналах она появлялась и в каком стиле велась. Теперь, когда государственные акторы имели доступ как к вещательным, так и к социальным медиа, у них появились новые возможности: открытое вещание (т. е. белая пропаганда на телевидении) расширило свои каналы передачи сообщений до открытых социальных медиа (белая пропаганда на Facebook). Скрытые вещательные средства массовой информации также расширились до создания интернет-сайтов. Но новые возможности "скрытых социальных" изменили игру для государств, заинтересованных в манипулировании общественностью противника за пределами своих границ, вдохновив их на новые стратегии, полезные не только для убеждения и активации, но и для отвлечения и дезориентации. 38
