Как и в случае с выборами 2020 года, быстро меняющиеся обстоятельства во время пандемии привели к появлению новых политик технологических компаний, которые пытались найти баланс между свободой слова и предотвращением вреда. Платформы также регулярно общались с представителями органов здравоохранения, пытаясь распространять самую достоверную информацию. И снова их усилия по модерированию - включая маркировку основного контента - были названы "цензурой".
Понимание тонкостей модерации контента COVID-19 имеет решающее значение для определения будущих ответных мер институтов и платформ. Реальные последствия распространения слухов о COVID-19 в Интернете были весьма суровыми. На первых порах такие известные личности, как Роберт Ф. Кеннеди-младший, и различные влиятельные лица распространяли необоснованные теории, связывающие беспроводные вышки 5G с коронавирусом. Видеоролики, размещенные на YouTube, набирали сотни тысяч просмотров и, подобно "Пандемии", распространялись по всему миру. Некоторые из групп в социальных сетях, посвященных теории 5G, за две недели набрали почти полмиллиона подписчиков. 79 Несколько человек были убеждены настолько, что пытались сжечь вышки. 80 Слухи о лекарствах и методах лечения, тем временем, приводили к травмам и смертям.
Важно отметить, что аудитория была восприимчива к этим теориям из-за дезориентирующего состояния мира и из-за того, насколько тяжелой была пандемия для многих людей. Да, информации было много, и разобраться в том, что правда, а что ложь, было невероятно сложно. Но люди болели, в том числе и те, у кого не было медицинской помощи. Многие семьи пострадали экономически из-за закрытия домов и потери детских учреждений; многие были разочарованы, а некоторые не доверяли мотивации и компетентности учреждений, которые отстаивали их интересы. Влиятельные люди, выступавшие против технологий, правительства или здравоохранения, были не совсем неправы: существуют разрушительные коллективные неудачи, ошибки и случаи некомпетентности, и это зерно истины созрело для использования. Риторика о надвигающейся угрозе тирании, долгое время существовавшая на политической окраине, приобрела новый оттенок и привлекла множество новых приверженцев. Люди, ранее прививавшие своих детей, сообщали, что присоединялись к протестам против блокировки или к сообществам активистов, выступавших за открытие школ, а затем теряли уверенность в научности вакцинации, поскольку проводили больше времени с новообретенными союзниками-антипрививочниками, которые становились их друзьями.
Компании, работающие в социальных сетях, годами пытались справиться с движением против вакцин. Вспышки кори в Бруклине и Самоа в 2019 году, о которых говорилось ранее, еще раз показали, что слухи и дезинформация в Интернете могут привести к очень плохим ситуациям в реальном мире. По мере развития этих эпидемий крупнейшие компании социальных сетей решили начать повышать авторитетные источники в ответ на поисковые запросы, связанные с вакцинами. В связи с появлением COVID-19 генеральный директор Meta Марк Цукерберг поручил своим группам по защите прав потребителей начать работу над политикой, направленной на борьбу с дезинформацией о COVID-19. Он обратился к Энтони Фаучи с предложением создать "Информационный центр COVID-19", чтобы помочь людям найти информацию об этом заболевании. 81
После прошлых вспышек технологические компании решили, что, хотя антивакцинальное движение может оставаться на их платформах, его контент не будет получать алгоритмического усиления. Свобода слова, но не свобода охвата. Однако, когда антивакцинальное движение в основном распространяло страх перед доказанной безопасностью детских вакцин, его влияние ограничивалось в основном беременными женщинами и родителями. С глобальным внедрением вакцин COVID-19 для всех возрастных групп потенциальная аудитория движения значительно расширилась. Активисты антивакцинального движения в социальных сетях воспользовались этим обстоятельством и стали свидетелями резкого увеличения числа последователей. Эти новые приверженцы охотно распространяли слухи о вакцинах, дезинформацию и теории заговора - темы, которые стали актуальны практически для всех.
