Утром 22 мая 2023 года кто-то опубликовал в Twitter фотографию черного облака дыма и здания с надписью "Большой взрыв рядом с Пентагоном". Это сообщение получило широкую огласку и вызвало кратковременное падение фондового рынка. 103 Это была не первая мистификация в Twitter, вызвавшая волнения на финансовых рынках. Но на этот раз изображение было сгенерировано искусственным интеллектом. Журналисты-расследователи обнаружили, что первым аккаунтом, разместившим контент, был якобы "новостной" аккаунт - по крайней мере, в его имени пользователя было слово "news" - который заплатил за получение синей проверки (верификации аккаунта) в Twitter. 104 Аккаунт ранее размещал контент QAnon и иногда пропутинские комментарии. 105 Среди других аккаунтов, участвовавших в распространении фальшивого изображения, были самозванцы, использовавшие бренд авторитетных новостных изданий ("BloombergFeed", не имеющий отношения к Bloomberg), а также российского государственного СМИ RT и антиистеблишментского блога Zero Hedge. Интересно, что здание, изображенное на снимке, на самом деле не похоже на Пентагон. Физика столбов ограждения и колонн здания была просто неправильной. Но некоторым людям это показалось убедительным, и они поделились информацией и отреагировали на нее. Всплеск на фондовом рынке, скорее всего, был результатом того, что торговые алгоритмы лениво читали Twitter. Но этот сценарий напомнил мне о #ColumbianChemicals и о том, насколько проще сегодня создавать мистификации с помощью технологий.
Социальные сети демократизировали распространение контента, сделав возможным для всех и каждого делиться сообщениями, ориентироваться на аудиторию и развивать сообщество. Генеративный ИИ сводит стоимость создания контента к нулю. Технология обещает невероятные выгоды для большинства честных, подлинных людей в мире, которые будут ее использовать. Общество вряд ли рухнет под воздействием множества манипулятивных кампаний, созданных ИИ, просто потому, что такая технология существует; аудитория должна доверять посланнику и верить в то, что контент настоящий, чтобы он был влиятельным. Но, скорее всего, в ближайшей перспективе мы увидим рост числа подобных мистификаций, даже когда платформы начнут внедрять инструменты для проверки водяных знаков и других признаков подлинности контента. Влиятельные люди, особенно с большим количеством подписчиков, станут мишенями, поскольку манипуляторы попытаются убедить их поделиться синтетическим медиа со своей большой аудиторией.
Генеративный ИИ позволяет нам создавать нереальность: создавать изображения из несуществующих миров, аудиозаписи, которые никогда не произносили ораторы, и видеозаписи событий, которые не происходили, - такая магия раньше была прерогативой крупных киностудий или людей с глубокой технологической подготовкой или художественным мастерством. Но еще важнее понять другое последствие этой технологической революции: дивиденды лжеца, когда осознание существования технологии позволяет человеку усомниться в том, что вещи реальны. 106 Утечка аудиозаписей с реальными комментариями в горячих микрофонах, о которых политик жалеет, что не сказал? Просто отбросьте это. Это не я, это сгенерировал ИИ.
Это не просто теоретические рассуждения. 7 октября 2023 года в Израиле произошел ужасный террористический акт: боевики ХАМАС уничтожили более одиннадцатисот израильских мирных жителей на музыкальном фестивале и в десятках мест вблизи границы Израиля и Газы. Некоторые из боевиков, которые сами были убиты, носили камеры GoPro. 107 Записи с этих камер, а также от первых лиц, прибывших на место происшествия, наводнили социальные сети, сначала появившись на альтернативных платформах вроде Telegram, а затем подхваченные пользователями и распространенные в других местах. Влиятельные пользователи Twitter, некоторые из которых гнались за влиянием (или прибылью от программы монетизации, которую запустил Элон Маск), делали сенсационные и подстрекательские заявления и делились кадрами зверств - в том числе, к сожалению, совершенно других зверств, произошедших давно и в других местах. 108 Мир был потрясен и искал информацию, но стало очень трудно понять, что является правдой на платформе, которая раньше была лучшим источником информации в реальном времени в условиях кризиса.
