Компании, работающие в социальных сетях, способствуют разжиганию насилия, распространению языка ненависти и провоцируют антисоциальное поведение. Их утверждение о том, что они нейтральны, явно не соответствует действительности. Их алгоритмы принимают решения о том, какие сообщения кому продвигать, и, как я уже отмечал, они делают это так, чтобы увеличить прибыль и усилить поляризацию. Могут существовать альтернативные алгоритмы, которые приведут к меньшей поляризации или усилению социальной гармонии, но то, что выгодно частным лицам, не совпадает с тем, что желательно обществу.
Объяснение успеха дезинформации и дезинформирования
Успех дезинформации и сохранение диких расхождений во мнениях во многих ключевых областях трудно совместить с любой моделью индивидуальной рациональности. В стандартной модели экономистов ненаучная (например, антивакцинальная) информация просто не оказывает никакого влияния. В реальном же мире она оказывает влияние.
Масштабы расхождений в убеждениях даже по научным вопросам частично объясняются поведенческой экономикой, которая подчеркивает ограниченную рациональность индивидов. Поведенческая экономика, например, подчеркивает важность предубеждения подтверждения - склонности искать и придавать большее значение информации, согласующейся с нашими предыдущими убеждениями, и отбрасывать информацию, не согласующуюся с этими убеждениями. Следствием этого является то, что если мы начинаем с поляризации, то в итоге становимся еще более поляризованными.
Поведенческая экономика XXI века, кроме того, сделала акцент на формировании убеждений, о чем говорилось в последней главе. Разумеется, маркетологи уже давно пытаются понять, как повлиять на убеждения людей. Большая часть рекламы - это не предоставление информации, а использование чаяний и уязвимых мест людей. Человек Marlboro является ярким примером. Огромный успех рекламной кампании, которая продолжалась несколько десятилетий, начиная с 1950-х годов, заключался не в том, что курение Marlboro сделает вас суровым ковбоем, - информация, которая в любом случае была бы неактуальна для большинства курильщиков, живущих в городах. Вместо этого табачный гигант Philip Morris решил создать образ: Мужчины, которые курят сигареты Marlboro, - настоящие мужчины. И, конечно, он решил опустить информацию о том, что курение может вас убить. Некоторые приписывают успех сигарет именно этому образу ковбоя. Работа рекламодателя заключается в том, чтобы побудить людей купить товар, и рекламодатели очень хороши в своем деле. Настолько хорошо, что компании оправдывают ежегодные траты сотен миллиардов долларов на рекламу.
Почему поляризация выгодна
Платформы разработали выигрышную стратегию - выигрышную для них, но губительную для остального общества - основанную на поляризации, или "вовлечении через возмущение". Группы людей приходят в ярость по разным причинам, поэтому бизнес-модель платформ заключается в том, чтобы предоставить каждому пользователю любую информацию, способную разжечь гнев. Но раздробление информационной экосистемы естественным образом приводит к поляризации общества. Группы получают информацию, которая подкрепляет их убеждения или их чувство несправедливости. В их ленту не попадают статьи и информация, которые могут им противоречить.
Эти эффекты усиливаются, поскольку убеждения взаимозависимы. На наши убеждения влияют убеждения тех, с кем мы взаимодействуем. Это особенно верно, если распространителям информации удается оформить ее таким образом, что она встраивается в культурный контекст. Если республиканцы общаются с республиканцами в непропорционально большом количестве, их особое мировоззрение укрепляется. Свидетельства, которые они видят, и их интерпретация этих свидетельств укрепляют их прежние убеждения. То же самое происходит и с демократами. И это еще больше усиливает поляризацию. Вот почему более важным фактором, определяющим, верит ли человек в реальность изменения климата, является не уровень его образования (как можно было бы ожидать), а его партийная принадлежность.
Такая взаимозависимость убеждений порождает очевидные социальные внешние эффекты, на которые компании социальных сетей в поисках больших прибылей не обращают внимания - или, точнее, обращают внимание только для того, чтобы использовать их в своих интересах. (Даже когда эти компании признают негативные последствия того, что передается, и того, как алгоритмы усиливают поляризацию, они не хотят ничего с этим делать, если вообще что-то делают).
