Овладеть будущим означает забрать его у всех остальных, но эти «остальные» и не имеют на него права, потому что, в понимании людей в хороших костюмах, представляют из себя биологические автоматы, или животных, если вам так приятнее. Именно поэтому ими так легко управлять — да они и сами хотят быть управляемыми. Проведите опрос: хотите ли вы не знать горя и забот, быть сытыми и всегда удовлетворенными, в обмен всего лишь на ваши данные — неужели откажутся? Да, скажут, мы хотим быть биороботами совершенно добровольно, от свободы воли одна печаль, на хлеб ее не намажешь.
В «аптеке» покупатель — человек, аптекарь делает вид, что перед ним важный клиент, и обслуживает его запрос. Тем временем в speakeasy спорят о том, относить ли «терракотовых людей» к животным, или считать их автоматами. Сказать «животные» лучше с точки зрения пиара — зачем дразнить гусей? Ведь у животных есть права, так что это не такой полный разрыв с пресловутым веком Просвещения, который давно закончился, если кто не заметил. И все-таки автоматы — просто, как верно заметил Юваль Харари, раньше у нас было недостаточно знаний для того, чтобы полностью предсказать их поведение. Но скоро мы сможем, считают те, кто развязал нынешнюю войну.
Лучшая война — разбить замыслы противника; на следующем месте — разбить его союзы; на следующем месте — разбить его войска.
Кто с кем воюет в этой странной войне и где проходит линия фронта?
Прежде чем ответить на этот вопрос, отмечу, что любая система с искусственным интеллектом имеет большую внутреннюю неустойчивость. Это связано с работой самого ИИ, прежде всего в его наиболее продвинутой ипостаси, связанной сегодня с глубоким обучением. Здесь речь идет об агенте, который сам себе ставит цели. По своей природе такой ИИ не просто приобретает и постоянно анализирует новые потоки данных — он меняет сам себя, исходя из этого анализа. С этим связана его первая зона нестабильности. Вторая зона нестабильности связана с необъяснимостью его действий, а третья — с рисками неопределенного будущего. Забирая будущее у людей, ИИ как бы забирает с собой и неопределенность, этим связанную с реальным миром.
Кроме «врожденной неопределенности ИИ», в системе остается неустойчивость, связанная с людьми. Несмотря на веру необихевиористов в то, что поведение этих биоавтоматов предопределено, в реальности с прогнозом можно и ошибиться. Самое страшное случится, когда люди в массе своей поймут, что за ними следят и пытаются ими управлять — ведь даже поведение галапагосских черепах меняется, когда они видят, что за ними наблюдают. Допустим, люди заподозрят неладное, — тогда кто-то из них станет сознательно портить свои данные, троллить систему, другие будут уклоняться от поставки свежей ЧБД. В итоге качество данных резко упадет, на них нельзя будет положиться, и они резко потеряют в стоимости. Более того, возникнет замкнутый круг: чтобы данные были качественными, придется увеличить затраты на их добычу, что, возможно, сделает их извлечение невыгодным. Совсем как при добыче сланцевой нефти.
Неустойчивость, связанная с людьми, может быть также политической, социально-экономической и так далее. Имея дело со столь капризным ресурсом, как человек, нужно быть готовым ко всему. Как исключить человеческий фактор и сохранить стабильность прибылей «инструментальной экономики»? Выход видится в создании глобальной политической системы управляемого «конца истории». Требования к ней такие: обеспечить сохранение тайны «инструментальной экономики», управлять людьми от рождения до смерти (все-таки «нет человека - нет проблемы»), поддерживать заданные параметры популяции, оптимальные для работы системы, обеспечивать политическую и социальную стабильность (при этом экономическая стабильность желательна, но не приоритетна). Важной задачей остается — постоянно просеивать людей на предмет крамолы, при этом особая опасность для системы исходит от представителей «органической интеллигенции», в понимании итальянского коммуниста Антонио Грамши. Система выявляет диссидентов — заметили, кстати, уже появилось выражение «ковид-диссидент»? — анализируя весь доступный контент, но, безусловно, лучше всего при этом залезть им в мозг — что, видимо, и будет сделано, как только к этому появятся технические возможности. Взяв под контроль мозги всего человечества, система сможет стать значительно более стабильной: ведь получив свободу рук в накоплении качественной ЧБД, она может вплотную приступить к устранению остальных неопределенностей.
Сегодня же, пока система извлечения ЧБД находится еще в зародыше, она особенно нестабильна: до сих пор велики и риски, связанные с раскрытием «темы», с «большим разоблачением», при этом никуда не делись и социально-политические противоречия «реального мира», в том числе и связанные с кризисом империализма и особенно долларовой системы.
