Но, к сожалению, реальность сегодня такова, что нужен большой заряд оптимизма, чтобы верить в то, что человечество попросту переживет ближайший исторический период, не уничтожив себя. Общество все больше напоминает пчелиный рой, где индивидуальная свобода подчинена некоему «знанию системы» в целом. Через генерированные нейросетями импульсы, воздействующие на эмоции, система начинает управлять действиями людей, загоняя за определенные флажки. В таком обществе лишаются смысла такие понятия, как «свобода воли», «политика», и даже, при всей внешней персонализации услуг, «индивидуальность». Подчеркнул бы, что особенно сильно воздействие системы на самых юных, ибо они выросли в этом «улье», и не имеют опыта другого общества и других отношений. Люди больше не могут планировать вперед, общаться друг с другом, отучаются самостоятельно, без машин, принимать решения. Рукотворный цифровой Левиафан словно высасывает из людей способности, навыки, критичность, ответственность, умение сосредоточиться, и вместе со всем этим жизненную силу. Любое серьезное испытание, например, изменение климата и настоящая, а не выдуманная пандемия могут отбросить человечество на много веков назад, если вообще не уничтожить.
Об этом нужно говорить открыто: корабль человечества движется на скалы, а в командной рубке никого нет. Технократы обманывают нас и себя, если думают, что их автопилот сможет спрогнозировать все препятствия и сумеет подготовиться к любой неожиданности. Если не изменить курс, судно рано или поздно налетел на скалы, которые уже виднеются на горизонте.
Но что делать, если капитан запил, как Ефремов, и заперся в каюте, закрывшись на ключ и выбросив его за борт? Людям не остается ничего другого, кроме как самим научиться управлять судном, открыть капитанскую рубку, разблокировать штурвал, и, отключив автопилот, попытаться сменить направление движения. При этом надо понимать, что если мы будем сражаться друг с другом за право войти в рубку или выполнить те или иные действия, то мы тоже обречены. Вопросы управления кораблем не решаются силой, они решаются критическим разумом, который принимает решения, осознав все риски. Только в этом состоит наш шанс, и только все вместе мы можем это сделать.
Сначала нужно увидеть проблему, не прячась за банальностями, не оправдывая бездействие ложно понятой «объективностью» и лишающим воли фатализмом.
Использование высоких технологий требует критического мышления, в утраченного наукой в последние десятилетия, когда на смену ему пришли большие вычислительные возможности. Отрыв распространения технологий от осмысления последствий их использования нарастает, никакие риски техношовинистами не учитываются. Являясь по сути тоталитарной сектой, захватившей сегодня капитанскую рубку, они не воспринимают никакую критику и всё чаще прикладываются к бутылке с надписью «технологии искусственного интеллекта». Бутылка заменит им собственный разум, думают они, а никого другого к штурвалу они уже не подпустят.
Сегодня общество спит, вернее, находится в наркотическом полусне. Иногда оно просыпается, видит пожары и погромы, отсутствие управление и воли правящих, и в ужасе от происходящего принимает какой-нибудь сильный наркотик, например, в виде новых виртуальных зрелищ или мнимых возможностей созданных компьютерами реальностей. Оно вновь погружается в сон — до следующего взрыва, погрома, или мора. Настоящий мор может нагрянуть в любой день, и что же выставят против него? Суперкомпьютеры, обученные на фейковых датасетах, на лживых сгенерированных псевдоданных о том, чего на самом деле не было?
Ложь в мире алгоритмов приобретает большую, чем раньше, силу, потому что теперь подавляется любая альтернатива этой лжи. Нет ответственного субъекта, который мог бы что-то верифицировать со стороны, люди, отказавшись от субъектности и превратив себя в предметы, также не хотят больше разбираться, где правда, где ложь, где добро и где зло, где вера, а где заблуждение, где реальность, а где наваждение.
Чтобы в этих обстоятельствах отвести корабль от скал, нужно начать с определения того, к чему нужно стремиться в первую очередь, чего не хватает, что необходимо для выполнения этих задач.
Давайте определим вначале программу-минимум, то, что требуется просто для того, чтобы общество не деградировало дальше.
Чтобы защитить интересы граждан, общества и государства, нужен анализ ситуации и прогнозирование, но прежде людям нужна гарантия от взлома. Нужно понимать, при каких условиях взломать человека станет сначала трудно, а потом, при продолжении мер, и вовсе невозможно.
Прежде всего, нельзя делить общество на тех, за кем следят, и других, которые находятся вне системы всеобщего надзора. Сама система тотальной слежки в корне противоречит основам свободного общества, но начинать нужно с уравнивания прав. Иными словами, нужно обеспечить равенство.
