Вторая эра машин полностью

Джордж Оруэлл, Уильям Гибсон и другие авторы описывали в своих антиутопиях утрату свободы и использование технологий для укрепления деспотизма и полного контроля информационных потоков. Эрик Шмидт и Джаред Коэн описывают некоторые из этих технологий, а также способы противодействия им в своей книге «Новый цифровой мир» (The New Digital Age). Те же самые инструменты, которые позволяют нам все более детально изучать мир, дают и правительству, и его врагам возможность следить за тем, что мы делаем и с кем общаемся. Существует вполне естественный конфликт между расширением наших способностей к познанию и нашим нежеланием, чтобы другие могли узнать о нас что-то, чего мы не хотели бы о себе рассказывать. Когда информация была по большей части аналоговой и локальной, сами законы физики автоматически обеспечивали зону частной жизни. В цифровом мире конфиденциальность требует очень определенных институтов, стимулов, законов, технологий и норм, которые регулировали бы, какие информационные потоки должны быть разрешены, а какие – запрещены, какие следует поощрять, а какие – затруднять.

Технологии могут порождать мириады побочных эффектов, начиная от игромании и цифровой прокрастинации до «балканизации интернета» – распада всемирной Сети на отдельные враждующие между собой части, – от социальной самоизоляции до деградации окружающей среды.[427] Даже самые человеколюбивые изобретения – например, какая-нибудь технология, позволяющая значительно продлить человеческую жизнь, – могут повлечь огромные социальные потрясения.[428]

Самый величественный – и самый умозрительный – образ возможного будущего технологий также пришел из мира научной фантастики: это машина, в полной мере наделенная сознанием. Есть два основных сценария – утопический и антиутопический – гипотетического будущего, в котором компьютеры и роботы обладают «настоящим» мышлением. Антиутопический сценарий обыгрывается в фильмах типа «Терминатора» или «Матрицы», а также в бесчисленном множестве других произведений научной фантастики. Этот вариант технологического прогресса не только «хорошо смотрится» и развлекает зрителей, но и кажется все более и более правдоподобным по мере того, как технологии осваивают и демонстрируют качества, которые еще недавно считались исключительно человеческими. Способность работать в команде – одно из таких качеств, и почему бы не представить себе, как в один прекрасный день будущие версии компьютера Watson, гугломобиля, робота BigDog производства Boston Dynamics, какого-нибудь нашпигованного электроникой дрона и других умных машин решают действовать заодно? Много ли им потребуется времени, чтобы понять, что мы, люди, очень плохо обращаемся с имеющимися у нас технологиями и часто без долгих слов отбрасываем их? Инстинкт самосохранения мог бы стать достаточной мотивацией для этой цифровой армии, готовой начать войну против нас (возможно, используя Siri как переводчика при допросе пленных).

В утопических сценариях развития цифрового сознания человек не сражается с машинами; он объединяемся с ними, выгружая содержимое собственного мозга в облачные хранилища данных и становясь частью «технологической сингулярности». Этот термин придумал в 1983 году писатель-фантаст Вернор Виндж, предсказавший, что «совсем скоро мы создадим разум, который превзойдет наш собственный… Когда это случится, человеческая история достигнет своего рода сингулярности, совершит ранее невозможный интеллектуальный транзит – столь же непостижимый, как завязанное узлом пространство/время в центре черной дыры. И мир уйдет далеко за пределы нашего сегодняшнего понимания».[429]

По мнению Винджа и других, движение в направлении подобной сингулярности регулируется законом Мура. Со временем накопленное удвоение мощности позволит создать компьютер более производительный и более вместительный, чем человеческий мозг. Как только это произойдет, все станет в высшей степени непредсказуемым. Машины смогут обрести самосознание, люди и компьютеры смогут слиться в одно целое «без единого шва», или же произойдут какие-то другие фундаментальные изменения. Рэй Курцвейл, больше других сделавший для объяснения мощи экспоненциального улучшения, писал в своей книге «Сингулярность близко» (Singularity Is Near, 2005), что при нынешних темпах развития эти изменения произойдут около 2045 года.[430] Насколько вероятны сингулярность или появление Терминатора? Честно говоря, мы не знаем. Как и в других случаях, когда речь идет о цифровом мире, никогда не стоит говорить «никогда», однако ясно, что впереди у нас еще долгий путь.