Главные проблемы начнутся тогда, когда компьютеры станут лучше нас. Создав машину, не уступающую ни в чем нашему собственному мозгу, мы затем заменим процессор на более быстрый или увеличим размер памяти, и компьютер станет совершеннее нас. Мы тут же получим машину, которая будет работать лучше, чем наш собственный мозг. Возможно, она сможет сконструировать более совершенный компьютер, чем могли бы это сделать мы. А этот компьютер, в свою очередь, сможет создать еще более совершенную машину, И так далее возможно даже с реализацией закона Мура в обозримом будущем. Через восемнадцать месяцев после того, как мы сконструируем компьютер, равный по мощности обработки данных нашему мозгу, появится новый компьютер, вдвое более мощный, А еще через восемнадцать месяцев мы получим компьютер с эффективностью обработки данных, в четыре раза превышающей нашу собственную. И так далее. Ничто из этого не является невозможным. Например, нейроны человека передают сигналы со скоростью 200 метров в секунду, в то время как электронные сигналы движутся со скоростью 100 миллионов метров в секунду в меди, а сигнал в оптическом процессе может в принципе перемещаться со скоростью 300 миллионов метров в секунду. Следовательно, можно обоснованно ожидать улучшения в скорости мысли в миллион раз, если разум будет перенесен от плоти к электронной матрице того же размера. Фактически сверхразумный компьютер — это последняя машина, которую сотворит человек. Как только компьютеры превзойдут нас по разуму, они неизбежно возьмут над нами верх. Очень скоро мы подойдем к этапу, когда компьютеры, конструирующие новое поколение машин, даже не смогут нам объяснить, что они делают: мы просто не сможем понять их объяснения. Даже на этом этапе человечеству может найтись применение. Нам, может быть, даже разрешат убираться возле этих машин — хотя, возможно, чая они требовать не станут. Они, возможно, оставят нескольких из нас в качестве домашних животных или же станут рассматривать наши причудливые мыслительные процессы как естественный источник развлечений[243].
Калифорнийский футуролог Вернор Виндж предсказывает: «В течение тридцати лет у нас появится технологическое средства для создания сверхчеловеческого разума. Вскоре после этого эпоха человека закончится».
Возможно, машины установят контроль над человеком даже незаметно для него, и человек даже не будет подозревать, что он находится во власти машин, подобно герою фильма «Матрица»[244].
Конечно, фильм «Матрица» — фантастика, но то, что фантастическая литература предвосхитила и предсказала очень многие технические достижения, ставшие реальностью спустя несколько десятилетий или столетий, — это факт. Если отвлечься от красочно поставленных сцен драк, погоней и других атрибутов голливудской продукции и подойти к анализу данного произведения с чисто технической позиции, то мы увидим, что в ближайшее время никаких препятствий для осуществления мечты машин нет. Так, известный специалист по компьютерной технике Р. Курцвейль[245] утверждает, что ключевые элементы фантастического фильма вполне реализуемы в ближайшие десятилетия. Речь идет прежде всего о
а) создании искусственного разума, не уступающего по своим возможностям человеческому,
б) создании виртуальной реальности, чувственно не отличимой от реальности настоящей, физической,
в) возможности прямого обмена информацией между человеческим мозгом и компьютером[246].
Таким образом, все компоненты господства виртуальной реальности под контролем машин будут созданы уже в ближайшее время. А утешения Курцвейля в том смысле, что все будет хорошо, успокаивают мало.
