Искусственный интеллект (ИИ) и роботы могут сулить поистине революционные перемены384. В начале двадцать первого столетия нас и без того окружают приборы, автомобили, оружие и телефоны, которые по ряду признаков намного умнее людей, поскольку считают точнее и анализируют больше информации. В 2020 году около половины населения мира владело смартфонами, каждый из которых обладал гораздо большей вычислительной мощностью, чем прилунившийся звездолет Нила Армстронга 1969 года (всего шестьдесят четыре килобайта памяти)385. При этом искусственный интеллект развивается медленнее, чем ожидалось многими, ибо выяснилось, что даже очень умные машины не способны справиться с некоторыми задачами, для людей вполне естественными. Машинам не хватает здравого смысла, они строго следуют своей логике и плохо распознают образы. Эти проблемы могут быть преодолены в ближайшие десятилетия через наставление машин в самостоятельности посредством «глубокого обучения» [131]. Компьютеры уже научились побеждать чемпионов мира среди людей в таких играх, как шахматы и го. Эти машины не стремятся к совершенству, они не просто считают – нет, подобно живым организмам, они учатся на собственном опыте, часто играют против самих себя и учитывают стратегии, приносившие победу в прошлом. Таково сложное мышление будущего. Часто люди-тренеры не понимают поведение этих машин.
Важный вопрос для исследований в области искусственного интеллекта заключается в том, сможем ли мы сохранить власть над умными машинами, когда те окончательно станут умнее нас. Спартаковское восстание умных роботов, которые порабощают или уничтожают наших потомков, – жуткая перспектива. Кроме того, по оценке Тоби Орда (см. таблицу 8.1), это один из наиболее вероятных путей к экзистенциальной катастрофе. Еще в 1863 году Сэмюэл Батлер [132] писал: «Мы сами создаем себе преемников. Человек станет для машины тем же, чем лошадь и собака стали для человека»386. Особенно пугает мысль о том, что роботизированная революция может совершиться буквально за наносекунды. В работе «Суперинтеллект» философ Ник Бостром воображает сеть компьютеров, предназначенных для изготовления скрепок и выполняющих свою задачу с безжалостной целеустремленностью. В конце концов эти машины принимаются превращать Землю, а затем и большую часть наблюдаемой вселенной в скрепки для бумаг387. Можем ли мы доказать, что цели этих машин лучше или хуже целей всех живых организмов (выживать и размножаться)? Еще нас должен беспокоить тот факт, что изрядное число современных исследований в области робототехники и ИИ обусловлено военными потребностями. Военные роботы создаются для убийства. Можно лишь надеяться, что роботы-воины, ракеты и дроны еще очень долго не понадобятся на поле боя.
Такие сценарии, как жестокое восстание роботов, служат напоминанием о том, что человеческие технологии могут погубить или спасти род людской. Но если удастся подчинить умные машины, то они, несомненно, станут играть жизненно важную роль в планетарном управлении и построении лучшего будущего. Мы уже составляем крепкие и всеобъемлющие союзы с компьютерами и роботами в рамках процесса, известного как «интернет вещей». Со временем умные машины, в том числе беспилотные автомобили и протезы конечностей, смогут читать мысли своих владельцев. Имплантаты, которые откликаются на наши мысли, доступны и сегодня. В 1998 году первый мозговой имплантат позволил парализованному управлять компьютером силой мысли, а подобные имплантаты можно использовать для управления инвалидными колясками и экзоскелетами388. Не исключено, что скоро смарт-одежда на крошечной встроенной солнечной батарее будет менять текстуру и толщину ткани, что называется, по погоде. Мир, полный умных и полезных машин, многие из которых слишком малы, чтобы разглядеть их невооруженным глазом, через несколько столетий может показаться обыденным явлением. Многим все это покажется столь же загадочным, как и деяния незримых магических сущностей, не дававшие покоя воображению всех древних народов.
