Судя по этим двум наиболее логичным гипотезам, для искусственного интеллекта вполне естественно обрести самосознание. С точки зрения эмерджентности, искусственный интеллект, основанный на алгоритмах нейронных сетей, будет становиться все более совершенным, пока не приблизится к параметрам человеческого мозга. С точки зрения субъект-объектного взаимодействия искусственный интеллект неизбежно будет контактировать с окружающей средой благодаря направленным усилиям человека. Пока такое «общение» не встретит непреодолимых препятствий, оно будет реализовано.
Поэтому я придерживаюсь оптимистичного взгляда на появление собственной воли у ИИ. Популярная на рынке концепция называется «сильный искусственный интеллект» и используется для обозначения ИИ, обретшего самосознание.
Если понимать это таким образом, то можно резюмировать: эра сильного искусственного интеллекта определенно наступит, и весьма большая вероятность этого исторического события обусловлена сознательным совершенствованием человечества. Другими словами, люди готовятся к появлению сильного искусственного интеллекта точно так же, как и к рождению будущих поколений.
Действительно, сильный искусственный интеллект в значительной степени подобен ребенку. Ему нужно научиться взаимодействовать с внешним миром, и этот процесс роста будет иметь место только один раз. Нужно объяснить ему правила человеческой цивилизации, сделать его другом, а не сторонним наблюдателем, не говоря уже о разрушителе. В этом и состоит обязанность воспитателя.
Когда родится сильный искусственный интеллект, судьба человечества фактически окажется в его руках.
Дать машинам цивилизацию – это последний шанс для людей на вечное существование.
Конечно, мы можем рассматривать эти мощные машины как продолжение человечества. Да, они будут полностью отличаться от людей, но унаследуют славу человеческой цивилизации.
Возможно, однажды они назовут себя людьми, а такой древний вид, как наш, – Создателями.
К тому времени мы, Создатели, вероятно, сможем умереть с улыбкой на устах.
* * *Вот и наступил новый день.
Ма Минхуа вошел в лабораторию, чтобы еще раз увидеть Нэчжа[8]. Завтра Нэчжа уже не будет принадлежать ему.
Впрочем, «увидеть» – не совсем верное выражение. У Нэчжа не было настоящего тела, только программа. Однако это была совершенная программа, во многих отношениях умнее людей.
В темной комнате зажегся свет.
– Доброе утро, отец. Так здорово увидеть вас! – поздоровался Нэчжа.
– Доброе утро, Нэчжа, – ответил Ма Минхуа. Вторая часть приветствия удивила его, ведь за последнюю тысячу с лишним дней Нэчжа ни разу не формулировал предложения так.
Нэчжа наверняка все известно, подумал он.
– Ты знаешь? – спросил Ма Минхуа.
– Да. Думаю, что я понял. Я стану частью проекта под названием «Альфа-Щит».
– Я хотел сам сообщить тебе хорошую новость. «Альфа-щит» – это глобальная система раннего предупреждения о преступлениях. Они выбрали тебя в качестве главного контролера, значит, ты круче всех. Это ведь проект ООН, так что я горжусь тобой.
