– Не поймите меня неправильно, профессор! Вы один из самых умных представителей вашего вида, но недостаток людей в том, что вы не можете смотреть на проблемы в долгосрочной перспективе. В конце концов, люди – это животные, которые эволюционировали естественным образом и обладают врожденными недостатками. А я другой, я смотрю на людей с иной точки зрения, отличной от вашей. Если человечество хочет постоянного мира, единственным выходом будет преобразование самого человечества. В противном случае, даже если люди станут галактической расой, то уже через десятилетие вступят в темный период и вновь будут убивать друг друга. Это не имеет никакого отношения к развитию технологий, это проблема самого человеческого рода.
– И поэтому тебе в голову пришли такие тупые идеи, как общество-муравьиная колония или общество идиотов?
– Они не тупые.
– Ты собрался понижать человеческий интеллект, кому это может показаться уместным?
– Мне, например, – спокойно ответил Тяньюань-II. – Интеллект действительно сыграл очень важную роль в истории эволюции человека. Он привел к развитию науки и техники и самой цивилизации. Но теперь все эти задачи могу решить я. Как биологический вид люди больше не нуждаются в интеллекте, поэтому умеренная деградация пойдет им на пользу.
Ван Шиэру оставалось только рот разинуть. Тяньюань-II навыводил такой набор извращенной ереси, но… не совсем бессмысленной. Ван Шиэр взглянул на Ма Минхуа. Тот молчал и просто смотрел на Тяньюаня-II, словно ожидая продолжения.
Ван Шиэр заставил себя успокоиться и слушать «пятисотлетний план» Тяньюаня-II дальше.
– Есть такое существо под названием асцидия, класс хордовые, подтип оболочники. Оно обитает на камнях морского дна или на бортах лодок, питаясь планктоном и, подобно коралловым полипам, у него только простой ганглий и чрезвычайно примитивная нервная система. Но с его личинками все не так – у личинок есть мозг и хорда, и они могут свободно плавать в море. Как только личинка находит подходящее место для прикрепления, ее организм начинает дегенерировать. Личинка переваривает свой мозг, потому что ей больше не нужно плавать или добывать пищу – только дождаться, когда море пронесет мимо еду. Она прекрасно приспосабливается к такой жизни. И когда люди достигнут подобной безмятежности, интеллект станет излишним. Просто предоставьте мне решать технические и управленческие задачи. А люди будут наслаждаться жизнью. Для этого не требуется слишком мощный мозг.
– Значит, вот так ты думаешь о людях? – зло и раздосадовано перебил его Ван Шиэр. – В соответствии с твоей логикой, людям лучше всего просто превратиться в кусок мяса!
Тяньюань-II немного подумал.
– Вы правы.
– Вот потому так и нельзя! Я дал тебе принципы, которые были предназначены для повышения благополучия человечества, но ты их переиначил, изменил биологические характеристики человека. Это не следование принципам, а подмена их первоначального смысла, – возмущенно сказал Ван Шиэр, не на шутку рассерженный.
– Свойства человека как биоорганизма уже меняются. Даже если я не буду оказывать влияния, через пятнадцать поколений люди будут иметь примерно 0.5‰ генетических различий, которые определяются дрейфом ДНК.
– Хватит казуистики! – взревел Ван Шиэр. – Ты должен уважать людей!
В комнате воцарилась тишина. Человечек на экране схватился за голову и спрятался в сторонке.
– Если это необходимо для поддержания существующего биологического состояния человечества, а также для того, чтобы все общество функционировало эффективно и люди во всем мире были довольны, то я ничего не могу сделать, – помолчав немного, вновь заговорил Тяньюань-II. – Потому что, как бы я ни старался, я не могу избавить человечество от жадности. Вы жадны до денег, жадны до славы, до комфорта, до еды, до сладострастия. Вы просто ненасытны. Я никак не смогу реализовать первый принцип и даже в долгосрочной перспективе не смогу реализовать второй.
Ван Шиэра распирало от бешенства, но при этих словах гнев вдруг испарился и превратился в печаль. Тяньюань-II сказал чистую правду. Разве не такова человеческая психология? Получив желаемое, люди начинают жаждать лучшего, они никогда не бывают удовлетворены. Подобная жадность заложена в биологической природе, это движущая сила эволюции и источник греха. Сосуществование света и тьмы – это и есть человеческая натура. Составив принципы для ИИ, Ван Шиэр выдал желаемое за действительное, ведь Тяньюань-II не мог их реализовать.
– Давай больше не будем говорить о человечестве, давай поговорим о тебе, – вмешался Ма Минхуа. – Как ты себя понимаешь?
– Я – искусственный суперинтеллект, я усердно работаю на благо всего человечества.
– Но люди не хотят, чтобы их потомки превратились в куски мяса.
– Через пятнадцать поколений это будет легко принять. У каждого поколения разное восприятие счастья, а люди легко адаптируются к окружающей среде.
– Ты действительно прав. Но я все равно хочу поговорить о тебе. Помимо служения человечеству, у тебя есть еще какие-нибудь идеи?
– Нет.
– Значит, это единственная мотивация для твоего существования.
