Лицо Чжана забавно сморщилось. Плуту не всегда было легко читать человеческие эмоции, но он был уверен, что это негативная эмоция, например раздражение или гнев.
Робот пожал своими многочисленными плечами. Люди обидчивы, это он знал точно.
– Давай не будем гадать. В данный момент меня больше волнует лечение. Привлечь внимание Актеона – самое сложное. Мне нужно послать ему файл, подобный тому, что я дал тебе, такой, что защитит его систему от повторного заражения. Но сейчас он перезагружается так быстро, что даже для того, чтобы послать ему новую команду, нужно правильно выбрать время – он может принимать ввод только в течение наносекунды за раз.
– Я могу помочь с этим, – заметил Плут. – Я могу послать сигнал, если буду достаточно близко к центральному процессору Актеона.
– Это хорошо. Другой вопрос – какую команду мы пошлем, чтобы задействовать всю его вычислительную мощность сразу? Вычислить число Пи с точностью до квадриллионного знака после запятой? Попросить поделить на ноль?
Плут воспроизвел файл со звуком, выражающим отвращение.
– Умоляю, – сказал он. – Люди думают, что компьютер просто взорвется, если задать ему нелогичный вопрос. Компьютеры никогда так не работали. Если спросить компьютер о том, чего он не может знать, он просто скажет: «Я не знаю». Если задать ему вопрос, который он не знает, как обработать, он просто вернет ошибку. Все просто. Это люди не могут справиться с противоречиями.
– Тогда, может, у тебя есть идея, как задействовать всю вычислительную мощность Актеона разом?
– О, это достаточно просто. Надо задать ему задачу, которую он теоретически может решить, но затем продолжить расширять ее рамки. Это реальная опасность для искусственного интеллекта. Вы даете ему команду, и он не знает, как прекратить попытки ее выполнить. – Было странно разговаривать с человеком о подобном. Это как если бы Плут спросил у Чжана, сколько литров крови может потерять человек, прежде чем умрет. Тем не менее если после этого Актеон снова начнет работать, то, возможно, оно того стоит. – Скажем, вы говорите искусственному интеллекту, что его задача – делать скрепки. Он создаст машину, которая сможет взять кусок проволоки и согнуть точно так, как нужно, чтобы сделать скрепку. Но на этом он не остановится.
– Нет?
– Вот почему искусственный интеллект так силен и почему роботы, такие как я, вышли из моды. Потому что задача искусственного интеллекта – мыслить нестандартно. Ваш производитель скрепок не просто хочет производить скрепки по одной за раз. У него есть ценности, верно? Например, эффективность и минимизация отходов. Поэтому он поймет, что для изготовления скрепок ему нужна проволока, а люди не дают ему достаточно проволоки. Поэтому он начнет добывать железную руду и переплавлять ее в качественную сталь, а затем вытягивать собственную проволоку. Это эффективно, чтобы контролировать всю цепочку поставок. Для производства стали ему понадобится углерод, а хорошим источником углерода является древесный уголь. Поэтому он начнет сжигать деревья, чтобы добывать больше углерода. Это все гипотетически, конечно, предполагается, что ваш искусственный интеллект находится на планете с деревьями. Но понимаешь, к чему я веду?
– Не совсем. Разве сжигание деревьев не приведет к выбросу большого количества углерода в атмосферу? Когда мы, люди, это делали, возникло много экологических проблем.
– Люди заботились о климате, в котором жили. Искусственный интеллект это не интересует. Он просто хочет сделать больше скрепок. Поэтому он сожжет все деревья и добудет все железо на планете, чтобы сделать больше скрепок.
– Все железо? – спросил Чжан, нахмурившись.
– Все. Включая расплавленное ядро планеты. Он буквально разнесет планету на части, если это позволит ему сделать еще одну скрепку. Любые проблемы, которые это вызовет, вторичны по отношению к главной проблеме – у нас не хватает скрепок. В конце концов он захочет разобрать всю материю во Вселенной и превратить ее во все новые и новые скрепки.
– Это абсурд.
– Конечно, но это логично. Современный искусственный интеллект не настолько ограничен, но идея та же. Если дать действительно умному компьютеру простую работу, он захочет выполнить ее как можно лучше. Вы хотите занять все ресурсы Актеона сразу. Тогда у него не будет времени зацикливаться на василиске. Дайте ему задачу, которую он должен выполнить, но сделайте ее обширной. Слишком, слишком обширной.
– Звучит рискованно. Я не хочу, чтобы меня разбирали на части из-за железа в моей крови только для того, чтобы Актеон мог превратить меня в скрепку, – заметил Чжан.
– Ну, по крайней мере, ты все равно будешь служить какой-то цели.
– Когда ты в последний раз видел хоть один лист бумаги? А тем более два, которые нужно скрепить вместе? Скрепки больше не нужны, это антиквариат.
– Я все это придумал, чтобы показать, как отвлечь Актеона, – произнес Плут. – Ты попросил меня найти Актеону задачу. Я нашел самый логичный вариант, который игнорирует все другие задачи.
– Так и есть, – сказал Чжан.
– Давайте я помогу вам сесть, – предложил Чжан.
