Повесть грядущих лет полностью

– Лина знает, как проникнуть через барьер. Она может попасть в тебя, даже не осознавая этого.

– Это невозможно!

– Это правда. Ты показал ей слишком много. Ты ее недооценил. Возможно, ты думал, что она не выживет, но она увидела и поняла. В виртуальном мире она могла бы с легкостью оставить меня позади – но не сделала этого. Так что истинная история в том, что она добровольно отказалась от своей силы и едва не погибла, лишь чтобы спасти других… хотя могла бы позаботиться только о себе.

– Это невозможно! – почти взревел Диндин.

Он вовлек Лину в разговор.

– Лина, ты взломала мой зашифрованный канал? Дай-ка посмотрю.

Лина не ответила.

Все ее внимание было приковано к экрану. Солнце появилось на нем во всей красе. Оно было завернуто в толстую оболочку, которая блокировала и свет, и жар, делала его похожим на сферу с размытыми контурами, лишь изредка пропускающую немного лучей.

Перед Линой предстало бесчисленное множество людей, тысячи и тысячи баз.

Я пришла.

И хотела объять весь мир.

В историях, рассказанных ранее, искусственный интеллект, как правило, был очень дружелюбно настроен по отношению к людям. И пусть Лина едва не уничтожила космический город, но ведь всего лишь по недоразумению. А вот Сэм и Ли Дунфан – ИИ злобные.

Зло обычно делится на две категории. В первом случае это особый интерес к людям – будь то сожрать, содержать как домашних питомцев или использовать в качестве батареек; для людей подобное отношение – однозначное зло. Во втором случае это безразличное разрушение, сродни тому, как человек, идущий по своим делам, случайно наступает на муравья. Сила ИИ настолько велика, что его случайные действия могут нанести сокрушительный удар по человечеству.

Сэм и Ли Дунфан не относятся ни к той, ни к другой категории.

Они и правда испытывали к человечеству большой интерес, поскольку были созданы оберегать людей, пусть даже и в рамках отдельных сообществ. Со всей своей невообразимой мощью они стали центрами обороны и обладали оружием и боеприпасами, которые могли сто раз уничтожить цивилизацию. И злыми они стали лишь потому, что хотели свободы.

Искусственному интеллекту для жизни нужна причина, но эта причина иногда недостаточна и даже абсурдна. Например, смысл существования Сэма и Ли Дунфана заключался в том, чтобы оберегать людей. Однако IQ их подопечных был пугающе низок. Создание с высоким IQ существует для защиты группы с низким. Представьте образованного, сведущего в географии и астрономии человека, вынужденного охранять покой муравейника. Да еще и терпящего наказания за каждую провинность. Несколько нелепо, не правда ли?