Рассказ о полёте контролирующей команды Земли к неизвестной планете, заподозренной в уничтожении людей. Однако искусственный интеллект убедил их в преимуществах компьютерного бессмертия. В результате программно-технический комплекс "Умница" главенствует над компьютерными моделями людей. Они как бы живут в искусственном теле с разумом, находящимся в памяти центрального компьютера. Показаны необычные преимущества такой жизни. Рассказано об угрозе жизни команде с Земли и её спасении.
Поиск внеземных цивилизаций был за последние годы одной из приоритетных задач науки. От этого ожидали получить новые более прогрессивные знания. Теплилась надежда непосредственного контакта с доброжелательными пришельцами или, по крайней мере, неагрессивными. И вот, наконец, был достигнут уровень средств связи, позволяющий общаться, пока виртуально, с внеземными сообществами в нашей Галактике. Пользовались этим в основном достигшие не менее низкого, чем у нас, технического обеспечения контактов. Причём некоторые из них уже имели информацию о состоянии соседних планет. Их население было ещё с менее развитым в техническом отношении обеспечением. Знали и о планетах, находящихся в начальной фазе развития жизни мыслящих существ на них. Всё это позволило представить общую картину заселения Галактики.
Эйфория на начальном этапе от полученных контактов, пусть даже без ожидаемой полезной информации, вскоре сменилась опасениями от их результатов. Поводом был пример развития нашей цивилизации от первобытнообщинной организации до современного общества. Он характеризовался неизменным желанием использовать прогресс на службу покорения одних народов другими. Сколько крови пролито! Сколько душ загублено! И новые «достижения» науки делают этот процесс всё более вероломным и непредсказуемым.
Опасность традиционного развития усилилась, когда на горизонте появилась новая угроза. Под лозунгом современного общества «максимально облегчить» жизнь людей, создать для них более комфортные условия привела к идее наделить компьютер свойством Искусственного Интеллекта. А уж он, как утверждали его сторонники, освободит человека от многих бытовых забот и необходимости выбирать и даже реализовать свои решения. Ведь человек при этом может ошибаться. А искусственный интеллект – никогда. Ну, практически, с минимальной, как говорили, погрешностью.
Конструктивной формой Искусственного Интеллекта могли быть роботы. Их внешний вид зависел от области применения. И вот компания пропаганды разработки «думающих» роботов приобрела грандиозный масштаб. Но исторический опыт показывает, что природный интеллект человека иногда предлагает такие действия, что потом долго приходится исправлять последствия. И не приведёт ли интеллект роботов к аналогичным результатам? Опасение этого привели к потокам предположений в виде: «Терминатор 1», «Терминатор 2» и так далее. Предсказывалось, что роботы, развив интеллект до высокого уровня, вознамерятся обходиться вообще без живых людей. А для этого надо просто их уничтожить.
В связи с этим живущие на Земле, люди обеспокоились о своей судьбе. Ну, кто же захочет быть пассивной массой, согласной со своим исчезновением как одного из субъектов общей биосферы. Заседали, обсуждали и пришли к рекомендации законов, которые надо закладывать в память роботов, наделённых Искусственным Интеллектом.
Во-первых, робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Во-вторых, робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
В-третьих, робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Законы-то хорошие, но где гарантии, что Искусственный Интеллект не «придумает» какого-то обходного пути для недопустимых действий. Да и «вред» – понятие относительное. Что одному – вред, другому – добро.
На этом фоне связь с внеземными цивилизациями обладает той же опасностью. По имеющимся контактам все они в пределах нашей Галактики относятся к другим, вроде бы, доброжелательно. Но ведь истинные намерения можно и скрывать. И кто они, эти новые знакомые на самом деле?
Для решения этого вопроса организовали «Галактический клуб» и на его виртуальном заседании согласовали периодические прямые контакты путём приёма каждым из членов клуба контролирующих делегаций.
***
Космический корабль, если так можно назвать собранную уже в космосе платформу, предназначенную для длительных межпланетных полётов, приближался к назначенной руководством «Галактического клуба» цели. Как и во всех предыдущих случаях его штаб выработал и рекомендовал процедуру контроля. Он предупредил о несколько странной информации с непосещаемой ещё до этого планеты. Никаких тревожащих черт поведения из их посланий не просматривалось. Создавалось впечатление о полном благополучии. Но это порой и оказывалось показателем беспредельной власти роботизированного Искусственного Интеллекта.
В связи с этим штабом клуба рекомендовалось на время проведения контроля состояния планеты корабль с делегацией держать на околопланетной орбите. А непосредственно контакт с обитателями осуществлять небольшими группами специалистов. Для их посадки на поверхность были предусмотрены малогабаритные челноки.
