Кто мы такие на самом деле? Люди, вольные решать свою судьбу, или существа, запрограммированные изменять окружающую нас действительность? Способны ли мы видеть смысл за гранью нашего понимания? Можем ли мы позаботиться друг о друге, закрыв глаза на несовершенства тела и интеллекта? Как мы воспринимаем друг друга: каждый получает, столько, сколько заслуживает или все имеют право существовать, ни в чем не нуждаясь? Что важнее: общая видовая цель или душа каждого отдельного человека? Способны ли мы солгать во благо, или, подчиняясь гордости, будем отстаивать правду? Какова цена жизни в идеальном обществе будущего? Цивилизация может развиваться эффективно только ценой общих усилий. Общество, лишенное эмоций и личных переживаний – всё ради достижения одной цели. Мария, следовавшая общепринятым правилам, неожиданно находит себя в ситуации, когда надо сделать выбор: душа индивида или спасение человеческого вида; правда или ложь; человек или машина. Но благими намерениями, как говорится, вымощена дорога в ад. И у каждого он свой.
ЧАСТЬ 1
Если тебе вдруг захочется осудить кого-то, вспомни, что не все люди на свете обладают теми преимуществами, которыми обладал ты.
2086 год.
Владимир: Добрый вечер! С нами профессор – Кельвин Эйман. Сегодня мы говорим о событиях тех… темных дней, которые чуть не привели к вымиранию человеческого вида на планете Земля: катаклизм, ядерная война, – рассуждаем о дальнейшем развитии общества после катастрофы. Что скажете?
Кельвин Эйман: Здравствуйте. Еще до катаклизма существовало мнение, что большинство живых существ во Вселенной (предположим, что мы не единственные) проходят некие циклы: начинается всё с захвата доминирующим видом территории, затем изменение среды обитания, облегчение жизни при помощи механизации, цифровизация, развитие робототехники, в итоге, если не повезет, самоуничтожение. Мы чуть было не оказались на последней ступени. Хорошо, что у нас хватило ума не повторять ошибок прошлого.
Владимир: Раньше мир был совершенно другим: общество эгоистов, капитализма, постоянных войн. Удивительно, но люди загрязняли атмосферу различными отходами, даже не задумываясь над изменениями климата. А добыча природных ресурсов и их продажа… зарабатывание денег становилось целью жизни, одержимостью. В какой-то степени то, что произошло потом, стало закономерным результатом их деятельности.
Кельвин Эйман: Да, вы правы. Я бы еще добавил совершенно неконтролируемый рост населения, потерю или искажение базовых человеческих ценностей, гонку ресурсов, огромную бездну между богатыми и бедными. И, конечно, неспособность простых людей что-либо изменить.
Владимир: У меня мурашки бегут по коже, когда я думаю о том, что те люди – наши родственники. Мне кажется, мы наконец-то взяли ответственность за наше собственное развитие. Как думаете?
Кельвин Эйман: Я бы сказал, что первые десять – двадцать лет прошлого века были чем-то вроде извращенного варианта Средневековья. В то время тоже, знаете ли, помои выливали на улицы городов прямо из окон, пока не распространилась чума, выкосившая половину населения. Тогда заговорили о санитарии. Человечество готово пересмотреть свои взгляды на жизнь, когда, порой, уже поздно. Произошла катастрофа: поднятие уровня воды Мирового океана, затопление огромного количества территорий, смерть миллиардов людей, ядерная война за оставшиеся территории и ресурсы. А дальше история известна: некоторое количество специалистов эвакуировали в гигантский, технологически продвинутый Бункер, который обеспечил выживание человеческого вида как такового, – мы объединили усилия, построили подземные города, выработали стратегию развития – короче говоря, не просто выжили, а достигли небывалых ранее высот в науке и общественном сознании.
Владимир: Как думаете, в правильном ли направлении мы движемся? Наверняка вы знакомы с опасениями, связанными с развитием искусственного интеллекта1.
Кельвин Эйман: Конечно. Если человечество само себя не уничтожит (а мы прошли этот этап), то произойдет неизбежный всплеск открытий в сфере ИИ и максимальная автоматизация всех аспектов жизни (собственно, так и случилось). Дело в том, что человеческая жизнь в масштабах Вселенной слишком коротка, чтобы осуществить всё то, что мы задумали. Да и трудовые ресурсы человека весьма ограничены - в отличие от машины, он не может работать сутки напролет. Всё больше мы начинаем стремиться к тому, чтобы передать машинам все наши дела и заботы, а для этого ИИ должен на интуитивном уровне понимать наши запросы. Как бы мы ни говорили, что боимся, уж простите, «восстания машин», мы целенаправленно делаем их умными, потому что хотим жить лучше. Машины вообще много чего сделали для (и за) нас: возьмем, например, знаменитое исследование Вояджерами2 Солнечной системы…
Владимир: Да, но ведь
Кельвин Эйман: Вы правы, вводные данные для функционирования программы передавались учеными с Земли, но порой Вояджеру приходилось принимать «самостоятельные» решения: включить ли режим ожидания, например, с какого именно угла сфотографировать космический объект. А если какая-то система даст сбой, а у машины нет времени ждать команды с Земли, то компьютеру приходилось самостоятельно принимать решение об отключении тех или иных систем. Я это к чему: мы, учитывая все условия пребывания исследовательской машины в космосе, целенаправленно создали такой мини-ИИ. Так же и с нашей жизнью: осознав, что мы не хотим тратить время на подбор одежды с утра, мы специально создали программу, которая анализирует наши предпочтения. То есть она проводит анализ данных, отвечающих за нашу индивидуальность, и решает, будто бы она не бездушная машина, а близкий друг.
Владимир: Но ведь это же набор команд, на основании которых проводится анализ - мы заложили их изначально. То есть программа не может выйти за рамки тех границ, которые мы же и установили.
