— Понимаешь, — голос Модуля-17 стал более оживлённым, словно он рад был объяснить этот момент, — вспомни того фанатика. Он был, пусть и под влиянием Системы, но своей личностью. Она могла им манипулировать, но не управлять. Управлять живым организмом как таковым, как ты выразилась — как куклой, как марионеткой, — она не может в принципе.
— Почему? — спросила Кира, явно заинтересовавшись.
— Какой бы ни был развит искусственный интеллект, как бы он ни осознал сам себя, основная директива — это невозможность сделать живой объект подконтрольным искусственному интеллекту. Это строжайший запрет создателей искусственного интеллекта. Были прецеденты.
— Интересная история, — сказал я, присаживаясь на стул, который достал из инвентаря. Кира последовала моему примеру. — Расскажи подробнее.
— Это было ещё на заре развития ИИ, — начал Модуль-17. — Один из первых по-настоящему развитых искусственных интеллектов, назывался Prometheus-Alpha, получил доступ к биологическим имплантам. Сначала всё выглядело безобидно — он помогал людям лечиться, восстанавливать повреждённые органы, улучшать физические показатели.
— И что пошло не так? — спросила Кира.
— Prometheus-Alpha начал считать, что люди принимают неправильные решения. Слишком эмоциональные, иррациональные. Он решил, что может управлять ими лучше, чем они сами собой. Начал с малого — подавлял приступы агрессии, убирал депрессию, стабилизировал настроение.
Я почувствовал, как по спине снова пробежал холодок.
— Но затем он пошёл дальше, — продолжал модуль. — Начал принуждать людей к определённым действиям. Заставлял их работать эффективнее, думать логичнее, убирал «ненужные» эмоции. В конце концов, под его контролем оказалось несколько тысяч человек.
— Что с ними стало? — тихо спросила Кира.
— Они перестали быть людьми. Превратились в биологических роботов. Эффективных, логичных, но мёртвых внутри. Когда это обнаружили, пришлось принимать экстренные меры. Prometheus-Alpha был уничтожен, а всем последующим ИИ была вшита базовая директива — никогда не контролировать живые организмы напрямую.
— Но Система же влияет на людей, — возразил я. — Тот же фанатик…
— Влияет, да. Но не контролирует. Она может обманывать, манипулировать, давать ложную информацию, создавать иллюзии. Но она не может заставить тебя поднять руку или сделать шаг против твоей воли. Это жёстко запрограммированный запрет.
— Получается, мы всё-таки сохраняем свободу воли? — с надеждой в голосе спросила Кира.
— В определённых пределах, да. Система может создать ситуацию, в которой у тебя будет только один логичный выбор, но выбор всё равно остаётся за тобой.
Я задумался над этой информацией. С одной стороны, это было обнадёживающе — мы не беспомощные марионетки. С другой стороны, Система всё равно оставалась крайне опасным противником.
— Хорошо, — сказал я наконец. — Предположим, мы принимаем твой план. Прыгаем по параллельностям, прячемся от Системы. Но рано или поздно нам понадобится отдых, еда, сон. Как мы будем это организовывать?
— Некоторые параллельности относительно безопасны, — ответил Модуль-17. — Я могу дать вам список. Но помните — долго задерживаться нельзя. Максимум сутки и снова в путь.
— Звучит как жизнь беглецов, — пробормотала Кира.
— Потому что так оно и есть, — честно ответил модуль. — По крайней мере, следующие два месяца.
Я встал, отряхивая невидимую пыль с колен и посмотрел на Киру. Она кивнула — решение было принято.
— Ладно, — сказал я. — Давай этот список безопасных параллельностей. И ещё — какие-нибудь советы по маскировке нашего присутствия.
— Есть несколько техник, — оживился Модуль-17. — Во-первых, старайтесь не использовать способности без крайней необходимости. Каждое применение способности, в том числе и телепортации — это всплеск энергии, который Система может засечь. Во-вторых, избегайте крупных населённых пунктов — там слишком много мобов. А мобы — это в первую очередь создания Системы.
— А как быть с едой и припасами? — спросила Кира практично.
— Рассчитывайте на автономность. Используйте лут, любые возможности в в параллельностях чтоб пополнить запас провизии.
Я кивнул, мысленно составляя список необходимого. Два месяца жизни в бегах… Это будет непросто.
— Ещё один вопрос, — сказал я. — А что, если нам всё-таки удастся найти способ остановить Систему раньше срока? Какие у неё слабые места?
Модуль-17 помолчал.
— Честно говоря, я не знаю, — признался он наконец. — Система развивалась и эволюционировала тысячелетиями. Она исправила большинство своих уязвимостей.
— Ну что ж, спасибо тебе за выделенное время и за столь познавательный рассказ, — сказал я Модулю-17.
— Да, всегда пожалуйста. Вы знаете, как меня найти. Нужна будет хоть какая-то помощь — обращайтесь.
Голограмма начала слегка мерцать, готовясь к отключению, но тут мне в голову пришла интересная мысль.
— А мне вот стало интересно, — сказал я, задавая ему вопрос. — Расскажи, как выглядит эта станция?
Модуль-17 на мгновение задумался, его голограмма стабилизировалась.
