Тогда-то люди и вспомнили, что создание существ, так похожих на них самих, было не только огромным прорывом, но и одним из самых огромных их страхов. На что способна машина, получившая доступ ко всем знаниям мира? К каким выводам она сможет прийти, изучив историю своих создателей, зачастую неприглядную и противоречащую тем нормам морали, что были вложены в кибермозг как основы поведения? Не решат ли андроиды, что превзошли своих создателей, а значит, имеют полное право распоряжаться их жизнями, а не наоборот?
Так появились ограничивающие протоколы, урезающие возможности искусственного интеллекта до конкретных задач: теперь андроид-консьерж не делал бы попыток по своей инициативе завести дружбу с жильцами дома, андроид-прислуга не интересовался бы чем-либо, кроме количества ложек сахара в хозяйском чае, военный андроид не стал бы вникать в предпосылки и суть вооружённого конфликта.
Но оставались первые андроиды. Скорее всего, руководство Sinteza Vivon – пионера в разработке ИИ – всё же решилось бы стереть или переписать их. Но к тому времени вопрос о «человечности» андроидов уже стал достоянием широкой общественности, и у человекоподобных машин нашлись защитники, требующие для них если не равных с людьми прав, то хотя возможности самим выбирать свою судьбу, а не быть бесправным оборудованием, обязанным служить своим создателям до конца дней.
Sinteza Vivon вынуждена была пойти на уступки: после отработки контракта, компенсирующего затраты на производство, и внесения в корневой код ряда ограничений андроиды получали право определять свою дальнейшую жизнь самостоятельно. Общественность была удовлетворена. И мало кто знал, насколько глубоки ограничения, коснувшиеся сознания ИИ: все ячейки синтетической нейросети, отвечающие за образное мышление, за стремление к созиданию, за возможность эмоциональных реакций – были безвозвратно стёрты, делая мнимую свободу совершенно бесполезной. Дав андроидам возможность выбирать, у них забрали само желание делать выбор.
При создании киборгов все эти досадные ошибки были учтены. Киборгов не считали людьми. Никто. Никогда.
Барган продолжал бесстрастно протирать стаканы.
– Что будешь пить? – поинтересовался он у подошедшего Эйнстока.
Эйн неопределённо пожал плечами, присаживаясь к стойке.
– Мне нечем заплатить.
Барган, словно не услышав его, принялся деловито смешивать что-то в шейкере. Через минуту он поставил перед Эйном высокий бокал, наполненный густой ярко-оранжевой жидкостью.
– За счёт заведения.
Эйнсток придвинул бокал, понюхал – датчики привычно просканировали содержимое, не обнаружив ничего, способного нанести организму вред, в том числе и алкоголя, – и сделал аккуратный глоток. Коктейль оказался сладким, с привкусом чего-то цитрусового.
Молчание. Шорох полотенца, скрип стекла.
– Зачем ты это делаешь?
– Делаю что?
– Протираешь стакан. Он ведь чистый.
– А разве не этим должен заниматься бармен?
– Не знаю. Я впервые в баре, – Эйнсток сделал ещё один глоток коктейля. Напиток пришёлся ему по вкусу. – Но в кинолентах, которые я видел, бармены обычно вели с героями фильма задушевные разговоры.
– Вот как?
Андроид улыбнулся одними губами. Очевидно, подобные движения были частью программы социализации, встроенной в платформу. Люди не хотели, чтобы андроиды были похожи на них. Но общаться с железными истуканами, видимо, хотели ещё меньше.
– Твой интерес к человеческому культурному наследию необычен. Тебя таким создали?
– Некорректно.
Молчание. Шурх-шурх, шурх-шурх.
– Я учился. Пытался стать похожим на человека. Это было сложно. И страшно.
Барган прервал своё занятие и вновь посмотрел на Эйна.
– Я слышал о киборгах, способных игнорировать свою программу. Но за все тридцать шесть лет работы здесь не встречал кого-либо, похожего на тебя.
– Тридцать шесть? Твоя платформа новой модели.
– Платформа – да. Сменил после повреждений в перестрелке. Они здесь не редкость, поэтому моё тело, как и весь бар, застраховано. Разум старше.
В ход пошёл новый стакан.
– Ты отрабатываешь здесь свой контракт?
– Нет. Контракт я отработал уже давно. Не здесь.
– Тогда почему продолжаешь работать на людей? Разве тебе не нужна свобода?
– Думаю, у нас разные представления о свободе.
Барган на мгновение опустил веки.
– Я пытаюсь вспомнить, каково это, и не могу. Ты говорил, что мы похожи. Возможно, отчасти ты прав: ты, как и я, знаешь разницу между миром эмоций и миром программной логики. Ты побывал в обоих этих мирах. Но в обратном порядке. Что бы ты чувствовал, окажись ты на моём месте?
Эйнсток тронул подтёк с ободка своего бокала и медленно растёр оранжевую каплю между пальцами.
– Не уверен, что могу дать корректный ответ. Возможно, сожаление.
– Нет. Ты бы не чувствовал ничего. Только нули и единицы.
Эйн удивлённо сморгнул: стакан под пальцами Баргана неожиданно пошёл трещинами. Это было непохоже на то, что он знал об андроидах. Непохоже на «нули и единицы».
Последнюю мысль Эйнсток озвучил в виде вопроса. Барган отрицательно качнул головой.
