— Кто я такой — обитателям Анклава ясно. Моё появление в мире Фонзы означает конец той цивилизации. И это вы поняли. Но и без меня, как я только что уяснил, тому миру конец. Но финиш через меня и Гариба означает надежду на оживление, преобразование. Без меня, — нас! — такой надежды не было. В Фонзе не работают как законы человеческого естества, так и правила, определяющие отношения роботов и людей, искусственного интеллекта и естественного. Кто-то когда-то придумал законы роботехники и заявил, что решил… Ничего он не решил! Не поддаются эти три закона алгоритмизации! Логика в них заложена человеческая. Исключения из правил учесть невозможно. Что такое «хорошо» и что такое «плохо» как-то, приблизительно, ещё возможно запихнуть в программы. Но «добро» или «зло» — совершенно никак! Вот о чём я задумался, попав в Анклав. Регулятором общества сделалась Дзуля-мама, обособившаяся частичка ИскИна. Регулятором и царицей… Она хотела и желает для людей хорошего. Но плодит зло в разных ипостасях. Но у вас в Анклавах есть ли гарантия того, что не случится подобное?
Удивительный визит! Съели-выпили всё, что подано. Казалось бы, предельно скромно — но больше ничего не хочется!
В доме наступила тишина. Через раскрытые окна доносится пение птиц, шум близкого поселения. Гинва, переглянувшись с Рией, предложила выйти на «воздух». В напутствие им Чираг прочитал еще несколько строк:
У дома к ним присоединились люди, каким-то образом осведомлённые о застольной беседе. Все оживлённые, заинтересованные, сочувствующие пришельцам. Гариб передал Гинве: «Прости, но я отключусь от внешнего мира. Пусть разговор с людьми ведёт Дарко. Помоги ему, ты сможешь…» И погрузился в себя. Параллельно внешним вниманием, не вдумываясь, фиксировал мысли-слова вокруг. Люди Анклава, прежде чем сказать, представляли себя. Неплохо, после в памяти легче будет разобраться в нюансах.
— Я Мусей, перебежчик из Фонзы. Существуют ли у вас хакеры? Способные изменить поведение роботов по своему желанию? По каким алгоритмам действует ваш ИскИн?
— Я Дарко. Хакеры — пережиток прошедших времён. Хакерство имело смысл на начальном уровне программирования. ИскИн такое вмешательство легко распознаёт и блокирует. Алгоритмы основаны на математических логиках и формализованном древнем языке Санскрит.
— Я Мусей. Это значит, у вас есть ИскИн, который делает хорошо. Хороший ИскИн. И такой, который творит неугодное людям Фонзы. Ведь всем не угодишь? Или вы уговариваете его на хорошие дела?
— Я Гинва. Да, часто людям сегодня бывает нужно то, что завтра противно как минимум. К тому же нужное мне не нужно другому. Если ИскИна можно уговорить, он будет непрерывно колебаться между множеством желаний одного или многих людей. А при наличии постоянного канала связи…
— Я Алекс. Читал Азимова, который придумал первые законы для роботов при людях и для людей при роботах. В его произведениях люди предсказуемы, поверхностны, и, по большому счёту, роботизированы. Между такими «одномерными человеками» и роботами вполне возможно логическое взаимопонимание.
— Я Лифан. Условность, наложенная на условность…
— Я Дарко. А у меня задача — представить возможную реальность.
— Я Лифан. Таких вариантов фантастами рассматривалось множество, и в каждом свои недостатки. Мы здесь читаем книги… Верно было замечено — добро и зло не алгоритмизуются. Само по себе человечество неспособно прийти здесь к однозначности…
— Я Дарко. Это есть анархия. В обоих мирах — человеческом и ИскИновском. Хаос! В нём нет будущего. ИскИн по сути отвергает активное человеческое присутствие рядом с собой. Человек при ИскИне теряет возможности самоуправления. Договор? Звучит сомнительно и смешно. Противоположности несовместимы? Избран нереальный путь?
— Я Лифан. Хаос может носить вполне упорядоченный характер. Если ИскИн не придёт к выводу, что человек вреден сам себе, — о чём частично говорит второй закон Азимова, — ничего страшного не произойдёт. «Клетку для орхидей» читали? Но скорее всего ИскИн просто не найдёт логического решения проблемы и тихо самоуничтожится — как это уже случалось у Отца Айзека.
— Я Дарко. Надуманные решения и меня не удовлетворяют. Самоубийство — результат психоненормальности. Кто её заложит в ИскИн, который способен оценить свою программу и сделать её максимально гибкой и безопасной? А законы Азимова, как мы выяснили, не работают. Их включить в программу невозможно. Это всё равно, что вместо программы использовать неструктурированные знания.
