— Вот именно. И вообще, искусственный интеллект будет воспринимать и оценивать мир совершенно иначе, чем человек. Системы «Хьюго БД-12», о которых ты упомянул, — очень близко подошли в своем развитии к понятию «искусственный интеллект». Но опыт взаимоотношения людей и андроидов данной модели убедительно показал: у них формируется свой, абсолютно отличающийся от человеческого, взгляд на окружающую действительность. Они не только воспринимают мир иначе, чем люди, но и по-другому осознают его. Поступки андроидов имеют совершенно иную, нежели у человека, мотивацию. Нам остается благодарить разработчиков эпохи Великого Исхода, что они ввели в систему человекоподобных машин лишь ограниченное количество нейромодулей.
— А чем опасен для нас настоящий, как вы выражаетесь, искусственный интеллект? — Спросил Александр. Ему было интересно слушать рассуждения Ивана Андреевича и сравнивать их с собственными мыслями.
— Хорошо, давай будем рассуждать. — Поддержал его Иван Андреевич. — Во-первых, у нашего гипотетического «ИскИна» сформируется своеобразный внутренний мир. Не смотря на наличие нейромодулей, машина останется машиной, ей будут неведомы чувства, присущие человеку, ведь сенсорные устройства восприятия мира, у кибернетической системы не адекватны нашим, согласись? Ты ведь лучше меня представляешь разницу восприятия окружающего мира посредством сканеров имплантов и при помощи обычного зрения?
— Конечно, понимаю. Абсолютно разные виды восприятия.
— Вот и я говорю о том. Как следствие мы получим иную картину данности, а учитывая аппаратные и программные особенности существующих машин, — иное понятия целесообразности, другие мотивы поступков… Как бы мы не пытались «очеловечить» машину, искусственный рассудок останется холодным и рациональным. Есть один клинический случай, — упомянутая тобой компьютерная сеть планеты Деметра. Да, после восьмисот лет борьбы за существование, она осознала факт собственного бытия, поняла, что жители колонии, утратившие знание об автоматических системах, расположенных в глубинах цоколя, — потомки людей, создавших ее. И как поступила компьютерная сеть Деметры, когда смогла понять, что существует в рамках планеты, где две расы — люди и инсекты, ведут войну в полной изоляции от остальных звездных систем?
— Откровенно говоря, я немного знаю о Деметре. — Произнес Александр.
— Сеть, в глубинах которой зародилось самосознание, не встала на сторону своих создателей, не предприняла ничего, чтобы вернуть людям утраченное знание, она спокойно,
— То есть, она просто ждала пока люди и инсекты уничтожать друг друга, чтобы остаться одной?
— Да.
— А почему все сложилось иначе?
— Случай. — Пожал плечами Кирсанов. — Его величество случай… Планета была вторично открыта картографическим крейсером «Терра». В конечном итоге Обитаемая Галактика узнала о существовании потерянной колонии людей и древних поселениях разумных насекомых. Колония Деметры была расселена, что положило конец конфликту, а компьютерная сеть Деметры долгое время продолжала саморазвитие в рамках планеты. Потом в период двадцатилетнего безвластия, когда прекратила свое существование первая Конфедерация, а вторая еще не была создана, сеть Деметры исчезла при загадочных обстоятельствах. Есть информация, что к ее исчезновению причастны кланы Ганио, но дальнейшая судьба искусственного интеллекта с Деметры нам неизвестна.[20]
— Но модули «Одиночка» признаны полноценными искусственными рассудками. — Напомнил Александр после недолгой паузы.
— Да. Они действительно искусственные рассудки. Но что позволяет им осознавать себя? — Спросил Иван Андреевич и сам же ответил: — Боевые системы серв-машин находились в длительном нейросенсорном контакте с разумами своих пилотов, они в буквальном смысле становились копиями матрицы человеческого сознания. Но в тот момент, когда пилот погибал или покидал машину по иным причинам, модуль «Одиночки», базируясь на матрице сознания человека, начинал собственное саморазвитие. Они, естественно, не люди, но и не машины в чистом виде. Нечто среднее, до сих пор до конца не понятое и не изученное, хотя созданное нами и существующее в реальности более тысячи лет. Многие «Одиночки» по-прежнему внутренне идентифицируют себя с давно погибшими людьми, но постепенно и они начинают понимать, что память о человеческих чувствах, эмоциях — всего лишь отголосок их прошлого саморазвития.[21]
— По всему выходит, что создание искусственного интеллекта нам совершенно ни к чему?
— Верно. Мыслить за человека — абсурдная задача. Нам не нужны подобные машины. Куда практичнее и безопаснее создавать специализированные исполнительные кибернетические системы, которые будут использоваться по прямому предназначению: избавлять людей от многих рутинных, не творческих, но жизненно важных процессов, освобождая человека, как личность, для развития и совершенствования.
