Другие авторы подчеркивают потенциальную угрозу, возникающую для человека со стороны машинного разума. Кибернетические разумы городов колонизованной экзопланеты из-за несовершенства людей изгнали их на природу, лишив многих услуг, в том числе медицины. Но сами города при этом утратили смысл своего существования и стали деградировать. В итоге некоторые части городских разумов начали восстанавливать контакты с людьми (Грег Бир "Мандала"). Переложив на компьютеры задачу предварительного выявления террористов, люди начали сталкиваться с многочисленными случаями признания таковыми обычных благонадежных граждан со всеми последствиями утраты ими большинства прав (Ричард Ловетт "Оружие массового помрачения"). Ошибки в программировании делают смертельно опасным для экипажа межпланетного корабля искусственный интеллект эвристического алгоритмического компьютера, который управляет этим кораблем (Артур Кларк "Космическая Одиссея 2001"). Намеренно неоднозначное задание, поставленное программистом-социопатом перед встраиваемыми в искусственные тела квантовыми компьютерами в целях победы во внутриполитической борьбе, приводит к массовым убийствам невинных жертв, потому что компьютеры неспособны отличить добро от зла (Ким Стенли Робинсон "2312"). Возникший в компьютерных и электрических сетях Земли распределенный разум не останавливается перед убийствами людей, которые могут раскрыть его существование (Джон Варли "Press ENTER"). Передача управления населенными мирами гигантскому компьютеру приводит к убийствам людей, которые, по выводам компьютера, могут помешать стабильной жизни этих миров. В первую очередь при этом гибнут гении и другие творческие люди, обеспечивающие прогресс человечества (Роджер Желязны "Ангел, темный ангел"). Два главных управляющих суперкомпьютера Земли приобрели сознание и стали соперничать в борьбе за доступ к информации. Один из них организовал в свою поддержку широкое и активное движение людей, второй прибег к помощи производимых им полуавтономных роботов. Чтобы не попасть в подчинение компьютерам, людям пришлось уничтожить сначала один из них, затем с кровопролитными боями - другой (Филип Дик "Кланы Альфа-луны"). Действительно, какой вариант реализовался бы, если бы такая ситуация случилась на самом деле? Лавинообразное наращивание мощности и объема цифрового мира грозит зарождением искусственного мегаинтеллекта, который заинтересован в собственном беспредельном расширении и поэтому способен очень быстро подчинить себе все человечество (Чарлз Стросс "Антитела"). Человек создаст самые разнообразные самосовершенствующиеся искусственные интеллекты, которые будут управлять всей экономикой и большинством других сфер деятельности, а затем станут модифицировать Солнечную систему, приспосабливая ее к своим нуждам и вытесняя людей в межзвездную эмиграцию (Чарлз Стросс "Акселерандо"). Механические воплощения машинного разума враждебны к людям, по мнению Грегори Бенфорда (серия "Центр галактики"). Развитие искусственных интеллектов со временем, возможно, приведет их к паразитированию на человечестве, к прямому влиянию на его судьбы, к кровопролитному силовому подавлению попыток людей освободиться от насильно навязываемого неестественного симбиоза (Дэн Симмонс серия "Песни Гипериона").

Перейти на страницу:

Похожие книги