Беда в том, что для решения сложных и нетиповых задач робот действительно должен уметь обучаться и совершенствоваться, а при выполнении одного этого условия нет гарантии, что при этом он сохранит приоритет нужд человечества или, в широком смысле, жизни. Из него вполне может получиться нечто вроде управляющего космическим кораблем компьютера, старающегося достичь противоречивой конечной цели ценой гибели членов экипажа (Артур Кларк "Космическая Одиссея 2001"), устраняющего "несовершенную" биологическую жизнь автоматического космического зонда (Джеймс Блиш "Оборотень") либо массового убийцы людей, исходящего из собственной трактовки человеческих сказок (Брайан Олдисс "Новый Санта-Клаус"). Ведь робота не сдерживает чувство принадлежности к человечеству или к обобщающей его жизни. Человек отличается от него тем, что с рождения учится не только решать задачи, но и тому, как надлежит вести себя среди других людей, а, кроме того, с малых лет ощущает наказания, следующие за вредом, который он причинил или мог бы причинить другим. Дополнительно он обучается на примерах и ошибках других. Отсутствие подобного тренинга отнимает многие умения, необходимые в дальнейшей жизни (Рэй Бредбери "Детская площадка"), их нельзя заменить суррогатами (Кит Рид "Автоматический тигр"). Распространенную точку зрения выразил Джек Чалкер: "Интеллект без сострадания - всего лишь хороший компьютер" ("Демоны на Радужном мосту"). Социализация, может быть, даже более важная часть воспитания и взросления, чем обучение (Джозеф Шеллит "Чудо-ребенок"). Она не дает человечеству уничтожить себя, как могло бы случиться много раз во время холодной войны. Замена этого процесса формализованными законами роботехники может оказаться невозможной, учитывая, что понятия "человечество", "благо для человечества", "права человека" и многие другие являются всего лишь абстракциями даже для антропоморфного робота (Айзек Азимов "Роботы и империя"). Напомним отмеченные ранее сложности с определением и количественным выражением подобных понятий. Не стоит также забывать, что сохраняющееся подчинение роботов человеку, в частности, теми же законами роботехники, препятствует развитию их самостоятельности и инициативы (Брайан Олдисс "Кто заменит человека"). С этой точки зрения адаптация к обществу будущего "рожденного" электронным способом человека назначенными ему родителями и воспитателем (Артур Кларк "Город и звезды") может иметь преимущество перед предшествующей телесному воплощению полностью электронной социализацией (Грег Бир "Эон"). Последняя больше подходит подражающим человеку компьютерам, а не самим людям.
Лишь время покажет, получится ли в будущем передать практически все функции управления огромной распределенной по космосу цивилизацией в руки искусственных разумов, сумевших впитать и успешно применять опыт людей и многих других рас галактики (Иэн М. Бэнкс цикл "Культура"). Не исключено, что подобная ситуация так и останется вымыслом автора, не удовлетворенного уровнем управления, который демонстрируют люди. Сомнение вызывает также описываемое Айзеком Азимовым долговременное подчинение действий развивающегося искусственного разума исключительно интересам человечества. Возможно, при этом реализуются совсем другие сценарии с появлением у искусственного интеллекта собственных целей, на которых он постепенно сосредоточится (Дэн Симмонс серия "Песни Гипериона", Чарлз Стросс "Акселерандо"). Готово ли к этому человечество хотя бы в далеком будущем?
