– Вы о свинцовых лыжах говорили, – улыбнулся собеседнику Виктор. – А я другое вспомнил. Я только работать на заводе начинал, учеником ещё. Сборочные линии программируемые, да и триды уже появились. Но была и мастерская со старинными ручными станками – на них редкие детали делали, по спецзаказу. Мы там любили работать, если время было. И бригада подобралась весёлая, парни любили подшутить. И вот один из наших коробку пластиковую под свинец покрасил. Несёт, согнулся весь от «тяжести». И на нашу программистку прямиком. Да так с надрывом: «Уйди, уроню сейчас!» Программистка девчонка мелкая, метр с кепкой. Но как увидела, что он свинцовую чушку на неё ронять собрался, так с места на шкаф запрыгнула, двухметровый. Жаль, видеокамер рядом не было. Как мы её потом снимали! Она, оказывается, ещё и высоты боялась.
Рассказ Виктора слушали все. Учёные, политики и священники знали многое. Но вот такие рабочие байки, да и вообще общение с простым инженером было для них редкостью, возможно, даже большей, чем встреча с медведем.
Когда утром все расселись за столом, У Ван кивнул представителю США, который со вчерашнего дня ожидал разрешения высказаться.
– Вчера мы обсуждали вопросы киборгизации големов, и вы доказывали, что это невозможно. Но есть ещё один путь! – эмоционально заговорил американец. – Почему все вы держитесь за представление, что мозг будет обладать человеческой личностью? Он – уже другое существо, не связанное с телом, никогда его не знавшее. Вы же сами говорили, что мозг пластичен. Значит, он приспособится к иному существованию, поймёт сигналы имплантов. Зато человек, вернее, постчеловек тогда обретёт недоступные до сих пор возможности: замену тела, пользование аватарами, огромную силу и скорость. Да и нормально контролировать технику сможет. Вспомните жалобы господина Капустина на планшет.
В зале раздались смешки – все уже знали об «этой скотине», да и сами часто страдали от чувствительной к внешнему воздействию «умной» техники.
– И окажется катастрофически зависимым от заводов, источников электроэнергии, ремонтных мастерских, да и уязвимым для постороннего влияния! – раздражённо возразила Катя. – Вы можете сказать: сколько в поместье роботов – слуг или охранников?
– Э-э… – Американец замялся. – Я, кажется, ни одного не видел.
– Верно! – хмуро улыбнулся ему сидевший рядом с Катей Мишель. – Ни одного робота, ни одного дрона, ни одной автономной камеры, не контролируемой человеком! Знаете, почему?
– Не любите прогресс? – усмехнулся американец.
– Нет, не поэтому. Для взлома всей автоматической системы охраны нужен, в идеале, один специалист, а для подкупа одного человека – несколько профессионалов. В центре знали об этой уязвимости, поэтому во всех филиалах была именно живая охрана, хотя они и пользовались дронами и программами управления ловушками. И присутствующие здесь могут вам рассказать, в чём разница, когда ты противостоишь даже самой совершенной технике, или человеку. И большинство големов созданы без вживления имплантов в мозг: заказчики хотели безграничной верности, которую невозможно вызвать ни одним имплантом, а вот превратить голема с имплантами в «управляемую мину» может даже очень посредственный хакер. Импланты сделают киборга не сверхсуществом, а потенциальной марионеткой, чьи действия даже не зависят от его желания.
– Вопрос не только в потенциальной зависимости киборга от постороннего воздействия, – заговорил У Ван. – Благодарю коллег за работу и вынужден просить разрешения взять слово на правах обычного докладчика. Господин Дюбуа, на время передаю вам свои полномочия руководителя заседания. Вы позволите?
Мишель молча кивнул.
– Спасибо. Я занимался вопросами искусственного интеллекта. Выводы моей научной группы применимы и к обсуждаемой нами проблеме. Сейчас мы рассматриваем, по сути, создание сильного искусственного интеллекта, то есть личности в широком смысле слова. Такая личность не равна программе: она осознаёт мир, взаимодействует с ним по определённым нормам – не только объективным, логическим, но субъективным, эмоциональным.
– Эмоции совершенно не обязательны для разумного существа, – влез американец. – Есть множество примеров, когда люди не обладали эмоциями и при этом являлись развитыми личностями.
– Позвольте продолжить! Создавая искусственную личность, мы неизбежно опираемся на наше собственное представление о ней.
– Мы создаём их, как Бог нас – по собственному образу и подобию, – вставил отец Иоасаф.
– Скорее это мы создаём богов по своему образу, – едко парировал Мишка.
– Сейчас не время для религиозных споров, но ваши замечания правильны, и ваше, Михаил, полностью объясняет всё происходящее. – У Ван едва заметно наклонил голову, вроде бы выражая уважение к психологу, но в то же время намекая, чтобы тот не провоцировал ненужный спор. – Это «закон кенгуру», как шутят некоторые.
– Вы о том, что «кенгуру» значит «не знаю»? – усмехнулся американец.
