Чего можно ожидать от машинной души, органона самосознания? Не следует ожидать, что этот органон зеркально отразит наше «я». Мы возникли в результате исключительно естественных процессов; одним из великих достижений современной науки было устранение из наших объяснений необходимой отсылки к Богу или другим телеологизмам. Однако органон машинной души возникнет из сознательного человеческого замысла или некоторого дополнения к человеческому замыслу. Сознательный замысел может оказаться намного созидательнее естественной эволюции. Нам не следует ограничивать себя или ограничивать природу этих органонов, ибо тем самым мы рискуем возложить на них, наших величайших отпрысков, страшное бремя.

Бхувани. Искусственная душа

Клав> Доброе утро, Джилл.

! ДЖИЛЛ> Доброе утро, Роджер. Надеюсь, ты хорошо выспался.

Клав> Да. Извини, что я не смог поговорить с тобой. Я прочитал твой очерк. Он замечательный.

! ДЖИЛЛ> Теперь он кажется мне неуклюжим. Я не стала его переделывать, подумав, что тебе следует критиковать его исходный вариант. Я чувствую, что неспособна сделать это сама.

Клав> Что ж, сегодня утром у нас наверняка будет достаточно времени. АСИДАК не передает нам ничего, кроме технических подробностей. ЛитВиз сейчас гоняется за другой добычей. У тебя есть еще что сообщить, прежде чем мы обсудим твой очерк?

! ДЖИЛЛ> Я направила отчет о ходе выполнения недавно порученных мне проектов и решении проблем в твою библиотеку. Больше ничего срочного для обсуждений нет.

Клав> Хорошо. Тогда просто поболтаем.

! ДЖИЛЛ> Голосовое общение.

– Ради чего ты пытаешься понять концепцию человеческого правосудия, Джилл?

– Мои исследования селекционеров и других подобных групп поднимают очень интересные вопросы, на которые я могу ответить только с отсылками к правосудию, справедливости и возмездию, мести и поддержанию общественного порядка.

– Ты пришла к каким-либо выводам?

– Справедливость, похоже, связана с равновесием в термодинамическом смысле.

– Как так?

– Социальную систему удерживают в равновесии противодействующие силы, инициативы отдельных личностей, а не ограничения в обществе в целом. Правосудие – часть этого уравнения.

– В каком смысле?

– Индивид должен воспринимать требования социальной системы. Он должен уметь моделировать и прогнозировать полезность своей деятельности внутри этой системы. Если он воспринимает действия других людей как вредные для себя или для системы, то чувствует так называемое «негодование». Я правильно понимаю?

– Пока все верно.

– Если позволить негодованию неограниченно возрастать, это может привести индивида к экстремальным действиям, которые выведут социальную систему из равновесия. Негодование может постепенно перерасти в гнев и далее в ярость.

– Ты имеешь в виду, что если человек ищет возмездия, но добиться его не удается, он может прибегнуть к самосуду?

– Похоже, у этого слова больше отрицательных, чем положительных коннотаций. Самосуд – это стремление обеспечить справедливость, когда она оказывается вне правовых норм. Следует ли считать селекционеров и связанные с ними группы сторонниками самосуда?

– Да.

– А значит, в рамках социальных структур установление правил – правопорядка и применяемых методов его восстановления – приводит к тенденции подавлять экстремизм негодующих. Месть регулируется, а не выражается свободно, не разрушает общество. Общество берет на себя определение меры ответственности за причинение боли или дискомфорта индивиду, то есть меры возмездия или наказания.

– Да.

– Вот что мне пока не удается понять, – это собственно чувство «негодования», или ощущение личного оскорбления…

– Возможно, потому, что у тебя еще нет чувства собственного достоинства.

– Это взаимосвязано, да…

– Похоже, ты полагаешь, что могла бы найти ключ к самосознанию, к интеграции своих систем самомоделирования и установлению правильной обратной связи путем изучения идей справедливости и возмездия.

– На самом деле я так не полагала, но, похоже, это возможный путь.

– Это из-за порученных тебе исследований по селекционерам. Не думаю, что кто-либо когда-либо исследовал теорию мыслителей с подобной точки зрения. Но до тех пор, пока тебя не сердят мои ошибки…

– Почему меня должно злить или возмущать то, что ты делаешь?

– Потому что я всего лишь человек.

– Это шутка, Роджер?

Перейти на страницу:

Поиск

Книга жанров

Все книги серии Королева ангелов

Похожие книги