Молох (сборник) полностью

Подражание волевым актам или «хотению» чего-либо, разумеется, возможно, но это тоже есть чистая имитация, ничего общего с подлинным актом воли не имеющая. Если, например, программа должна искусно имитировать волевые акты, программист должен предвидеть, какие возможные препятствия программа встретит и каким образом она должна им «противостоять». Таких возможных преград должно быть много или очень много. На очередной вопрос, необходимо ли все «поддающиеся предвидению» преграды explicite запрограммировать (или предвидеть весь их набор, ограниченный сверху), можно ответить, что так быть не должно. Естественная эволюция не действует так, чтобы «программы», действующие в живых созданиях, смогли справиться со «всеми возможными преградами». Известно, например, что хотя мухи уже сотни лет могут, ПОТОМУ ЧТО так запрограммированы, живо выскользнуть из-под хлопушки для мух, они не способны «разгрызть» загадку СТЕКЛА (окна). С точки зрения их образа жизни способность мух к «обучению» (или к созданию видовых условных рефлексов) по сравнению с пчелами очень мала, поскольку пчелы овладели даже «сигнальным языком», так как он был им необходим в искусстве выживания (survival of the fittest). ЭТИМ искусством, не заданным извне ПРОГРАММИСТОМ, а попросту являющимся результатом долгих серий процесса естественного отбора, никакие сконструированные людьми роботы еще не овладели. Мы можем развивать имитацию «воли выживания», писать научные трактаты о квазиволевом функционировании, конструировать все более сложные псевдонейронные сети, но мы не сможем опуститься до молекулярного уровня, на котором уже вирусы и бактерии умеют так «перетасовывать» свои геномы, что способны избежать или преодолеть разрушающие их действия лекарств (например, антибиотиков). Это обычно и происходит для нейтрализации губительного (для микроорганизмов) биохимического действия лекарства или с целью такого изменения антигенной структуры микроорганизма, что «лекарство не может его найти». Иногда я использую метафорические определения, так как иначе я должен был бы приводить длинные и сложные рассуждения в физических, химических или биохимических терминах, от которых предпочитаю отказаться, ибо мне здесь важно только то, что зачатки «хотения», зародыши волевых актов уже можно найти в наиболее простых живых организмах.

Необходимо четко уяснить, что в области, в которую мы вступили, никакие запутанные ухищрения не помогут. Движение стрелок часов может быть вызвано пружиной, электромоторчиком, гирей — в последнем случае часы своему мерному ходу обязаны земной гравитации, и там, где ее нет, как на орбите, они идти уже не могут. В каждом таком примере движение векторно сориентировано «сверху», то есть часовщиком-конструктором. В то же время мы ведем речь о том, чтобы «электронный мозг», компьютерный «разум» (или как его еще назвать) робота имел в виду, психически воспринимал, предвидел ЦЕЛИ, к которым он будет двигаться, при этом о его отдельных решениях, создающих смысловое единство, мы заранее знать не будем, как не знаем, какие решения будет принимать полярник в своем походе на полюс или на гору Эверест. Иначе говоря, речь идет о прогрессирующей, адаптационно успешной суверенизации робота — в последней фазе совершенствования волевых актов он, возможно, будет равен человеку…

Среди экспертов повсеместно преобладает распространенное убеждение, что миллиарды лет, которые в результате организовали кембрийский взрыв видов, а стало быть, и многообразные формы survival of the fittest, может «напрямую» заменить человеческий разум. Если мы все тщательно продумаем и создадим необходимые теоретические науки, то нас быстро окружат роботы, обладающие «волей», которых мы сможем «подговорить» и направить на достижение необходимых НАМ целей. Однако при такой возможности не в виде исключения следует учесть и то, что такие роботы смогут достигать указанных им целей не как плохо нацеленный снаряд, а как неблагодарный ребенок или как выпестованный нами вредитель. Наделенные волевой суверенностью роботы могут нам сопротивляться — и здесь я не имею в виду излюбленный из-за примитивизма воображения «бунт» роботов против человека. Я думаю только о том, что когда количество степеней свободы поступков увеличивается, то уже не «только добро» будет следовать из этого, ибо в свободе может сформироваться и некое «зло». В естественной эволюции это видно даже слишком хорошо, и эти размышления могут немного затормозить нашу намеренность наделить роботов «свободной волей».

Кстати, прозвучало слово «намеренность». Оно означает именно определенную направленность на то, что «намерение» желает указать. Речь идет не только или почти не только о намерении в понимании феноменологии как определенного направления философии. Речь только о том, что наши компьютеры никакого следа намеренности не демонстрируют, и, может, стоит задуматься над тем, как реально и просто эту намеренность из них высечь?