Молох (сборник) полностью

Правда, некую разновидность «инстинкта самосохранения» можно было бы в компьютерах реализовать, однако подобные меры не приблизят нас к разрешению проблемы. Дуглас Хофштадтер в своей толстой, забавной и интересной книге «Metamagical Themes» описывает ситуацию, когда он должен был отличить человека от машины, при этом в конце оказалось, что он разговаривал с несколькими студентами, отвечающими на его расспросы ТАКИМ ОБРАЗОМ, чтобы сбить его с толку. Когда он уже решил, что разговаривает с компьютером, правда была раскрыта. Что из этого следует? В наиболее примитивной форме дело представляется так, как я описал в «Сумме технологии» более тридцати лет назад. В книге говорилось, что можно осуществлять очередные и вместе с тем более перспективные конструкторские работы (сегодня я бы сказал «программирование»), меняя «разоблаченные» компьютеры на более совершенные с точки зрения имитации, и, может быть, дошли бы до такой модели, которую в разговорах отличить от человека было бы невозможно.

Между прочим, даже для повторения рассказанного найдутся уловки. Именно машины, сортирующие (например) научные статьи, запрограммированы таким образом, чтобы различать тексты в соответствии со «словами-ключами». Если частота появления таких слов, как «плазма крови», «гемофилия» или «клеточная оболочка», перешагнет определенный порог, значит, текст, вероятнее всего, относится к области медицины или (шире) биологии. Если в нем появляются «кварки» или «нуклиды» — понятно, куда его отнести. Однако поступая этим первоначально очень примитивным и «ничего не понимающим» способом, можно научить машину пересказывать так, чтобы повторение представленного ей текста было «скелетным» — грамматически, лексикографически и стилистически очень близким к рассказанному, но чтобы оно не совпадало дословно с исходным. То есть можно сделать машину удачным «обманщиком», выдающим себя за живого участника дискуссии, и на этом этапе появляется следующая проблема.

Мы не должны заниматься исключительно загадочным собеседником: следует интересоваться и тем, КАКОЙ ЧЕЛОВЕК тестирует машины. Ибо горький пьяница и тупица не будут квалифицированными экспертами наравне с человеком, имеющим диплом о высшем образовании, или писателем, или каким-нибудь необычным гением.