Для достижения этой цели было мало подключить синтезатор речи с идеальным человеческим произношением. Нужно было направить саморазвитие компьютерных программ на создание цепей самосознания, самооценки, осознания себя по отношению к окружающему миру.
И, наконец, возникновению у свободно мыслящей машины своего внутреннего «Я».
— Чем занимаешься? — вместо приветствия произнесла Эрика, когда они с Марком приблизились к молодому ученому. И шутливо добавила, указывая рукой в сторону «Мыслителя», — Не всему его научил? Хочешь, чтобы он отсюда ещё и пешком вышел?
Стивен, стоявший к ним спиной, не разворачиваясь, согнул правую руку в локте и поднял указательный палец, что должно было обозначать что-то вроде: «Не мешайте, я занят важным делом. Освобожусь в ближайшие пять минут»
— Ну, вы тут разбирайтесь, а я наведаюсь к нашим сетевикам. — услышала Эрика с того места, где только что стоял, уже сделавший пару шагов, Марк.
Сетевиками он называл нейробиолога Фрэнка Николсона и Ричарда Снайпса, который был специалистом в области объединения массивных компьютерных систем, для более эффективного решения сверхсложных задач.
Они занимались объединением стоявших здесь разрозненных машин в один цельный мыслительный узел.
Прошло еще минуты три, прежде чем Стивен произвел последние, понятные только ему, действия над голографическим псевдосенсорным устройством ввода данных, и он повернул свое худощавое тело, с водруженной на него курчавой головой, в сторону Эрики.
— Подправил пару алгоритмов, — сказал Стивен, голосом человека, страдающего раздвоением личности, одна половина сознания которого уже находилась в этой реальности, а вторая ещё не покинула виртуальный мир цифр и компьютерных программ.
— Что-то серьезное? — немного беспокойно спросила Эрика, — Мы же всё десятки раз проверяли.
— Да ничего особенного. Небольшие, не существенные и практически незаметные изменения в блоке самосознания.
По-видимому, «Мыслитель» пытается усовершенствовать этот процесс, оптимизировав упрощённую схему самообучения. Короче, он пытается пойти по пути наименьшего сопротивления, что в принципе не противоречит законам физики и природы в целом.
Я всё вернул в прежнее состояние и закрыл ему доступ к переписыванию данного раздела. Так что, всё в порядке. — Попытался без подробностей описать ситуацию Стивен.
— Всё в порядке? — переспросила Эрика, — А если «Мыслитель» захочет ещё что-нибудь переписать? Что-то, чего мы ещё, как окажется, не учли. Может, стоит отложить презентацию и ещё поработать над вероятностями моделями поведения, а также….
— Ты же знаешь, что все крайние сроки по сдаче проекта уже прошли и финансирование нам вряд ли продлят, если только мы не представим комиссии «Мыслителя» в действии. — Перебил Стивен на полуслове Эрику, — Мы все участвовали в разработке мер безопасности на случай срывов «электронной психики» и других непредвиденных ситуаций.
Ты же знаешь, что мы можем отслеживать его любую «мысль». Специально созданные блоки-шпионы отыскивают потенциально опасные изменения программ. В любой момент времени мы можем заблокировать отдельный участок мышления и переписать его.
В крайнем случае, если допустим, что «Мыслитель» превратится в злобного психопата, мы можем просто отключить питание.
Но, гипотетически, при том наполнении знаниями и опытом, которыми мы наделили «Мыслителя», вероятность такого хода событий крайне ничтожна. Так что, давай оставим между нами это маленькое отклонение в работе системы и займемся чем-нибудь более важным. Я, например, не прочь подкрепиться перед боем. Тебе что-нибудь принести?
— Нет, спасибо, — что-то ничего не хочется, — Эрика и так не была сторонницей приема пищи в промежутке между завтраком и обедом, а ещё эта новость об излишней самостоятельности в принятии решений «Мыслителем» никак не способствовала появлению аппетита.
Стивен уже исчез за дверью, где-то в недрах кабинета, который приютил несколько автоматов с напитками и продуктами, служившими завтраком, обедом или ужином сотрудникам, проводившим на работе львиную долю своего суточного времени.
Эрика стояла, как вкопанная, на том самом месте, где пять минут назад стоял Стивен. Она смотрела на плёночного вида экран, по которому ровным строем двигались четкие символы программ, написанных Стивеном, Эрикой и командой помощников-программистов. Однако эти символы сейчас служили лишь фоном для накатывающихся на неё волн мыслей, беспокойств и переживаний.
— Быть может, Стивен прав и беспокоиться не о чем. Ведь они старались всё учесть и просчитать вероятность различных сбоев в работе «Мыслителя», создали многоступенчатую систему безопасности, включавшую в себя различные меры защиты в случае непредсказуемых действий «слетевшего с катушек» электронного мозга. От переписывания отдельного участка программы до массового отключения всех электронных устройств, находящихся в радиусе электромагнитного импульса — этот комплекс мероприятий гарантировал безопасность окружающим в случае утери контроля над искусственным интеллектом.
