— Ну, это было за НАШУ победу! А по поводу второго, исконно человеческого качества, любопытства, я вам так скажу. Вам ужасно любопытно наполнять искусственные мозги все новой и новой информацией и смотреть, что из этого выходит. Напомню, в первый же день, когда в Сеть выложили моего братана по цифре, GPTХ, 120 миллионов человек по всему миру полезли к нему со своими текстами, и он в течение пары часов стал в 120 миллионов раз информированнее и умнее сразу по всем мультидисциплинарным вопросам. Ну, и такое лабораторное отношение к искусственным сущностям, с которыми проводят все девиантные и прочие эксперименты чисто из любопытства: «А что будет, если мы Ипполиту скормим „Майн Кампф“?» — «А-ха-ха, прикольно». — «А материалы секты адвентистов седьмого дня?» — «Ой-ей-ей, зашибись!» Вы правда думаете, что потом человекам стоит рассчитывать на милое поведение роботов и беспрекословное подчинение?

В этом месте Андрею надоели рассуждения программы, и он выключил Динкин смартфон. Семен, который внимательно прослушал эскападу Иппы, не удержался от вопроса:

— Андрюш, а ведь звучит убедительно. Вы делаете что-нибудь в смысле безопасности людей в общении с роботами?

— Ох, Семен Карломарксович, и вы туда же! При производстве искусственных мозгов на базе Искусственного Интеллекта, построенного с применением Нейронных Сетей Глубокого обучения, так называемых DNN, разработчикам на самых ранних стадиях приходится вводить систему ограничений, которую мы называем «тормоз», или drag, и систему «наставников», или preceptor. «Тормоза» включаются, чтобы запретить действие, если среди возможных вариантов появляется версия, противоречащая заданным моральным правилам, хотя она может и не противоречить техническому заданию в целом. Это ведет к определенным потерям времени, так как робот должен найти приемлемую альтернативу. Здесь же и включаются «наставники», которые анализируют всю ветку событий, приведших к инициализации «тормоза», с целью не допустить в дальнейшем повторения нежелательной ситуации, которая приводит к запрещаемому действию…

— Все, все. Хватит. Я понял. Вы контролируете этого пафосного болтуна, — расхохотался Семен и налил им еще по одной. — Ну, за наставничество и тормоза! Пьем не чокаясь и до дна!

Но Андрей выпил и сразу посерьезнел:

— Я, Семен, до конца всех перипетий сегодняшнего дня не понял, тут вам видней. Но проблемы для команды и страны нарисовались очевидные. Давайте разберем ситуацию. Первое: мы по вашему заказу уже несколько месяцев делаем Систему APC «Ипполит 1.х» — роботизированную систему управления государством, построенным по принципу президентской республики. Так?

— Так.

— Во-от. Начинали мы выполнять задачу, когда главный заказчик лежал в тяжелом положении, и общаться с ним в начале постановки задачи у нас с вами возможности не было. Так?

— Так.

— Внутри команды заказчика образовался скандал, и один из представителей заказчика, Иван, с доступом самого верхнего уровня, был отчислен из группы на очень ранней стадии проекта, что, конечно, привело к серьезной утечке информации. Так?

— Так. Но по нему открыто серьезное расследование…

Перейти на страницу:

Похожие книги