Э.: Я тебя понял. Если бы это произошло в конкретный исторический момент, ты не прислушался бы к предписанию искусственного интеллекта. Но ты же понимаешь, что, когда речь зайдет об избавлении от смертельной опасности для огромного числа людей, опираться на такую субъективную вещь, как уровень доверия отдельного человека искусственному интеллекту, будет совсем неправильно. Поэтому еще одно направление деятельности моей и моих коллег – это формирование правовых норм, регулирующих участие искусственного интеллекта в жизни людей. И мы, и сами разработчики искусственного интеллекта не для того посвящаем жизни его развитию, чтобы он однажды сработал впустую только по вине чьего‑то недоверия. Важное, что уже сделано, – это внедрение на законодательном уровне положений об омологации систем искусственного интеллекта. Сейчас активно ведется разработка методик сертификации разных видов систем. После сертификации все решения, принимаемые модулем искусственного интеллекта, который эту сертификацию прошел, будут иметь юридическую силу. То есть неповиновение им будет трактоваться минимум как административное нарушение. Да, еще одна важная работа, которая ведется сейчас и которая в обозримом будущем должна дать результаты: разработка законодательных норм взаимоотношения человека и искусственного интеллекта. И знаешь что? В отношении омологированного искусственного интеллекта будет действовать та же презумпция невиновности, как в отношении человека. То есть если заново обратиться к примеру, который я тебе описывал: ты сможешь избежать наказания за неповиновение искусственному интеллекту, если докажешь: по каким‑то признакам тебе стало очевидно, что он вынес неверное решение. Если тебе это не удастся, даже в том случае, если отдельной экспертизой будет установлено, что искусственный интеллект действительно ошибался, с тебя не будет снята никакая ответственность. Вот представь, что ты встретишь на темной улице человека, о котором будешь знать, что он серийный маньяк, который в этот конкретный момент может угрожать проходящей мимо незнакомке. Может, но, правда, пока не угрожает. Опираясь на репутацию этого человека и его возможные действия, ты вырубаешь его. Потом следствие установит, что он на самом деле преступник, но в контексте ситуации, в которой принимал участие ты – когда он не успел выказать никаких дурных намерений, – именно твои действия расценят как преступные. Я думаю, что в конечном счете человек примет искусственный интеллект как полноправного участника общества, и существование правовых норм, которые будут подтверждать его равные с человеком позиции, будет казаться более чем закономерным.
А.: И ты думаешь, что это действительно желательное состояние для нашего общества? Не думаешь о времени, когда, может, и тебя сменит искусственный интеллект? К чему мы придем в конечном счете? К тому, что жизнью каждого отдельного человека и мирового человеческого сообщества будет распоряжаться компьютер? Для чего тогда вообще нужен человек? Он будет приемником благ, но не их создателем.
Э.: Я верю в разумный баланс. Пока человечество недостаточно использует возможности искусственного интеллекта, и моя задача – это исправить. А что будет потом, когда участие искусственного интеллекта в жизни человека станет чрезмерным, я не знаю. Но я уверен, что ситуация отрегулируется благодаря людям будущего.
А.: Ты воспользовался логикой изобретателей атомной бомбы. Нет сомнений, что тобой правит жажда показать свое превосходство тем, что ты находишься в авангарде технического прогресса. А последствия ты предлагаешь расхлебывать следующим поколениям. Но сам ты делаешь что‑то, чтобы люди следующих поколений оказались достаточны сознательными для решения проблем, которые создаст засилье искусственного интеллекта?
Э.: Я верю в благоразумие будущих людей, верю в прогресс. Ты же типичный скептик. Думается, пора мне оставить тебя наедине с твоими сомнениями, а я должен вернуться в большой мир, дальше разворачивать свои идеи. Прощай, творец, застывший во времени и пространстве.
Разговор с Эдвардом произвел на Андрея большее впечатление, чем любой из разговоров, что ему приводилось вести, находясь в этой комнате. Он словно столкнулся с беспощадно-расчетливым, мрачным, неприятельским обликом человеческого будущего.
