Иногда Макса посещали интересные люди. Андрей внимательно слушал их разговоры с хозяином дома. В короткий срок у Макса побывали социолог, астроном и историк. Каждый раз Андрей сожалел, что он сам не общался с ними. Макс никогда не задавал таких вопросов, которые позволили бы раскрыть гостям их знания в самом обширном, занимательном, структурированном виде.
Наконец один из наведавшихся к Максу людей дошел и до комнаты, в которой обитал Андрей. Ему было интересно понаблюдать за работой небанального человеческого разума. По профессии он был архитектором искусственного интеллекта, носил имя Эдвард. На первый взгляд, создавал впечатление внимательного, но и расслабленного человека. Эдвард пришел к Андрею один, без Макса, хозяина дома отвлекли другие гости. Некоторое время Эдвард молча наблюдал за работой Андрея, потом наконец заговорил. Его голос был изрядно насыщен нотками иронии.
Э.: Ох, и стоит так стараться ради Максика? Мог бы работать с полуприкрытыми глазами, и все равно он был бы доволен тем, что появляется на выходе.
А.: Мне, как правило, непонятна его реакция на мои картины.
Э.: Обычно он бывает просто сконфужен, когда сталкивается с чем‑то, что никогда не смог бы сделать сам даже при самой тщательной подготовке. Его никогда не обескураживают высококомпетентные научные или политические высказывания, даже если ему нечего на них ответить: он уверен, если сам выделит время на изучение этих вопросов, непременно разберется в них лучше собеседника. А вот столь эффектно рисовать картины он никогда не сможет после какой угодно подготовки, и прекрасно это знает. Ему всегда неприятны напоминания, что в чем‑то его способности ограничены. Я в этом смысле ему особенно неприятен.
А.: И каким ты обладаешь талантом?
Э.: Не то что бы талантом… Есть у меня определенные знания, позволяющие изобретать вещи, от которых будет зависеть жизнь и поведение очень многих людей. Я архитектор искусственного интеллекта.
А.: Чем же ты будешь определять линии жизни и поведения людей? Развитие искусственного интеллекта – это что‑то, результат чего нам по силам предвидеть. Мы понимаем, в чем будет заключаться суть идеального искусственного интеллекта. Ты будешь развивать его или кто‑то другой – неважно. Как при этом изменится линия жизни и поведения людей – это часть планомерного движения человечества. На это ты не можешь влиять.
Э.: Что ж, тогда мне надо объяснить, в чем конкретно заключается моя работа. Я не только занимаюсь развитием искусственного интеллекта как такового. Я строю системы, которые выполняют свои задачи как благодаря работе искусственного интеллекта, так и благодаря работе человека. Предупредить все технические противоречия, которые могут при этом возникнуть, решить их заранее – одни из главных задач, которые мне приходится решать наряду с обеспечением функционала систем, которые я наделяю инструментами искусственного интеллекта. Я также должен предупреждать разные этические и правовые противоречия, возникающие при работе систем, которые задействуют искусственный интеллект.
