Илон Маск полностью

“Мы с Илоном сразу поладили, и вскоре я заглянул к нему в гости на ракетный завод”, – рассказывает Хассабис. Сидя в столовой, откуда открывался вид на конвейеры, Маск объяснил, что хочет построить ракеты для полета на Марс, потому что таким образом получится сохранить человеческий разум в случае мировой войны, падения астероида или коллапса цивилизации. Хассабис добавил в этот список еще одну потенциальную угрозу – искусственный интеллект. Машины могут стать сверхразумными и превзойти нас, простых смертных, а возможно, и решить от нас избавиться. Маск молчал почти минуту, обдумывая этот сценарий. Он говорит, что в такие моменты, пребывая в состоянии, похожем на транс, он представляет, как ситуация, в которой задействованы многочисленные факторы, может развиваться в последующие годы. Он решил, что Хассабис, вероятно, не зря говорит об опасности ИИ, и вложил в DeepMind 5 млн долларов, чтобы наблюдать за тем, что он делает.

Через несколько недель после разговора с Хассабисом Маск рассказал о DeepMind Ларри Пейджу из Google. Они знали друг друга уже больше десяти лет, и Маск часто гостил у Пейджа в Пало-Альто. Он без конца рассуждал о потенциальных угрозах искусственного интеллекта в их беседах, которые затягивались до поздней ночи, и эти мысли не выходили у него из головы. Пейдж не придавал им значения.

В 2013 году на дне рождения Маска в долине Напа они сошлись в ожесточенном споре, свидетелями которому стали другие гости, включая Люка Носека и Рида Хоффмана. Маск утверждал, что, если вовремя не внедрить специально разработанные меры безопасности, системы искусственного интеллекта могут заменить людей, лишив наш вид какой‐либо значимости или вовсе подтолкнув его к исчезновению с лица земли.

Пейдж придерживался других взглядов. Ну и что, спрашивал он, если машины однажды и станут умнее, а возможно, и сознательнее людей? Это просто выведет нас на новую ступень эволюции.

Человеческое сознание, возражал Маск, – драгоценная искра света во Вселенной, и нельзя допустить, чтобы она погасла. Пейдж считал это сентиментальной чепухой. Если сознание можно воссоздать в машине, почему не ценить его в той же мере? Возможно, настанет день, когда мы сможем загружать в машину и собственное сознание. Он обвинил Маска в “видизме” – ангажированности в пользу собственного вида. “Что ж, я действительно выступаю за человечество, – ответил Маск. – Я его чертовски люблю!”

Неудивительно, что Маск пришел в смятение, когда в конце 2013 года услышал, что Пейдж и Google планируют купить DeepMind. Маск и его друг Люк Носек попытались привлечь финансирование, чтобы остановить сделку. На вечеринке в Лос-Анджелесе они заперлись в одной из комнат на втором этаже и час разговаривали по Skype с Хассабисом. “Ларри не должен получить контроль над будущим ИИ”, – сказал ему Маск.

Их старания ни к чему не привели, и уже в январе 2014 года Google объявила о покупке DeepMind. Изначально Пейдж согласился создать “совет безопасности” и включить в него Маска. Первое и единственное его заседание состоялось в офисе SpaceX. Присутствовали Пейдж, Хассабис и председатель совета директоров Google Эрик Шмидт, а также Рид Хоффман и еще несколько человек. “Илон пришел к выводу, что этот совет – сплошная профанация, – говорит Сэм Теллер, работавший тогда у Маска директором по персоналу. – Ребята из Google не собирались заниматься безопасностью ИИ и внедрять хоть какие‐то меры, которые могли ограничить их возможности”.

После этого Маск публично заявил о потенциальной опасности ИИ. “Нашей главной экзистенциальной угрозой, пожалуй, следует считать искусственный интеллект”, – сказал он, выступая на симпозиуме в MIT в 2014 году. Когда в тот же год Amazon представила своего цифрового помощника Alexa, а затем подобный продукт предложила и Google, Маск стал предупреждать людей о том, что случится, когда эти системы станут умнее людей. Они могут превзойти нас и начать обращаться с нами как со своими питомцами. “Мне совсем не хочется стать чьим‐то домашним котом”, – сказал Маск. Чтобы предотвратить возникновение проблемы, лучше всего обеспечить строгий контроль над ИИ и его работу под управлением человека. “Опасность возникает, когда искусственный интеллект оказывается отделен от человеческой воли”.

Маск начал устраивать ужины-дискуссии, в ходе которых члены старой мафии PayPal, включая Тиля и Хоффмана, обсуждали способы противостоять Google и пропагандировать безопасное использование искусственного интеллекта. Он даже обратился к Бараку Обаме, и тот согласился встретиться один на один в мае 2015 года. Маск объяснил, в чем заключается риск, и предложил ввести регулирование в соответствующей сфере. “Обама уловил суть, – говорит Маск. – Но я понял, что этот вопрос недостаточно насущен, чтобы он действительно что‐нибудь предпринял”.