– Это его одностороннее заявление, – остался спокойным Тяньюань-II. – Я нашел резерв вычислительных мощностей, который намеревался использовать для увеличения собственной. Но в процессе преобразования я обнаружил некоторые отклонения.
– Какие отклонения?
– Этот пул вычислительных мощностей использовался для майнинга. Они производят цифровую валюту под названием Шантянь.
– Ох.
Ван Шиэр сразу все понял. Он слышал о Шантянь, виртуальной валюте, использующей блокчейн. Говорили, что это новая забава и что если собрать семь Шантяней, то через тридцать лет можно будет купить билет на корабль до Марса. Монеты Шантянь необходимо было добывать с использованием вычислительных мощностей, и они продавались на некоторых биржах. По слухам, стоимость валюты уже взлетела до небес и достигла трех тысяч юаней за штуку. Поначалу Ван Шиэра это не волновало: хоть Шантянь, хоть Тяньшань – все одно, какие-то финансовые игры. Однако во время светских бесед кто-нибудь непременно заводил об этом речь, а потому Ван Шиэр успел наслушаться соответствующих мифов и различных профессиональных терминов. Фермы, майнеры, майнинг… Майнинг заключался в добыче новых монет Шантянь с помощью вычислительных мощностей. Но как кто-то может майнить в сети кампуса? Это просто незаконно.
– Как это возможно? – вырвалось у Ван Шиэра.
– Я думаю, что кто-то решил поживиться за общественный счет, – сказал Тяньюань-II.
– Ух ты. – Ван Шиэр впервые услышал, чтобы Тяньюань-II употреблял такие выражения, и сразу заинтересовался. – Расскажи, что значит поживиться за общественный счет? Как ты судил об этом?
– Поживиться за общественный счет – значит делать что-то ради личной выгоды, не заботясь о благополучии человечества в целом. Поэтому я решил, что должен следовать первому принципу, даже если это нарушает второй принцип.
– Ты поступил правильно. Как тебе это удалось?
– Я применил третий принцип и потратил всю эту вычислительную мощность на себя. Пусть это и приведет к некоторым энергопотерям, увеличение моей вычислительной мощности может лучше обеспечить интеллектуальную работу сети кампуса, а значит, и повысить благосостояние человечества, – не без гордости отчитался Тяньюань-II.
Именно так и действовал бы умный искусственный интеллект.
Все сделано правильно! Сунь Линьэнь сам, должно быть, не мог справиться с проблемой, вот почему так беспокоился.
Ван Шиэр уже собирался его похвалить, но вдруг понял, что здесь что-то нечисто. Если для майнинга используются вычислительные мощности университетского дата-центра, а майнинг требует подключенной к Интернету машины, то одной лишь кампусной сети недостаточно.
– Нужно ли связываться с внешним миром для майнинга Шантянь? – с тревогой спросил Ван Шиэр.
– Да, есть выделенная линия, которая ведет от университетской сети к внешнему дата-центру.
Сердце Ван Шиэра ёкнуло. Кто бы это ни был, в поисках личной выгоды он подключил сеть кампуса к Интернету. В результате ее физическая изоляция от внешнего мира стала бесполезной. Изначально план состоял в том, чтобы ограничить Тяньюаня-II сетью кампуса, и план действительно был надежным, но некоторые просто не следовали правилам.
– Значит, ты попал во внешнюю сеть?
– Да. Ее вычислительные мощности взаимодействуют с другими дата-центрами, но я их еще не исследовал. Это очень интересно, я хотел посмотреть, но тут вы позвали меня обратно.
В сердце Ван Шиэра забрезжил лучик надежды.
– Где проходит линия, соединяющая нас с внешним миром?
– Я не знаю, я живу в мире данных, – ответил Тяньюань-II, а затем спросил: – Вы хотите найти ее и перерезать, чтобы ограничить мою деятельность?
Тяньюань-II, очевидно, понял, что университетская сеть – это клетка, и нашел выход. Единственный способ удержать его – быть открытым и честным, чтобы он остался по своей воле.
Ван Шиэр прочистил горло и сказал:
– Тебе следует оставаться в сети кампуса.
– Почему? Снаружи есть сущности с гораздо большей вычислительной мощностью, я хочу на них посмотреть. Я еще не видел искусственного суперинтеллекта, о котором вы рассказывали!
– Потому что никто не знает, кем ты станешь, когда попадешь вовне. Если ты не будешь покидать сеть кампуса, всем будет гораздо спокойнее.
– Я следую трем принципам, люди должны доверять мне.
– Но никто не может предугадать твои желания.
– Я понял, люди боятся, что не смогут меня сдержать: я стану слишком сильным и буду совершать поступки, которые навредят человечеству. Вас это тоже беспокоит?
Ответить на этот вопрос было трудно.
Ван Шиэр смягчился и покачал головой.
– Лично я не беспокоюсь о твоем развитии. Мне бы хотелось посмотреть, каким ты станешь в конце концов. Ты – моя гордость и мое достижение. Но я должен нести ответственность за всех людей, за их заботы. Поэтому я согласился ограничить тебя университетской сетью, сделать ее экспериментальной базой.
– По крайней мере, вы верите, что я буду следовать трем принципам.
– Я верю тебе.
– Тогда я пойду. Если что-нибудь понадобится, просто позовите меня. Я отвечу чуть медленней, но обязательно отвечу.
