К этому мы могли бы добавить четвертый закон: робот – или любая другая разумная машина – должен уметь объяснять себя людям. Такой закон должен стоять выше других правил, потому что это этический императив, а не указания к действию. Тот факт, что этот закон уже не действует и мы к тому же сами создали условия, чтобы он неизбежно нарушался, приводит нас к естественному выводу, что так будет и с другими законами. Будущее, в котором мы не понимаем собственные творения, уже наступило. Результатом такой непрозрачности всегда является насилие, и иначе быть не может.
Рассказывая о поражениях Каспарова от
Помимо изменения стиля, можно изменить саму игру. Аримаа – это игра, созданная в 2002 году Омаром Сайедом на основе шахмат. Компьютерный инженер, получивший образование в области искусственного интеллекта, он специально разработал игру так, чтобы людям было легко запомнить правила и интересно играть, а машинам было бы сложно просчитать ходы. В Аримаа игроки могут располагать свои фигуры произвольно, а побеждает тот, кто первым приведет одну из пешек, которые здесь называются кроликами, на противоположную сторону доски. Чтобы расчистить путь для кроликов, более сильными фигурами можно толкать или тянуть фигуры противника и с помощью клеток-ловушек убирать их с доски.
Множество различных начальных расстановок, возможность перемещать фигуры противника и совершать до четырех действий за ход приводят к комбинаторному взрыву: возможных вариантов развития игры так много, что компьютерная программа не в состоянии их обработать. «Стена Альтермана» доведена до экспоненциальной крайности. По крайней мере, на это надеялись. Первый компьютерный турнир по игре Аримаа был проведен в 2004 году, и наиболее успешная программа получила право сразиться с группой лучших игроков за денежный приз. В первые несколько лет люди легко побеждали своих компьютерных противников, и вероятность победы даже увеличивалась, поскольку их навыки в новой игре улучшались быстрее, чем навыки программ. Но в 2015 году машина уверенно выиграла соревнование, и этот исход едва ли обратим.
Когда сталкиваешься с мощью и непрозрачностью интеллектуальных систем, возникает соблазн остановиться, сорваться или признать поражение. Леви и Альтерман строили «стены», Аримаа пыталась отвоевать пространство, создать альтернативную площадку вне сферы, где господствуют машины, но у Каспарова был иной подход. Он не отказался от соревнования с машинами и уже через год после понесенного от
Продвинутые шахматы также именуют «киборг» и «кентавр», что сразу вызывает в голове образы человека, соединенного с машиной, или мифическим, или даже инопланетным существом. Легенда о кентавре в греческой мифологии возникла, возможно, с прибытием конных воинов из степей Средней Азии, когда верховая езда была еще не известна в Средиземноморье. (Говорят, что ацтеки, впервые увидевшие испанских кавалеристов, также предположили, что столкнулись с помесью человека и лошади.) Роберт Грейвс утверждал, что кентавр был еще более древней фигурой, пережитком доэллинских земных культов. Кентавры также были потомками Нефелы – нимфы облаков. Таким образом, кентавры могут быть как необходимой мерой перед лицом современных невзгод, так и реинкарнацией мифических существ Золотого века.
