Далекое будущее Вселенной полностью

Вполне возможно, что эти же установки или нормы способны ввести в действие силы, вознаграждающие за ненасильственное поведение: в этом случае их роль будет аналогична предотвращающей роли третьего игрока в триэли. Триэль, представляющая собой чрезвычайно упрощенную социальную модель, верно схватывает, однако, важнейшую черту социального поведения — способность третьей стороны играть важную роль в смягчении конфликтов. Присутствие третьего, по–видимому, смягчает взаимное напряжение, возникающее между двумя игроками и часто находящее себе исход в войне на истощение. По сути, третий игрок обеспечивает механизм равновесия, помогающий поддерживать надежду независимо от того, туманно или ясно будущее.

1. Axelrod, R., The Evolution of Cooperation (Basic Books, New York, 1984).

2. Bossert, W., Brams, S. J., and Kilgour, D. M., «Cooperative vs. Non‑cooperative Truels: Little Agreement, but Does That Matter?» in Games and Economic Behaviour (forthcoming).

3. Brams, S. J., Biblical Games: Game Theory and Hebrew Bible (MIT Press, Cambridge, Mass., 1980; rev.ed., 2002).

4. Brams, S. J., Superior Beings: If They Exist, How Would We Know? Game‑Theoretic Implications of Omniscience, Omnipotence, Immortality, and Incomprehensibility (Springer‑Ferlag, New‑York, 1983).

5. Brams, S. J., Theory of Moves (Cambridge University Press, Cambridge, 1994).

6. Brams, S. J., and Kilgour, D. M., «Backward Induction Is Not Robust: The Parity Problem and the Uncertainty Problem», Theory and Decision, 45, 263–89 (December 1998).

7. Carse, J. P., Finite and Infinite Games (Ballantine, New York, 1986).

8. Holsti, O. R., Brody, R. A., and North, R. C., «Measuring Affect and Action in International Relations Models: Empirical Materials from the 1962 Cuban Missile Crisis» J. Peace Res., 1, 170–89 (1964).

9. Kilgour, D. M., and S. J. Brams, «The Truel», Math. Mag., 70, 315–26 (December 1997).

10. Smolin, L., The Life of the Cosmos (Oxford University Press, New York, 1997).

Нас попросили подумать о далеком будущем — но насколько далеком? Идет ли речь о том времени, когда человечество как вид давно исчезнет? Или лишь о том, когда наука и технология значительно продвинутся вперед, но по–прежнему будут оказывать влияние на живого и здравствующего homo sapiens? «Первое далекое будущее» — в ведении космологов и физиков, а также научных фантастов, размышляющих о системах ИИ, способных пережить (и, быть может, выжить?) человечество. Я же сосредоточусь на «втором далеком будущем» и поразмышляю над тем, как ИИ далекого будущего повлияет на нас или, точнее, на наших потомков. В особенности о том, как повлияет он на наши представления о самих себе, и прежде всего на те из них, что имеют религиозную значимость.

Предсказания социальных и технологических переворотов — дело по большей части бесплодное, и тем более, чем дальше в будущее они простираются. Как известно, Ленин полагал, что революция при его жизни невозможна, Резерфорд не видел никакой практической пользы в расщеплении атома, а Томас Уотсон из Ай–Би–Эм утверждал, что миру хватит полдюжины компьютеров. Не сомневаюсь, что в будущем нас ждет множество технологических чудес. Но каких именно — не знаю, и вряд ли кто‑то знает. Кое‑что из того, что мы представляли во всех подробностях (и даже уверенно предсказывали), не осуществилось и, по моему мнению, не осуществится в ближайшее время. Но возникло много иного, такого, что мы себе и вообразить не могли.

Для наших целей, однако, все это не важно. Очевидно, что в ближайшем будущем ИИ будет занимать все большее место в рыночных технологиях и становиться все более «очеловеченным». Можно ожидать также, что журналисты, писатели, сценаристы, равно как и ученые и философы, будут посвящать дискуссиям об ИИ даже больше времени и текстов, чем сейчас. Говоря вкратце и опуская технологические подробности, ИИ начнет занимать все больше места в нашей жизни. Это создает контекст нашего вопроса: как может повлиять ИИ на наши представления о человечности? Поддержит ли он их, быть может, даже обогатит или подорвет?