Как и в случае с устойчивым развитием, этика часто является последним, чисто номинальным пунктом на повестке дня, который могут исключить всякий раз, когда происходит что-то более срочное. Это принципиально ошибочный и очень опасный подход к охране нашего будущего. Так как мы вступаем в эпоху, когда важнейшие события будут происходить поначалу постепенно, а потом ситуация будет развиваться стремительно, у нас просто не будет взлетно-посадочной полосы, чтобы обдумать этические вопросы в тот момент, когда они уже будут безвозвратно раздавлены думающими машинами. Принцип «поживем – увидим» просто-напросто означает отречение человечества от престола.
Мы должны тратить столько же времени и ресурсов на цифровую этику, сколько мы тратим на экспоненциальные технологии. Изучение неожиданных последствий экспоненциальных технологий и предотвращение ущерба человечеству, выходя далеко за пределы экзистенциальных рисков, требуют такой же поддержки, какую мы оказываем наукам, которые сейчас движут этими изменениями. Человеческий фактор требует такого же финансирования и продвижения, как и наука – действительно, «древо» познания (наука, техника, инженерия и математика) не может существовать без «корней» (креативность, оригинальность, взаимность и сочувствие).
В своей книге «
Оптимисты надеются, что возможность злоупотребления компьютерными системами будет сведена к минимуму, если применение искусственного интеллекта, генной инженерии и робототехники останется сосредоточенным на людях, а не на алгоритмах. Но у технической индустрии нет такой репутации, которая свидетельствовала бы о нравственном просвещении. Было бы замечательно, если бы Кремниевая долина отказалась от прибыльной технологии по этическим соображениям. Однако сегодня решения о внедрении технологий принимаются в основном из соображений рентабельности и эффективности. Необходимо новое моральное исчисление197.
Вот эти пять основных прав человека, которые, как я скромно предполагаю, могут стать частью будущего манифеста цифровой этики.
1. Право оставаться естественным, то есть биологическим, – у нас должно быть право жить в государстве без автоматизированных систем. Мы должны сохранить за собой право работать, пользоваться государственными услугами, покупать вещи и функционировать в обществе без необходимости размещать дополнительные устройства на наших телах или внедрять их в наши органы. Эти страхи #Подключайся Или Увольняйся уже стали проблемой в отношении мобильных устройств и социальных сетей (хотя и считаются в основном неопасными). Тем не менее можно легко представить себе будущее, в котором нам придется носить очки дополненной или виртуальной реальности, козырьки или шлемы, чтобы получить работу, или даже хуже – будет необходимо использовать или вживить специальные приложения для человеческого организма для трудоустройства. Люди сами по себе больше не будут достаточно хороши – и это нежелательное будущее.
2. Право быть низкоэффективными там где низкая эффективность определяется нашими физиологическим ограничениями, – у нас должно быть право быть
