Технологии против человека полностью

Люди всегда создавали технологии – слово произошедшее от греческого techne (метод, инструмент, навык, ремесло) и logia (знания от богов), – чтобы улучшить свое благосостояние, но сегодня кажется, что вскоре технологии будут использовать, чтобы улучшить самих людей.

Технологии использовались для улучшения условий нашей жизни, чтобы неожиданное счастье стало более вероятным и распространенным. Например, Skype, Google Talk и всевозможные приложения для обмена сообщениями позволяют нам связаться практически с любым человеком, в любое время, в любом месте и бесплатно. Однако теперь благодаря стремительному и комбинаторному технологическому прогрессу технологии все чаще сами по себе становятся целью. Мы пытаемся получить больше лайков на Facebook или постоянно реагируем на уведомления и оповещения, потому что система требует внимания.

Что делать, если инструменты становятся смыслом, как это уже произошло с Facebook? Что, если они настолько неотразимы и удобны, что мы даруем им собственную волю? Что, если эти смартфоны и смарт-экраны, умные часы и очки виртуальной реальности станут когнитивными сами по себе и выйдут за рамки просто наших инструментов? Что, если наш «внешний мозг» сможет напрямую соединиться с нашим собственным неокортексом?

Как бы многие из нас ни любили технологии, сейчас нам нужно признать тот факт, что они не учитывают, никогда не будут, да и не должны естественным образом учитывать наши ценности, убеждения и этику. Они будут рассматривать наши ценности только как каналы данных, объясняющие наше поведение.

Боты и интеллектуальные цифровые помощники (IDA) будут все больше высасывать, читать и анализировать десятки миллионов каналов данных обо мне и пережевывать каждую цифровую крошку, которую я бросаю. Однако независимо от того, сколько данных о расходах на исследования и разработки они соберут и проанализируют, программное обеспечение и машины никогда не смогут по-настоящему понять мои ценности или этику, потому что они не могут быть такими же людьми, как я. Они всегда будут приближениями, моделями и упрощениями. Полезными – да. Реальными – нет.

Давайте я приведу несколько примеров этических проблем, связанных с технологическим прогрессом.

Многие физики-ядерщики не предполагали, что будет создана атомная бомба, когда впервые работали над фундаментальными научными и математическими проблемами. Эйнштейн считал себя пацифистом, но все же призвал правительство США создать бомбу раньше Гитлера. Как уже было сказано выше, Дж. Роберт Оппенгеймер, широко известный как отец атомной бомбы, сожалел о своем изобретении после Хиросимы и Нагасаки¹⁷⁴. Однако этика военно-политического комплекса, в котором они эффективно функционируют, сделала их обоих причастными к созданию оружия массового уничтожения.

Интернет вещей является еще одним прекрасным примером: он, несомненно, принесет большую пользу в сборе, подключении и объединении огромных объемов данных из сотен миллиардов объектов, подключенных к сети. Таким образом, он может стать потенциальным решением многих глобальных проблем, таких как изменение климата и мониторинг окружающей среды.

Идея заключается в том, что, когда все будет продумано и взаимосвязано, мы сможем сделать многие процессы более эффективными, сократить издержки и добиться больших успехов в защите окружающей среды. Хотя речь идет об умных идеях, нынешние схемы реализации интернета вещей почти полностью лишены внимания к человеческим соображениям, проблемам и этике.

Совершенно неясно, как будет сохранена конфиденциальность в этом глобальном мозге в облаке, как будет предотвращен тотальный контроль и кто будет отвечать за все эти новые данные. В настоящее время внимание в основном уделяется чудесам производительности и гиперкоммуникабельности, в то время как нежелательные и негативные последствия, похоже, никого не беспокоят.