Сложность заключается в том, чтобы соблюсти правильный баланс: что мы можем автоматизировать так, чтобы не произошло замещения машинами ценных человеческих проявлений, таких как разговоры или коммуникационные потоки? Когда вы звоните в колл-центр, чтобы изменить номер рейса, хотите ли вы, чтобы сотрудник проявил понимание и эмпатию по отношению к вам? В большинстве случаев – нет, но иногда это необходимо, например, когда возникает непонимание в рамках вежливого общения. Так, до 90 % колл-центров будут автоматизированы в ближайшие несколько лет, но в некоторых случаях нам все равно нужно будет поговорить с живым человеком. Конкретно в этом случае хорошо спроектированная и регулируемая человеком автоматизация может служить примером позитивного развития, но миллионы рабочих мест так или иначе исчезнут.
Продолжим дискуссию о самом ближайшем будущем… Путешествуя самолетом, можно ли довериться полностью автоматизированной беспилотной кабине? Или же нам будет спокойнее, если пилот все-таки будет присутствовать? Проходя медицинское обследование, хотели бы мы, чтобы к нам проявили «гуманность» и сочувствие, или же нам будет достаточно того, чтобы машина сообщила нам только факты? В случае простуды или проблемы с желудком кажется, что автоматический дистанционный диагноз может быть полезен и вполне приемлем. Однако, когда речь идет о постановке таких серьезных диагнозов, как нервное расстройство, астма или диабет, такая автоматизация безусловно дегуманизирует сферу медицинских услуг.
Автоматизации нельзя сказать «да» или «нет»; на вопросы, связанные с ней, необходимо отвечать постепенно и осторожно, стараясь сохранить баланс и всегда заботясь в первую очередь о человеке. Вопрос заключается не в том, смогут ли и как смогут технологии что-либо автоматизировать, а в том, будет ли это способствовать процветанию человечества. В том, за кого мы болеем: за команду технологий или за команду человечества.
Вместе с вещами, которые подвергаются автоматизации вокруг нас, существует также много вещей, которые могут быть автоматизированы внутри нас и начать оказывать влияние на то, как мы думаем и что мы чувствуем. Подумайте о том, как программы и алгоритмы, умные цифровые помощники, облачные сервисы и роботы, оборудованные ИИ, забирают на себя все больше наших ежедневных дел и как некоторые из нас уже автоматизировали дружбу с помощью социальных сетей и мессенджеров.
Что случится с нашим коллективным разумом, проявляющимся в процессе живого общения, в рамках которого мы учимся, спорим, обсуждаем проблемы, принимаем решения и создаем наши общества и демократические режимы? Как будут формироваться наши решения, если все, что мы видим и слышим друг о друге, будет определяться исключительно алгоритмами, созданными для того, чтобы заставить нас увидеть как можно больше рекламных объявлений, а не людей? Что, если эти инструменты не будут подвергаться общественному контролю, надзору и управлению?.. Будут ли нами управлять машины и алгоритмы, находящиеся в собственности огромных международных интернет-платформ и технологических компаний? Станут ли они «системами виртуального распределения дофамина», запрограммированными на то, чтобы вызвать привыкание и одобрение и достигать максимальных результатов для своих владельцев, рекламщиков и других «шпионов», которые хотят анализировать и использовать наши персональные данные?
Возможно, очень скоро программы будут не только «съедать», но и «обманывать» мир. Я уже чувствую, что меня обманывают или мной манипулируют, когда листаю ленту в
