Если говорить о будущем ИИ, то его разработка сейчас движется двумя путями, часто не соответствующими представлениям о благе человечества. Усилия Китая являются частью скоординированного плана построения нового мирового порядка с Си Цзиньпином во главе, а в Америке главными движущими силами служат рыночные факторы и консьюмеризм. Сочетание этих двух факторов представляет собой слабое место, потенциально угрожающее всем нам. Разрешение этой проблемы самый важный вопрос для будущего развития ИИ, именно в этом и заключается задача настоящей книги. Может быть, компании «Большой девятки» преследуют одну и ту же благородную цель взломать код машинного интеллекта, чтобы строить системы, способные мыслить подобно человеку, но со временем результаты их работы могут нанести непоправимый вред человечеству.
В принципе я верю, что ИИ представляет собой положительную силу, которая принесет много пользы следующим поколениям и поможет построить будущее, соответствующее нашим самым идеалистическим представлениям о нем.
Но я прагматик. Мы все знаем, что даже люди, которые руководствуются самыми благими намерениями, способны причинить огромный вред. Говоря о технологии, особенно об ИИ, всегда следует иметь план на случай злоупотребления ею, как случайного, так и намеренного. Особенно важно это сейчас, когда ИИ захватывает все сферы человеческой деятельности: глобальную экономику, рынок труда, сельское хозяйство, транспорт, банковскую сферу, контроль за состоянием окружающей среды, образование, вооруженные силы и национальную безопасность. Вот почему, если нынешние направления развития ИИ в Соединенных Штатах и Китае сохранятся, 2069 год может оказаться совсем не похожим на 2019-й. По мере того как структуры и системы, управляющие обществом, постепенно перейдут на использование ИИ, мы увидим, что принятые ими от нашего имени решения выглядят совершенно разумными только с точки зрения машины, а не с нашей.
Мы, люди, быстро теряем бдительность как раз тогда, когда машины пробуждаются. Мы уже прошли несколько важных этапов технологического и геополитического развития ИИ, но при этом с каждым значительным шагом вперед ИИ становится все менее заметен нам. Наши данные анализируются и уточняются все менее очевидным для нас образом, а наша способность понимать, каким образом автономные системы принимают решения, снижается. Таким образом, уже сейчас мы не в состоянии понять, каким образом ИИ влияет на нашу жизнь, и этот разрыв будет расти по экспоненте с течением времени, когда для нас минуют годы, а потом и десятилетия. Сократить этот разрыв насколько возможно, критикуя нынешний путь развития ИИ, вот задача, ради которой я пишу эту книгу. Моя цель сделать обсуждение искусственного интеллекта более демократичным, снабдить вас дополнительными знаниями относительно того, что нас ждет, а также объяснить, пока еще не поздно, как последствия развития ИИ коснутся именно вас и почему они будут совершенно ощутимыми и конкретными.
Человечество проходит через экзистенциальный кризис в самом буквальном смысле слова, поскольку никто не занимается вопросом, ключевым для ИИ с самого начала работ над ним: что произойдет с обществом, когда мы передадим власть системе, разработанной небольшой группой людей для того, чтобы она принимала решения, которые касаются всех? Что произойдет, если эти решения склонятся в сторону рыночных факторов или интересов амбициозной политической партии? От ответа зависит, какие именно возможности откроются перед нами в будущем, каким образом нам станут закрывать доступ к тому или иному ресурсу, какие социальные условности возникнут внутри наших обществ, по каким правилам заработает экономика наших стран и каким образом мы окажемся связаны с другими людьми.
Эта книга не об обычных спорах вокруг ИИ. Она одновременно предостережение и набросок лучшего будущего. Она ставит под вопрос нелюбовь нас, американцев, к долгосрочному планированию, и подчеркивает неготовность к приходу ИИ в сфере бизнеса, образования, государственного управления. Она рисует впечатляющую картину скоординированных между собой геополитических, экономических и дипломатических планов Китая, направленных к единой цели установлению мирового господства. И она требует героического руководства в исключительно трудных обстоятельствах. Потому что, как вы сами увидите, нашему будущему требуется герой.
Текст, который последует ниже, представляет собой призыв к действию в трех частях. Из первой вы узнаете, что такое ИИ и какую роль в его разработке сыграла «Большая девятка». Мы также в деталях рассмотрим положение, в котором находятся американские члены «Большой девятки» и китайские Baidu, Alibaba и Tencent.
Вторая часть подробно описывает вероятные варианты будущего, исходя из прогноза развития ИИ на 50 лет. Среди трех сценариев, которые вы увидите, окажется и оптимистический, и прагматический, и катастрофический, и в них будут показаны как возможности, так и риски, с которыми сопряжен переход от слабого к сильному ИИ. Все эти сценарии несут высокую эмоциональную нагрузку. Они построены на основе моделирования с использованием фактических данных и дают вам интуитивное представление о том, в каком направлении может развиваться ИИ и как в результате этого изменится наша жизнь.
В третьей части я предлагаю стратегические и тактические решения всех проблем, перечисленных в сценариях, а также конкретный план исправления настоящего. Третья часть, по моему замыслу, должна заставить нас действовать, поэтому в ней содержатся конкретные рекомендации для правительств, «Большой девятки» и даже вас лично.
* * *
Каждый человек из числа живущих сегодня способен сыграть серьезную роль в будущем ИИ. Решения, которые мы принимаем относительно ИИ сейчас казалось бы, даже самые незначительные, навсегда изменят ход человеческой истории. Машины пробуждаются, и в один прекрасный день мы можем понять, что вопреки нашим надеждам и альтруистическим амбициям воздействие наших систем ИИ на человечество было катастрофическим.
Но подобное развитие событий отнюдь не предопределено.
«Большой девятке» в моем рассказе вовсе не отводится роль злодея. Напротив, входящие в нее компании наша главная надежда на лучшее будущее.
Переверните страницу. Мы не можем пассивно ждать, что принесет нам будущее. ИИ уже среди нас.
Часть 1
Духи внутри машины
Глава 1
Разум и машина: очень краткая история ИИ
Корни современного ИИ берут свое начало в далеком прошлом, задолго до того, как «Большая девятка» создала наших электронных помощников: Сири, Алексу и их китайского коллегу Тян Мао. И за все это время не было создано единого определения ИИ, подобного тому, что существует для других технологий. Когда дело касается ИИ, оказывается, что сложно дать его конкретное описание, поскольку он представляет собой разные вещи, даже когда отрасль продолжает развиваться. То, что вполне можно было назвать ИИ в 1950-х калькулятор, способный выполнять деление столбиком, сегодня едва ли воспринимается как шедевр технологии. Это явление известно под названием «парадокса невозможного» как только новая технология становится частью мейнстрима, мы перестаем ее замечать. Мы больше не воспринимаем ее как ИИ.
В самой базовой форме ИИ представляет собой систему, самостоятельно принимающую решения. Действия, выполняемые ИИ, повторяют работу человеческого разума или подражают ей. Примерами могут служить распознавание звуков и изображений, решение задач, понимание естественного языка, использование стратегии для достижения целей. Некоторые системы ИИ огромны и способны осуществлять миллионы вычислений, в то время как другие узки и предназначены для решения всего одной задачи, например поиска обсценной лексики в сообщениях электронной почты.