10/06/2024
0Искусственный интеллект может расширить возможности автократий и дать Big Tech огромное влияние. Но он также может выровнять поле.
Искусственный интеллект изменит нашу повседневную жизнь бесчисленными способами: то, как правительства служат своим гражданам; как мы водим машину (и как нас водят); как мы распоряжаемся своими финансами и, надеемся, защищаем их; как врачи диагностируют и лечат заболевания; даже то, как мои ученики исследуют и пишут свои эссе.
Но насколько революционным будет ИИ? Нарушит ли это глобальный баланс сил? Позволит ли она автократиям править миром? Сделает ли это войну настолько быстрой и жестокой, что она станет неуправляемой? Короче говоря, изменит ли ИИ фундаментально ритм мировых дел?
Конечно, еще слишком рано говорить определенно: влияние ИИ в конечном итоге будет зависеть от решений, принимаемых лидерами и странами, а технологии иногда принимают неожиданные повороты. Но даже несмотря на то, что мы поражены и обеспокоены следующей версией ChatGPT, нам нужно бороться с шестью более глубокими вопросами о международных делах в эпоху искусственного интеллекта. И мы должны рассмотреть удивительную возможность: возможно, ИИ не изменит мир так сильно, как мы ожидаем.
1. Сделает ли ИИ войну неуправляемой?
Возьмем, к примеру, одно утверждение о том, что искусственный интеллект сделает конфликты более смертоносными и их будет труднее сдерживать. Аналитики предвидят будущее, в котором машины смогут управлять истребителями более искусно, чем люди, кибератаки с помощью искусственного интеллекта разрушают вражеские сети, а передовые алгоритмы ускорят принятие решений. Некоторые предупреждают, что автоматизированное принятие решений может спровоцировать стремительную эскалацию — даже ядерную эскалацию — которая заставит политиков задуматься о том, что произошло. Если военные планы и расписание поездов вызвали Первую мировую войну, то, возможно, ИИ станет причиной Третьей мировой войны.
То, что ИИ изменит ход войны, неоспоримо. От обеспечения профилактического обслуживания аппаратного обеспечения до содействия поразительным улучшениям в точном наведении — возможности огромны. Один F-35, поддерживающий рой полуавтономных беспилотников, может обладать огневой мощью целого бомбардировочного крыла. Как заключила в 2021 году Комиссия национальной безопасности по искусственному интеллекту, в «новой эре конфликта» будет доминировать сторона, которая освоит «новые способы ведения войны».
Но ничего принципиально нового здесь нет. История войн на протяжении веков — это история о том, как инновации регулярно делают боевые действия более быстрыми и интенсивными. Так что подумайте дважды, прежде чем соглашаться с утверждением, что ИИ сделает эскалацию неконтролируемой.
США и Китай обсудили соглашение о том, чтобы не автоматизировать свои процессы командования и управления ядерным оружием — обещание, которое Вашингтон взял на себя независимо — по той простой причине, что у государств есть сильные стимулы неотказываться от контроля над оружием, использование которого может поставить под угрозу их собственное выживание. Поведение России, в том числе разработка торпед с ядерными боеголовками, которые в конечном итоге могут действовать автономно, вызывает большую озабоченность. Но даже во время холодной войны, когда Москва построила систему, предназначенную для обеспечения ядерного возмездия, даже если ее руководство будет уничтожено, она никогда не отключала человеческий контроль. Можно ожидать, что сегодняшние великие державы будут агрессивно использовать военные возможности, предоставляемые искусственным интеллектом, пытаясь при этом держать самые важные решения в руках человека.
На самом деле, ИИ может снизить риск головокружительной эскалации, помогая лицам, принимающим решения, заглянуть сквозь туман кризиса и войны. В Пентагоне считают, что разведывательные и аналитические инструменты на основе искусственного интеллекта могут помочь людям разобраться в запутанной или фрагментарной информации о подготовке противника к войне или даже о том, действительно ли происходит опасная ракетная атака. Это не научная фантастика: как сообщается, помощь ИИ помогла аналитикам разведки США вычислить вторжение президента России Владимира Путина в Украину в 2022 году.
В этом смысле ИИ может смягчить неопределенность и страх, которые подталкивают людей к экстремальным реакциям. Предоставляя политикам более глубокое понимание событий, ИИ также может улучшить их способность управлять ими.
2. Поможет ли ИИ автократиям, таким как Китай, контролировать мир?
А как насчет связанного с этим кошмара — что ИИ поможет силам тирании контролировать будущее? Аналитики, такие как Юваль Ной Харари, предупреждают, что искусственный интеллект снизит издержки и увеличит отдачу от репрессий. Разведывательным службам, оснащенным искусственным интеллектом, потребуется меньше рабочей силы для расшифровки огромного количества разведданных, которые они собирают о своем населении, что позволит им, например, точно картографировать и безжалостно демонтировать протестные сети. Они будут использовать технологию распознавания лиц с поддержкой искусственного интеллекта для мониторинга и контроля своих граждан, а также использовать созданную искусственным интеллектом дезинформацию для дискредитации критиков внутри страны и за рубежом. Делая автократию все более эффективной, ИИ может позволить диктаторам доминировать на заре эпохи.
Это, безусловно, то, на что надеется Китай. Правительство президента Си Цзиньпина разработало систему «социального кредита», которая использует искусственный интеллект, распознавание лиц и большие данные для обеспечения надежности своих граждан, регулируя их доступ ко всему, от кредитов под низкие проценты до авиабилетов. Повсеместная слежка с помощью искусственного интеллекта превратила Синьцзян в антиутопическую модель современных репрессий.
Пекин намерен захватить «стратегические командные высоты» инноваций, потому что считает, что ИИ может укрепить его внутреннюю систему и военную мощь. Он использует власть нелиберального государства, чтобы направлять деньги и таланты на передовые технологии.
Однако не факт, что автократии выйдут вперед.
Верить в то, что ИИ в основе своей благоприятствует автократии, значит верить, что некоторые из наиболее жизненно важных и давних факторов, способствующих инновациям, такие как открытые потоки информации и терпимость к инакомыслию, уже не так важны. Тем не менее, автократия уже ограничивает потенциал Китая.
Для создания мощных больших языковых моделей требуются огромные массивы информации. Но если эти данные будут испорчены или предвзяты из-за жесткой цензуры в Интернете, качество результатов пострадает. Со временем все более репрессивная система также будет бороться за привлечение лучших талантов: показательно, что 38% ведущих исследователей ИИ в США родом из Китая. И умные технологии по-прежнему должны использоваться правящими институтами Китая, которые становятся все менее умными, то есть менее технократически компетентными, по мере того, как политическая система становится все более зависимой от пожизненного императора.
Китай станет грозным технологическим конкурентом. Но даже в эпоху искусственного интеллекта Си Цзиньпину и его нелиберальным собратьям может быть трудно избежать конкурентного сопротивления, создаваемого автократией.
3. Будет ли ИИ благоприятствовать лучшим или остальным?
Некоторые технологии сокращают разрыв между наиболее и наименее технологически развитыми обществами. Ядерное оружие, например, позволяет таким странам, как Северная Корея, компенсировать военные и экономические преимущества, которыми обладают сверхдержава и ее союзники. В XIX веке многозарядные винтовки, пулеметы и пароходы позволили европейским обществам подчинить себе обширные территории мира.
В каком-то смысле ИИ расширит возможности слабых. Официальные лица США опасаются, что большие языковые модели могут помочь террористам с примитивными научными наборами для создания биологического оружия. Страны-изгои, такие как Иран, могут использовать ИИ для координации атак беспилотников против военных кораблей США в Персидском заливе. Если говорить более мягко, то ИИ может расширить доступ к базовым медицинским услугам на Глобальном Юге, что принесет большую отдачу в виде увеличения продолжительности жизни и экономической производительности.
Однако в остальном ИИ будет игрой для богатых. Разработка современного ИИ обходится фантастически дорого. Обучение больших языковых моделей может потребовать огромных инвестиций и доступа к ограниченному количеству ведущих ученых и инженеров, не говоря уже об ошеломляющем количестве электроэнергии. По некоторым оценкам, стоимость инфраструктуры, поддерживающей чат-бот Microsoft Bing AI, составляет 4 миллиарда долларов. Почти каждый может стать обладателем ИИ, но для того, чтобы стать создателем, требуются огромные ресурсы.
США и богатые страны должны извлечь наибольшую выгоду из ИИ
Индекс ранжирует экономики в соответствии с потенциалом реализации преимуществ ИИ
Вот почему средние державы, делающие большие шаги в области ИИ, такие как Саудовская Аравия и Объединенные Арабские Эмираты, имеют очень глубокие карманы. Многие из первых лидеров гонки ИИ являются либо технологическими титанами (Alphabet, Microsoft, Meta, IBM, Nvidia и другие), либо фирмами, имеющими доступ к своим деньгам (OpenAI). И США, с их динамичным, хорошо финансируемым технологическим сектором, по-прежнему лидируют в этой области.
То, что верно в частном секторе, может быть верно и в сфере ведения войны. Во-первых, военные выгоды от новых технологий могут непропорционально достаться странам с щедрыми оборонными бюджетами, необходимыми для разработки и развертывания новых сил и средств в больших масштабах.
Все это может измениться: ранние лидеры не всегда превращаются в долгосрочные преимущества. Начинающие выскочки, будь то фирмы или страны, и раньше совершали прорыв в других областях. Однако на данный момент ИИ может сделать больше для укрепления, чем революции в балансе сил.
4. Сможет ли ИИ расколоть или укрепить коалиции?
То, как искусственный интеллект влияет на баланс сил, зависит от того, как он влияет на глобальные коалиции. Как документально подтвердили аналитики Центра безопасности и новых технологий Джорджтаунского университета, США и их союзники могут значительно опередить Китай в расходах на передовые технологии, но только в том случае, если они объединят свои ресурсы. Главная надежда Пекина заключается в том, что свободный мир расколется из-за ИИ.
Такое может случиться. Вашингтон обеспокоен тем, что новый подход Европы к регулированию генеративного ИИ может задушить инновации: в этом смысле ИИ подчеркивает различия в подходах США и Европы к рынкам и рискам. Другая ключевая демократия, Индия, предпочитает стратегическую автономию стратегическому выравниванию — в технологиях, как и в геополитике, она предпочитает идти своим путем. Между тем, некоторые из недемократических партнеров Вашингтона, а именно Саудовская Аравия и ОАЭ, изучают возможность более тесных технологических связей с Пекином.
Но преждевременно делать вывод о том, что ИИ фундаментально разрушит альянсы США. В некоторых случаях США успешно используют эти альянсы в качестве инструментов технологической конкуренции: посмотрите, как Вашингтон уговаривает Японию и Нидерланды ограничить доступ Китая к высококачественным полупроводникам. США также используют партнерство в области безопасности с Саудовской Аравией и ОАЭ, чтобы ограничить свои технологические отношения с Пекином и продвигать партнерство в области искусственного интеллекта между американскими и эмиратскими фирмами. В этом смысле геополитические расклады формируют развитие ИИ, а не наоборот.
Что еще более важно, предпочтения стран в отношении ИИ связаны с их предпочтениями в отношении внутреннего и международного порядка. Таким образом, какие бы разногласия ни были между США и Европой, они могут меркнуть по сравнению с их общими страхами по поводу того, что произойдет, если Китай достигнет господства. Европа и Америка могут в конечном итоге прийти к большему согласию в вопросах искусственного интеллекта — точно так же, как общая враждебность к мощи США подталкивает Китай и Россию к более тесному сотрудничеству в военном применении этой технологии.
5. Сможет ли ИИ укротить или разжечь соперничество между великими державами?
Многие из этих вопросов касаются того, как ИИ повлияет на интенсивность соперничества между Западом во главе с США и автократическими державами во главе с Китаем. Никто на самом деле не знает, действительно ли неуправляемый ИИ может угрожать человечеству. Но общие экзистенциальные риски иногда становятся странными соседями.
Во время холодной войны США и Советский Союз сотрудничали в борьбе с опасностями, связанными с ядерным оружием. Во время новой холодной войны, возможно, Вашингтон и Пекин найдут общую цель в том, чтобы не допустить использования ИИ в злонамеренных целях, таких как биотерроризм или иная угроза странам по обе стороны сегодняшних геополитических разногласий.
Тем не менее, эта аналогия работает в обе стороны, потому что ядерное оружие также сделало холодную войну более острой и страшной. Вашингтону и Москве пришлось пройти через противостояния с высокими ставками, такие как Карибский кризис и несколько кризисов в Берлине, прежде чем установилась шаткая стабильность. Сегодня контроль над вооружениями с помощью ИИ кажется еще более сложным, чем контроль над ядерными вооружениями, потому что развитие ИИ очень трудно контролировать, а выгоды от одностороннего преимущества очень соблазнительны. Таким образом, несмотря на то, что США и Китай начинают зарождающийся диалог в области искусственного интеллекта, технологии усиливают их конкуренцию.
Искусственный интеллект находится в центре китайско-американской технологической войны, поскольку Китай использует справедливые и нечестные методы, чтобы ускорить собственное развитие, а США внедряют экспортный контроль, ограничения инвестиций и другие меры, чтобы преградить путь Пекину. По словам Си Цзиньпина, если Китай не сможет ускорить свой технологический прогресс, он рискует быть «задушенным» Вашингтоном.
Искусственный интеллект также подпитывает борьбу за военное превосходство в западной части Тихого океана: инициатива Пентагона по репликатору предусматривает использование тысяч беспилотников с поддержкой искусственного интеллекта для уничтожения китайского флота вторжения, направляющегося к Тайваню. Противоборствующие державы могут в конечном итоге найти способы сотрудничать, возможно, молчаливо, в отношении взаимных опасностей, которые представляет ИИ. Но трансформационная технология усилит многие аспекты их соперничества между нынешним и будущим периодом.
6. Сделает ли ИИ частный сектор выше государственного?
Искусственный интеллект, несомненно, изменит баланс влияния между государственным и частным секторами. Аналогии между ИИ и ядерным оружием могут быть поучительными, но только до определенного момента: представление о Манхэттенском проекте для ИИ вводит в заблуждение, потому что это область, где деньги, инновации и таланты в подавляющем большинстве находятся в частном секторе.
Год искусственного интеллекта
За последние 12 месяцев искусственный интеллект и необходимые ему мощности доминировали на рынках
Таким образом, компании, работающие на переднем крае ИИ, становятся мощными геополитическими игроками, и правительства знают об этом. Когда Илон Маск и другие эксперты выступили за мораторий на разработку передовых моделей искусственного интеллекта в 2023 году, официальный Вашингтон призвал технологические компании не останавливаться, потому что это просто поможет Китаю наверстать упущенное. Государственная политика может ускорить или замедлить инновации. Но в значительной степени стратегические перспективы Америки зависят от достижений частных фирм.
Важно не заходить слишком далеко в этом аргументе. Слияние гражданских и военных сил в Китае призвано гарантировать, что государство сможет направлять и использовать инновации частного сектора. Хотя США, как демократическое государство, не могут по-настоящему имитировать этот подход, концентрация большой власти в руках частных фирм вызовет реакцию правительства.
Вашингтон участвует, хотя и нерешительно, в дебатах о том, как лучше всего регулировать ИИ, чтобы стимулировать инновации и одновременно ограничивать злонамеренное использование и катастрофические несчастные случаи. Длинная рука государственной власти активна и в других отношениях: США никогда не позволят китайским инвесторам покупать ведущие национальные компании в области искусственного интеллекта, и они ограничивают американские инвестиции в секторы искусственного интеллекта стран-противников. А когда Silicon Valley Bank, который держал депозиты многих фирм и инвесторов в технологическом секторе, оказался на грани банкротства, геополитические опасения помогли правительству получить финансовую помощь.
Следует также ожидать, что в ближайшие годы больший акцент будет сделан на оказании помощи Пентагону в стимулировании разработки технологий, имеющих военное значение, а также на упрощении превращения инноваций частного сектора в оружие, способное выиграть войну. Чем более значимым будет стратегически значимый ИИ, тем меньше желания правительства будут просто позволить рынку делать свою работу.
Мы не можем предсказать будущее: ИИ может зайти в тупик или ускориться сверх чьих-либо ожиданий. Более того, технология – это не какая-то автономная сила. Его развитие и последствия будут определяться решениями в Вашингтоне и во всем мире.
На данный момент главное — задавать правильные вопросы, потому что это помогает нам понять ставки этих решений. Это помогает нам представить различные варианты будущего, которые может сформировать ИИ. Не в последнюю очередь это показывает, что, возможно, ИИ все-таки не вызовет геополитического землетрясения.
Конечно, есть основания опасаться, что ИИ сделает войну неконтролируемой, нарушит баланс сил, расколет альянсы США или фундаментально отдаст предпочтение автократиям, а не демократиям. Но есть и веские причины подозревать, что этого не произойдет.
Я говорю это не для того, чтобы призывать к самоуспокоенности. Предотвращение более опасных исходов потребует энергичных усилий и разумного выбора. На самом деле, основная ценность этого упражнения состоит в том, чтобы показать, что возможен очень широкий спектр сценариев — и худшие из них не будут просто лишены права выкупа.
Будет ли ИИ благоприятствовать автократии или демократии, зависит, в частности, от того, будут ли США проводить просвещенную иммиграционную политику, которая поможет им накапливать лучшие таланты. Укрепит или разрушит ИИ альянсы США, зависит от того, будет ли Вашингтон относиться к этим альянсам как к активам, которые нужно защищать, или как к бремени, от которого нужно отказаться. Будет ли ИИ поддерживать или подрывать существующую международную иерархию, и насколько он изменит отношения между частным сектором и государством, зависит от того, насколько мудро США и другие страны регулируют его разработку и использование.
Что не вызывает сомнений, так это то, что ИИ открывает вдохновляющие перспективы и ужасные возможности. Цель Америки должна состоять в том, чтобы внедрять инновации безжалостно и ответственно настолько, чтобы в основе своей благоприятный мировой порядок не изменился фундаментально — даже так, как это делают технологии.
Брэндс также является старшим научным сотрудником Американского института предпринимательства, соавтором книги «Опасная зона: грядущий конфликт с Китаем» и членом Совета по внешней политике Государственного департамента. Он является старшим советником MacroAdvisoryPartners.
Хэл Брэндс – колумнист Bloomberg Opinion и заслуженный профессор Школы перспективных международных исследований Университета Джонса Хопкинса.
https://www.bloomberg.com/opinion/features/2024-06-09/how-will-ai-change-war
