01/03/2024
0Американские военные операторы поначалу скептически относились к искусственному интеллекту, но теперь именно они разрабатывают и используют ProjectMaven для идентификации целей на поле боя.
Иллюстрации Йоши Содеоки
Летним вечером 2020 года в Форт-Либерти, обширной базе армии США в Северной Каролине, солдаты 18-го воздушно-десантного корпуса изучали спутниковые снимки на компьютерах в своем командном пункте. Они были не единственными, кто смотрел. За несколько минут до этого программа искусственного интеллекта отсканировала снимки с инструкциями по идентификации и опознанию целей.
Программа попросила людей-смотрителей подтвердить свой выбор: уничтожить танк. После того, как они решили, что ИИ все сделал правильно, система отправила сообщение на M142 Himars (High Mobility Artillery Rocket System), колесную ракетную установку, которая является основой артиллерийских сил Америки, приказав ей стрелять. Ракета со свистом пронеслась по воздуху и нашла цель, уничтожив танк.
Этот взрыв не был похож ни на один другой в сотнях учений с боевыми стрельбами, которые проводятся каждый год на 146 000 акрах тренировочных площадок Форта Либерти. На самом деле, это не имело прецедента в армии. Впервые американские солдаты поразили цель, обнаруженную и идентифицированную программой искусственного интеллекта. Полковник Джозеф О’Каллаган (Joseph O’Callaghan), координатор огневой поддержки 18-го корпуса и руководитель усилий по наведению ИИ, сохраняет фотографию этого момента в конференц-зале, когда танк охвачен ярким огненным шаром. «Это показало нам искусство возможного», — говорит он.
Фотография первого удара армии США с использованием искусственного интеллекта в рамке.Фотограф: Корнелл Уотсон для BloombergBusinessweek
Менее чем через четыре года после этой вехи использование Америкой ИИ в войне перестало быть теоретическим. За последние несколько недель алгоритмы компьютерного зрения, которые являются частью флагманского проекта Министерства обороны США в области искусственного интеллекта ProjectMaven, обнаружили ракетные пусковые установки в Йемене и надводные корабли в Красном море, а также помогли сузить цели для ударов в Ираке и Сирии, по словам Скайлера Мура, главного технического директора Центрального командования США. США — не единственная страна, совершающая этот скачок: израильские военные заявили, что используют ИИ для выработки рекомендаций по нацеливанию в Газе, а Украина использует программное обеспечение ИИ в своих усилиях по отражению вторжения России.
Переход ИИ из лаборатории в бой — одна из самых сложных проблем, стоящих перед военачальниками. Сторонники его скорейшего внедрения убеждены, что в скором времени боевые действия будут происходить со скоростью, превышающей скорость человеческого мозга. Но технологи обеспокоены тем, что сети и данные американских военных еще недостаточно хороши, чтобы справиться с ними; войска на передовой неохотно доверяют свою жизнь программному обеспечению, в работоспособности которого они не уверены; а специалисты по этике обеспокоены антиутопической перспективой оставить потенциально фатальные решения машинам. Между тем, некоторые в Конгрессе и ястребиные аналитические центры подталкивают Пентагон к более быстрым действиям, встревоженные тем, что США могут отстать от Китая, у которого есть национальная стратегия стать «главным мировым центром инноваций в области искусственного интеллекта» к 2030 году.
18-й корпус, состоящий из 90 000 солдат, является крупнейшим оперативным испытательным полигоном для Maven, системы, построенной на основе мощных алгоритмов, предназначенных для идентификации личного состава и техники на поле боя. Опираясь на прорывы в машинном обучении, система может научиться выбирать объекты на основе обучающих данных и отзывов пользователей. Модели искусственного интеллекта Пентагона также могут узнать, будут ли изменения в объектах значительными, например, предполагая, что противник строит новый военный объект. Все это объединяется с такой информацией, как спутниковые снимки и данные геолокации от перехватов коммуникаций на едином компьютерном интерфейсе, называемом Maven Smart System.
Все большее число американских военных предсказывают, что искусственный интеллект изменит то, как Америка и ее враги ведут войну, ставя его в один ряд с радио и пулеметом в его потенциале революционизировать боевые действия. Пентагон, в котором теперь есть высокопоставленный чиновник, отвечающий за так называемую алгоритмическую войну, запросил более 3 миллиардов долларов на деятельность, связанную с искусственным интеллектом, в своем бюджете на 2024 год. И в качестве сигнала о своих возможных амбициях США недавно заявили в Организации Объединенных Наций, что контроль человека над автономным оружием не требуется международным правом.
Поскольку США, Китай и другие державы работают над внедрением ИИ в свои вооруженные силы, преимущество достанется «тем, кто больше не видит мир как человек», написали в 2022 году армейские исследователи Том Хокинс и Александр Котт. «Теперь мы можем стать мишенью для чего-то безжалостного, чего-то, что не спит».
Полковник Джозеф О’Каллаган в штабе 18-го воздушно-десантного корпуса в Форт-Либерти.Фотограф: Корнелл Уотсон для BloombergBusinessweek
Искусственный интеллект или что-то подобное имеет долгую историю в Министерстве обороны. Во время холодной войны полуавтоматическая система ПВО «Наземная обстановка» использовала ранние алгоритмы обработки радиолокационных данных. В операции «Буря в пустыне» аналитический инструмент помогал планировать передвижения войск.
К середине 2000-х годов передний край этой области прочно закрепился в гражданском мире. Ученый в области информатики Джеффри Хинтон стал пионером глубокого обучения, описав в 2006 году, как машины могут научиться идентифицировать объекты, имитируя нейронные сети мозга. Шесть лет спустя он и его коллеги сообщили, что они обучили модель классифицировать 1,2 миллиона изображений с относительно небольшим количеством ошибок, используя алгоритм, который пытался приблизиться к человеческому различению. Инновации, которые в конечном итоге приведут к появлению сегодняшних инструментов искусственного интеллекта, таких как ChatGPT, шли полным ходом.
По мере того, как эти события ускорялись, Уилл Ропер, бывший помощник министра ВВС США, который руководил офисом Пентагона, занимающимся передовыми технологиями, наблюдал за этим с растущей тревогой. Он говорит, что в 2016 году Министерству обороны не хватало массовых облачных хранилищ или удобных для компьютеров данных, а чиновники плохо понимали машинное обучение.
Обеспокоенный тем, что военные не смогут разработать свои собственные инструменты в разумные сроки (основным системам вооружений США может потребоваться от 15 до 20 лет, чтобы стать полностью работоспособными), Ропер предложил единую программу стоимостью 50 миллионов долларов по применению машинного обучения для автоматического распознавания целей. Традиционно идентификация и классификация активов противника на поле боя была трудоемким процессом. Аналитики могут потратить часы или дни, изучая спутниковые снимки и данные наблюдения, в основном полагаясь на собственные глаза. Несмотря на то, что существовало и другое программное обеспечение для автоматического наведения, солдаты считали его слишком медленным и слишком склонным к принятию неправильных решений.
В 2017 году в разведывательном управлении Министерства обороны появилась более широкая версия идеи Роупера под названием Project Maven — более официально — Кросс-функциональная группа алгоритмической войны. Группа Maven решила оценить инструменты распознавания объектов от разных поставщиков, проверив их на кадрах с беспилотников, записанных подразделениями «морских котиков» ВМС США в Сомали. Ни один из них не показал себя особенно хорошо, вспоминает Джейн Пинелис (Jane Pinelis), которая руководила ранним тестированием и оценкой алгоритмической войны в Maven. (Сейчас она возглавляет инженерную группу в Университете Джонса Хопкинса.) Исходные изображения часто были слишком расплывчатыми, или снятыми под углами, которые сбивали алгоритмы с толку, или настолько плохо размечены, что было трудно обучить модели. Программы вендоров также были непоследовательными. Кто-то может пометить объект просто как танк, кто-то как Т-72 советской разработки. Производительность была еще хуже за пределами лаборатории, где системы изо всех сил пытались справиться с плохим сетевым соединением и старыми компьютерами, что является распространенным явлением в полевых условиях.
По мере роста Maven возникали и другие проблемы. В 2018 году тысячи инженеров Google, одного из первоначальных партнеров Пентагона, подписали письмо с протестом против участия компании в «военных технологиях». Google не продлил контракт. Позже в том же году Пентагон официально освободил Maven от публичного разглашения, утверждая, что информация о его возможностях и ограничениях настолько чувствительна, что ее публикация может дать преимущество врагам Америки.
Уорент офицер 4 класса Джоуи Темпл. Фотограф: Корнелл Уотсон для Bloomberg Businessweek
«Этот s— не работает»
Несмотря на уход Google, широкий круг других технологических и оборонных игроков остались вовлечены в Maven, и с тех пор к ним присоединились другие. По словам людей, знакомых с программой, которые попросили не называть их имен, обсуждая непубличную информацию, основная платформа для слияния данных, лежащая в основе системы, создана Palantir Technologies; Amazon Web Services, ECS Federal, L3Harris Technologies, Maxar Technologies, Microsoft и Sierra Nevada также входят в десятку основных участников. Все они либо отказались от комментариев для этой статьи, либо не ответили на просьбы о комментариях.
Постепенно Maven совершенствовался, и в 2020 году тогдашний командир О’Каллагана в 18-м корпусе попросил его исследовать, насколько он может быть полезен в ударах оружием. О’Каллаган начал использовать его во все большем количестве учений с боевой стрельбой, включая артиллерийские испытания в Форт-Либерти в 2020 году. В сотрудничестве с другими американскими службами и союзниками, такими как Великобритания, 18-й корпус с тех пор использовал Maven и связанные с ней системы вооружения для нанесения ударов по целям с бомбардировщиков, истребителей и беспилотников, а также моделировал, как это делать с подводных лодок. «Мы найдем его и нанесем удар», — говорит О’Каллаган. Соревнуясь в велоспорте, он сравнивает совершенствование систем искусственного интеллекта с более быстрым временем гонки за счет крошечных изменений в тренировках и технике. В рамках одной из таких попыток он нанял студентов местного колледжа, чтобы они пометили более 4 миллионов изображений военных объектов, таких как военные корабли, помогая обучать алгоритмы Maven.
Сувенир в кабинете Темпла. Фотограф: Корнелл Уотсон для BloombergBusinessweek
Но среди солдат, моряков и летчиков, которым предстояло использовать эту систему, скептицизм был обычным явлением. В июле 2021 года, когда представитель Palantir предложил продемонстрировать Maven для Джоуи Темпла, который только что присоединился к 18-му корпусу в качестве старшего офицера по нацеливанию, Темпл отказался. Отец восьмерых детей и ветеран пяти боевых командировок в Ирак (на подоконнике в своем офисе в Форт-Либерти он держит модель черепа, одетую в бордовый берет подразделения, с кинжалом, зажатым в зубах), Темпл не собирался доверять новому программному обеспечению. «Это — не работает», — вспоминает он свои мысли. «Я подумал: «Мне не нужна еще одна чертова штука с таргетированием. Меня не волнует. У меня достаточно дерьма, чтобы попытаться справиться».
Через месяц Темпл начал менять свое мнение. Он помогал с эвакуацией американских войск и их союзников из Афганистана; в конечном счете, 120 000 человек будут эвакуированы по воздуху из Кабула в опасных условиях. Темпл получил доступ к Maven Smart System, чтобы помочь разобраться в ситуации. На одном экране он мог объединять потоки данных, которые отслеживали передвижения самолетов, контролировали логистику, следили за угрозами и показывали местоположение ключевого персонала. «Я видел, как генерал Донахью прогуливался вокруг», — говорит он, имея в виду Криса Донахью, который сейчас является командиром 18-го корпуса и был последним американским солдатом, покинувшим Афганистан. То же самое можно сказать и о сотнях людей, вошедших в ту же систему из Кабула, Пентагона и, по словам Темпла, из Белого дома. «Именно тогда я стал верующим», — говорит он.
Штаб 18-го воздушно-десантного корпуса в форте Либерти. Фотограф: Корнелл Уотсон для Bloomberg Businessweek
Платформа Maven значительно продвинулась вперед с момента своего появления. В дополнение к видеоизображениям она теперь может включать данные радиолокационных систем, которые видят сквозь облака, темноту и дождь, а также инфракрасных датчиков, обнаруживающих тепло, что позволяет ему искать интересующие объекты, такие как двигатели или оружейные заводы. Он также может анализировать невизуальную информацию, например, путем перекрестных ссылок на теги геолокации из электронного наблюдения и каналов социальных сетей. Эта технология помогла компьютерам занять четыре из шести мест в «цикле принятия решений» 18-го корпуса — процессе, кульминацией которого может стать приказ об открытии огня. Программное обеспечение определяет, какие данные собирать, сопоставляет и анализирует полученную информацию и передает решение командира действовать — возможно, в систему вооружения. Люди сами решают, нажимать ли на пусковую кнопку.
По оценкам Темпла, с помощью Мейвена он теперь может согласовывать до 80 задач за час работы по сравнению с 30 без него. Он описывает процесс согласования с выводами алгоритма быстрым стаккато: «Принять. Принимать. Принимать.” Полностью довериться компьютеру было бы еще быстрее, но Темпл говорит, что это приведет к ошибкам. «Я никогда не хочу, чтобы меня застали врасплох», — говорит он. «Нас застали врасплох, мы облажались».
После того, как Россия вторглась в Украину в феврале 2022 года, усилия 18-го корпуса по разработке искусственного интеллекта приобрели новую актуальность. О’Каллаган, Темпл и еще 270 человек из штаба корпуса были развернуты в гарнизоне в Германии, заняв бывший зал для игры в ракетбол в качестве командного центра. Maven Smart System была открыта на многих экранах. Офицер по информационным операциям и гражданским делам, попросившая не называть ее имени, потому что она часто участвует в специальных операциях, стала одной из тех, кто использовал программное обеспечение для инструктажа армейского командования.
Внимание офицера было сосредоточено на том, чтобы оценить, есть ли у украинцев в определенных районах желание сопротивляться российским силам. «Когда вы накладываете вещи друг на друга, вам начинают бросаться в глаза разные вещи», — говорит она. «Я бы отмечал на карте каждое событие, связанное с сопротивлением». Они варьировались от обыденных (наблюдение синих и желтых ленточек, привязанных к столбам забора) до жестоких, таких как нападения на российских чиновников в оккупированных зонах. Эти детали, наряду со многими другими, затем попали в секретную систему, которую американские командиры используют для информирования о своем понимании событий на местах.
О’Каллаган и Темпл отказались уточнить, как Пентагон использует системы искусственного интеллекта, такие как Maven, для поддержки Украины. Но люди, знакомые с операциями, которые попросили не называть их имен, учитывая деликатность вопроса, говорят, что США использовали спутниковую разведку и Maven Smart System, чтобы предоставить информацию о местонахождении российского оборудования украинским силам, которые затем нацелились на эти объекты ракетами с GPS-наведением. Один из источников говорит, что помощь Киеву также помогла Пентагону гораздо лучше использовать инструменты искусственного интеллекта и быть более уверенным в своих прогнозах о том, как они могут быть использованы в конфликте с Китаем. (В течение первых 10 месяцев поддержки Украины Maven претерпел более 50 раундов доработки, по словам другого источника, знакомого с его разработкой.)
Мне устроили демонстрацию Maven, когда я посетил 18-й корпус в прошлом году. Он был взят из реальной операции в начале 2023 года, когда корабль ВМС США эвакуировал американских граждан из Судана, который находился в разгаре гражданской войны. Центральная карта системы была сгенерирована, в случае с моей демонстрацией, на основе несекретных спутниковых снимков. На поверхности желтые пограничные прямоугольники отмечали места, где алгоритмы идентифицировали корабли в Аденском заливе. Синим цветом обозначены места, которые будут включены в список запрещенных ударов, такие как больницы и школы. В левой части экрана значки предлагали отдельные потоки данных, такие как каналы отслеживания судов, которые можно было наложить на карту. Также существовала функция «тактического канала передачи данных»: способа передачи решения командира о стрельбе из оружия непосредственно между машинами.
КАК РАБОТАЕТ MAVEN
Иллюстрация Криса Филпота
В прошлом году Пентагон возложил основную ответственность за разработку Maven на Национальное агентство геопространственной разведки, которое специализируется на картографическом анализе и визуализации. Ее директор, вице-адмирал Фрэнк «Трей» Уитворт, является военно-морским офицером, который ранее занимал должность начальника разведки SEAL Team Six, подразделения, убившего Усаму бен Ладена. NGA, открывшая специальный офис в Форт-Либерти, сосредоточена на расширении потоков данных, скорости и возможностей Maven, которые затем развертываются для тестирования для 18-го и других пользователей в более чем ста местах по всему миру. Отзывы солдат затем могут быть включены в непрерывные этапы разработки. «Это идеальный брак», — говорит Уитворт.
Недавно Maven был переведен из категории проектов разработки в категорию «официальная программа», что Пентагону, вероятно, облегчит получение дальнейшего финансирования. По словам Уитворта, платформа добилась некоторых из своих самых значительных технологических успехов с тех пор, как NGA взяла ее под свой контроль, включая повышение точности идентификации. Уитворт говорит, что он «не смотрел бы на себя в зеркало», если бы не разрабатывал систему наведения, которая могла бы «пересечь финишную черту». Но он говорит, что люди всегда будут следить за системами искусственного интеллекта американских военных, которые будут придерживаться законов вооруженных конфликтов. Более того, по его словам, нет никаких планов по тому, чтобы позволить машинам решать, стрелять или убивать.
О’Каллаган выразился более красочно: «Это не «Терминатор». Машины не принимают решений, они не собираются возникать и захватывать мир».
Это не значит, что машины не становятся все более важными. По словам Мура из Центрального командования США, события, произошедшие после 7 октября, когда ХАМАС начал внезапное нападение на Израиль, послужили еще одним стимулом для американских войск ускорить внедрение ИИ. Сейчас они участвуют в боевых действиях по всему Ближнему Востоку. В начале февраля США нанесли удары по более чем 85 целям в Ираке и Сирии в ответ на атаку поддерживаемых Ираном боевиков, в результате которой погибли три армейских резервиста, и неоднократно бомбили объекты в Йемене. «Maven стал исключительно важным для нашей работы», — говорит Мур.
Тем не менее, Мур, О’Каллаган и другие чиновники первыми признают, что их системам искусственного интеллекта предстоит пройти очень долгий путь, и они не могут превзойти процесс принятия решений человеком. Алгоритмы, отточенные на условиях пустыни на Ближнем Востоке (по понятным причинам являющиеся источником большей части реальных данных американских военных), гораздо хуже справляются с идентификацией объектов в других местах. В целом, по словам О’Каллагана, аналитики 18-го корпуса правы в 84% случаев; для Maven — около 60%. Иногда система путает грузовик с деревом или оврагом. Танки, как правило, легче всего обнаружить, но с такими объектами, как зенитная артиллерия, или когда снег или другие условия затрудняют анализ изображений, уровень точности может упасть ниже 30%. По мнению Мура, «преимущество, которое вы получаете от алгоритмов, — это скорость», а недавние учения показывают, что ИИ еще не готов рекомендовать порядок атаки или лучшее оружие для использования.
Другие проблемы носят более фундаментальный характер. По мере того, как США и их союзники начинают полагаться на системы искусственного интеллекта, противники могут попытаться подорвать их, искажая обучающие данные или взломав обновления программного обеспечения. Алгоритмы со временем могут терять точность, а поскольку их принятие решений непрозрачно, их сложнее протестировать, чем другие военные технологии. Все это означает, что когда дело доходит до использования ИИ в полевых условиях, командирам придется судить, оправдывают ли военные нужды и более широкий контекст риск ошибок. Спутать волну с боевым кораблем – это одно; в худшем случае это может привести к тому, что ракета упадет в море, не причинив вреда. Использование наведения ИИ на многолюдное наземное поле боя, где поблизости находятся мирные жители, — это совсем другое дело.
«Это не Терминатор. Машины не принимают решений, они не собираются возникать и захватывать мир».
Иллюстрация: Йоши Содеока
Несмотря на их ограничения, США дали понять, что намерены расширить автономию своих алгоритмических систем. В прошлом году Министерство обороны США издало директиву, предписывающую командирам и операторам проявлять «надлежащий уровень человеческого суждения» при применении силы, предполагая, что чиновники могут рассматривать как адекватный человеческий надзор, а не инициирование принятия решений.
Для активистов, которые опасаются последствий предоставления машинам права убивать, это серьезный тревожный сигнал. Коалиция правозащитных и экспертных групп StopKillerRobots заявляет, что нынешние обязательства США «резко не дотягивают» до достаточных гарантий. Генеральный секретарь ООН Антониу Гутерриш возглавляет группу из более чем 80 стран, которые призвали к запрету автономных систем вооружений. «Машины, обладающие властью и свободой действий отнимать жизни без участия человека, морально отвратительны и политически неприемлемы и должны быть запрещены», — заявил Гутерриш в июле.
Не все опасения исходят из-за пределов вооруженных сил. Полковник Такер «Синко» Гамильтон (Tucker «Cinco» Hamilton), офицер ВВС, который занимается тестированием и операциями ИИ, на недавней конференции изложил тревожный мысленный эксперимент. В сценарии, который он изложил, дрон с искусственным интеллектом, получив приказ отменить миссию, решает убить своего оператора, придя к выводу, что человек мешает его цели. Гамильтон назвал эту перспективу «правдоподобной», хотя другой представитель ВВС позже назвал ее «довольно неправдоподобной». Подобные идеи пока остаются научной фантастикой, но тенденция к большей автономии очевидна. Только один пример: в рамках инициативы под названием Replicator, обнародованной в прошлом году, Пентагон обратился к подрядчикам с просьбой разработать автономные, расходуемые беспилотники, которые он может закупать тысячами.
В общей сложности вооруженные силы США имеют более 800 активных проектов в области искусственного интеллекта, цели которых включают в себя, среди прочего, обработку данных с датчиков оружия и планирование маршрутов пополнения боеприпасов. Источником напряженности может стать количество отдельных программ для армии, флота и ВВС. Один бывший высокопоставленный чиновник министерства обороны, попросивший не называть его имени из-за деликатности темы, говорит, что такая фрагментация и извечная проблема разрушения разрозненности между военными службами и командованиями замедлят внедрение алгоритмической войны. Maven не застрахован от таких жалоб. По мнению критиков, в ней слишком доминирует армия, она слишком сосредоточена на компьютерном зрении и слишком зависит от одного корпоративного партнера — Palantir. Некоторые также жалуются, что он просто работает недостаточно хорошо.
Вице-адмирал Фрэнк «Трей» Уитворт в круглосуточном оперативном центре NGA.Фотограф: Уилл Мартинес для BloombergBusinessweek
Над всеми этими усилиями нависает беспокойство по поводу Китая. Официальные лица США опасаются, что Пекин может быть впереди в таких технологиях, как глубокое обучение, и стремится интегрировать эти возможности в свои вооруженные силы. Обеспокоенность по поводу использования Китаем искусственного интеллекта в военных целях стала одной из причин, по которой Белый дом в октябре ввел более строгий экспортный контроль на высокопроизводительные компьютерные чипы. Пентагон также добавил ведущего китайского производителя микросхем памяти и известную компанию по распознаванию лиц в список фирм, которые, по его словам, помогают Народно-освободительной армии Китая.
Когда дело доходит до Китая, американские военные разработки ИИ преследуют две широкие цели: сдерживание горячей войны, будь то из-за Тайваня или другой горячей точки, и готовность к войне в случае неудачи. В прошлом году 18-й корпус начала проводить учения по наведению ИИ совместно с Индо-Тихоокеанским командованием США, или Indopacom, которое отвечает за Тайваньский пролив, а также за оспариваемое Южно-Китайское море. Maven также был основным компонентом в отдельном комплексе учений, которые моделировали потенциальные угрозы в Индо-Тихоокеанском регионе с помощью инструментов искусственного интеллекта. Одна из целей состояла в том, чтобы продвинуть долгосрочные усилия по соединению датчиков, оружия и других систем во всех родах войск США, доставляя информацию командирам через один интерактивный интерфейс — единую стеклянную панель, чтобы видеть сквозь туман войны.
Тем не менее, военачальники любят говорить, что враг получает право голоса. В случае конфликта Китай почти наверняка попытается ослепить или уничтожить спутники и угрожать самолетам-разведчикам, что затруднит получение данных, необходимых Maven и другим платформам наведения на ИИ. Некоторые офицеры опасаются, что, как бы ни совершенствовалась платформа, ее подготовка до сих пор — преимущественно на стационарных объектах, таких как припаркованные самолеты — может сделать ее плохо подготовленной к войне с участием сверхзвуковых самолетов и, возможно, еще более быстрых ракет. (Уитворт, со своей стороны, говорит, что Maven полезен для перемещения целей.)
Одним из видных критиков темпов прогресса является Ропер, чиновник, который в первую очередь помог создать Maven. «Я по-прежнему считаю, что Министерство обороны просто не вышло из стартовых блоков», — говорит он. «Мы сейчас так не готовы». Ропер представляет себе мир, в котором алгоритмы играют настолько важную роль в ведении войны, что США будут запускать беспилотники в бой, ожидая, что их собьют, просто для того, чтобы собрать разведданные по пути. «Поля сражений, — говорит он, — будут похожи на битву за данные».
Донахью, командир 18-го корпуса, видит себя участником именно такого состязания. Будучи майором спецназа в Афганистане, он широко использовал лучшее программное обеспечение, доступное на тот момент, которое должно было просматривать записи с беспилотников и распознавать вражеские объекты. Это был раздражающий опыт, и Донахью неоднократно жаловался, что программы были недостаточно хороши. Несмотря на эти разочарования, он прилагает все усилия, чтобы ускорить разработку Maven и других платформ искусственного интеллекта.
Он признает риски. Во-первых, говорит Донахью, будущим операторам придется постоянно беспокоиться о том, что злоумышленники создадут помехи или нарушат работу их алгоритмических систем. Но, по его словам, на вопрос о том, стоит ли их принимать, уже дан ответ. «У вас не будет выбора. Ваши противники выберут за вас, что вы должны это сделать», — говорит Донахью. «Мы уже на пути к тому, чтобы машины стали боевыми машинами, роботы будут сражаться с роботами. Это уже происходит».
