02/07/2024
0Український батальйон тестує кулемет, який може використати наведення на мету за допомогою штучного інтелекту, на стрільбищі під Києвом. Фото…Відео Саші Маслова для The New York Times та Пола Мозура/The New York Times
У полі на околиці Києва фундатори української компанії з виробництва безпілотних літальних апаратів «Вірій» нещодавно працювали над зброєю майбутнього.
Щоб продемонструвати це, 25-річний Олексій Бабенко, виконавчий директор Vyriy, застрибнув на мотоцикл і поїхав ґрунтовою дорогою. За ним слідував дрон, а його колега відстежував рухи за допомогою комп’ютера розміром із портфель.
Випробування безпілотного комплексу «Вирій», який використовує автономне стеження для фіксації на цілі у полі під Києвом. Фото…Відео Саші Маслова для The New York Times
Донедавна квадрокоптером управляла людина. Більше ніколи. Натомість після того, як дрон націлився на свою мету — пана Бабенко — він полетів сам, керуючись програмним забезпеченням, яке використовувало камеру машини для його стеження.
Двигун мотоцикла не йшов ні в яке порівняння з безшумним гулом, який переслідував пана Бабенко. «Тлумайте, штовхайте ще. Круті педали до медалі, чувак, — крикнули його колеги по рації, коли дрон спікував на нього. “Ти,!”
Якби безпілотник був озброєний вибухівкою, і якби його колеги не відключили автономне стеження, пан Бабенко загинув би.
Vyriy — лише одна з багатьох українських компаній, які роблять великий стрибок уперед у використанні споживчих технологій як зброю, чому сприяла війна з Росією. Необхідність перехитрити ворога, поряд із величезними потоками інвестицій, пожертв та державних контрактів, перетворила Україну на Кремнієву долину для автономних безпілотників та іншої зброї.
Те, що створюють компанії, — це технологія, яка робить людське судження про прицілювання та стрілянину дедалі більш дотичним. Широка доступність готових пристроїв, простого в розробці програмного забезпечення, потужних алгоритмів автоматизації та спеціалізованих мікрочіпів зі штучним інтелектом підштовхнула смертельну гонку інновацій на незвідану територію, підживлюючи нову потенційну еру роботів-вбивць.
Безпілотник був протестований компанією Vyriy, однією з багатьох українських компаній, які через війну з Росією почали працювати над створенням споживчих технологій як зброю. Фото…Саша Маслов для The New York Times
Співробітник Vyriy використав окуляри, щоб побачити, що бачить дрон, коли він націлювався на ціль. Фото…Саша Маслов для The New York Times
Найпросунутіші версії технології, що дозволяє безпілотникам та іншим машинам діяти автономно, стали можливими завдяки глибокому навчанню, формі штучного інтелекту, яка використовує великі обсяги даних для виявлення закономірностей та прийняття рішень. Глибоке навчання допомогло створити популярні великі мовні моделі, такі як GPT-4 від OpenAI, але також допомагає моделям інтерпретувати та реагувати в режимі реального часу на відео та відео з камер. Це означає, що програмне забезпечення, яке колись допомагало дрону слідувати за сноубордистом вниз по горі, тепер може стати смертельно небезпечним інструментом.
У більш ніж десятці інтерв’ю з українськими підприємцями, інженерами та військовими підрозділами вимальовувалась картина найближчого майбутнього, коли рої дронів, що самонаводяться, зможуть координувати атаки, а кулемети з комп’ютерним зором зможуть автоматично вбивати солдатів. Розробляються і більш дивовижні витвори, такі як безпілотний коптер з кулеметами.
Зброя грубіша, ніж у науково-фантастичних блокбастерах, таких як «Термінатор» та її вбивця з рідкого металу Т-1000, але вона є кроком до такого майбутнього. Незважаючи на те, що ця зброя не так просунута, як дорогі системи військового призначення, що їх виробляє Сполучені Штати, Китаєм і Росією, що робить розробки значними, то їхня низька вартість — лише кілька тисяч доларів або менше — і готова доступність.
За винятком боєприпасів, багато з цих видів зброї побудовані з використанням коду, знайденого в Інтернеті, та таких компонентів, як комп’ютери для любителів, такі як Raspberry Pi, які можна купити у Best Buy та господарському магазині. Деякі офіційні особи США висловили стурбованість тим, що ці здібності незабаром можуть бути використані для терористичних атак.
Для України ці технології можуть забезпечити перевагу перед Росією, яка також розробляє автономні гаджети-вбивці або просто допомогти їй йти в ногу з часом. Ці системи підвищують ставки у міжнародних дебатах про етичні та юридичні наслідки застосування ІІ на полі бою. Правозахисні організації та посадові особи Організації Об’єднаних Націй хочуть обмежити використання автономної зброї, побоюючись, що вона може спровокувати нові глобальні перегони озброєнь, які можуть вийти з-під контролю.
В Україні такі побоювання вторинні щодо боротьби із загарбниками.
“Нам потрібна максимальна автоматизація”, – сказав Михайло Федоров, міністр цифрової трансформації України, який очолює зусилля країни щодо використання технологічних стартапів для розширення передових бойових можливостей. “Ці технології мають фундаментальне значення для нашої перемоги”.
Автономні безпілотники, такі як Vyriy, вже використовувалися у бою для поразки російських цілей, за словами українських чиновників та відео, перевіреного The New York Times. Пан Федоров сказав, що уряд працює над фінансуванням компаній, які виробляють безпілотні літальні апарати, щоб допомогти їм швидко наростити виробництво.
Виникають серйозні питання, який рівень автоматизації є прийнятним. На даний момент дрони вимагають, щоб пілот захоплював мету, утримуючи “людини в курсі” – фраза, яка часто використовується політиками та фахівцями з етики ІІ. Українські солдати висловили стурбованість з приводу того, що несправні автономні безпілотники можуть завдати удару по власним силам. У майбутньому обмежень на таку зброю може не бути.
Україна «гранично ясно пояснила, чому автономна зброя має переваги», — сказав Стюарт Рассел, науковець у галузі штучного інтелекту та професор Каліфорнійського університету в Берклі, який попередив про небезпеку використання штучного інтелекту як зброю.
Дрон у Кремнієвій долині
Солдат на північному сході України використав стяжки, щоб прикріпити вибухівку до безпілотника для завдання удару по російській меті. Фото…Фінбарр О’Рейлі для «Нью-Йорк Таймс»
Безпілотник із боєголовкою, який використовуватиметься вздовж лінії фронту у Харківській області на північному сході України. Фото…Фінбарр О’Рейлі для «Нью-Йорк Таймс»
У старій майстерні в багатоквартирному будинку на сході України Дів, 28-річний солдат 92-ї штурмової бригади, допомагав просувати інновації, які перетворили дешеві безпілотники на зброю. Спочатку він прикріпив бомби до гоночних дронів, потім додав більш потужні батареї, щоб допомогти їм літати далі, а нещодавно увімкнув нічне бачення, щоб машини могли полювати в темряві.
У травні він одним із перших застосував автономні безпілотники, зокрема з Вирі. За словами Діва, незважаючи на те, що деякі з них потребують покращень, він вважає, що вони стануть наступним великим технологічним стрибком на передовій.
За його словами, автономні дрони «вже мають великий попит». Ці машини особливо корисні у боротьбі з перешкодами, які можуть порушити зв’язок між дроном та пілотом. Коли дрон летить сам собою, пілот може просто захопити мету і дозволити пристрою зробити все інше.
По всій Україні з’явилися імпровізовані заводи та лабораторії для створення дистанційно керованих машин усіх розмірів, від літаків далекого радіусу дії та ударних катерів до дешевих дронів-камікадзе — скорочено F.P.V., для виду від першої особи, бо ними керує пілот в окулярах, схожих на віртуальну реальність, які дають вигляд з дрону. Багато хто з них є попередниками машин, які зрештою діятимуть власними силами.
Складання дронів у київському офісі PG Robotics, однієї з кількох компаній, що займаються безпілотними літальними апаратами, що працюють над автоматизованим наведенням на ціль. Фото…Саша Маслов для The New York Times
Також у Києві працюють виробничі потужності компанії Skyeton, яка виробляє безпілотники далекого радіусу дії, що використовують автоматизовані системи для польотів. Фото…Саша Маслов для The New York Times
Зусилля щодо автоматизації польотів F.P.V. почалися минулого року, але були уповільнені через невдачі у створенні програмного забезпечення для управління польотом, за словами Федорова, який сказав, що ці проблеми було вирішено. Наступним кроком буде масштабування технології за рахунок збільшення державних витрат, сказав він, додавши, що близько 10 компаній уже виробляють автономні дрони.
“У нас вже є системи, які можуть бути запущені в серійне виробництво, і зараз вони активно тестуються на передовій, тобто вже активно використовуються”, – сказав Федоров.
Деякі компанії, такі як Vyriy, використовують базові алгоритми комп’ютерного зору, які аналізують та інтерпретують зображення та допомагають комп’ютеру приймати рішення. Інші компанії більш витончені, використовуючи глибоке навчання для створення програмного забезпечення, яке може ідентифікувати та атакувати цілі. Багато компаній заявили, що вони витягують дані та відео з авіасимуляторів та польотів безпілотників на передовий.
Один із українських виробників дронів, Saker, створив автономну систему наведення за допомогою процесів штучного інтелекту, що спочатку призначені для сортування та класифікації фруктів. Протягом зими компанія почала відправляти свої технології на передову, тестуючи різні системи з пілотами дронів. Попит різко зріс.
До травня Saker налагодила масове виробництво однодрукованих комп’ютерів із програмним забезпеченням, яке можна було легко прикріпити до безпілотних літальних апаратів, щоб машини могли автоматично захоплювати ціль, сказав виконавчий директор компанії, який попросив називати його лише на ім’я Віктор, побоюючись відплати з боку Росії.
Потім безпілотник врізається в ціль, і все, сказав він. «Він стійкий до вітру. Стійкий до заклинювання. Вам просто потрібно бути влучним у тому, що ви збираєтеся вдарити».
В даний час Saker виробляє 1000 друкованих плат на місяць і планує розширити виробництво до 9000 на місяць до кінця літа. Декілька українських військових підрозділів вже завдали ударів по російським цілям на лінії фронту за допомогою технологій Saker, згідно з даними компанії та відео, підтвердженим The Times.
В одному з роликів технології Saker, опублікованому у соціальних мережах, безпілотник пролітає над полем, вкритим шрамами від обстрілу. Віконце в центрі видошукача пілота раптово наближається до танка, вказуючи на блокування. Дрон атакує сам собою, вибухаючи в бік броні.
Відео, на якому автономний безпілотник Балабан націлився на танк, а потім знищив його на сході України. …Фото
За словами Віктора, останні тижні Saker пішов ще далі, успішно використовуючи розвідувальний безпілотник, який ідентифікував цілі за допомогою штучного інтелекту, а потім відправляв автономні дрони-камікадзе для знищення. В одному випадку система вразила ціль на відстані 25 миль.
“Щойно ми досягнемо точки, коли у нас не буде достатньої кількості людей, єдине рішення – замінити їх роботами”, – сказав Ростислав, співзасновник Saker, який також попросив називати його тільки на ім’я.
Війна у мініатюрі
Український резервіст Юрій Клонцак демонструє, як користуватись автоматичним кулеметом Wolly. Фото…Саша Маслов для The New York Times
Спекотного дня минулого місяця в східному українському регіоні, відомому як Донбас, Юрій Клонцак, 23-річний резервіст, навчив чотирьох солдатів використовувати новітню футуристичну зброю: гарматну вежу з автономним наведенням, яка працює з контролером PlayStation і планшетом.
Говорячи про гуркіт довколишніх обстрілів, пан Клонцак пояснив, як гармата, названа Wolly через схожість з роботом Pixar WALL-E, може автоматично наводитися на ціль на відстані до 1000 метрів і стрибати між заздалегідь запрограмованими позиціями, щоб швидко охопити велику. Компанія, що виробляє зброю, DevDroid, також розробляла автоприціл для відстеження і ураження цілей, що рухаються.
“Коли я вперше побачив гармату, я був зачарований”, – сказав пан Клонцак. «Я розумів, що це єдиний спосіб, якщо не виграти цю війну, то принаймні утримати свої позиції».
Ця зброя є однією з кількох, що з’явилися на передовій з використанням програмного забезпечення, навченого штучним інтелектом, для автоматичного відстеження та стрільби за цілями. Подібно до ідентифікації об’єктів, що використовується в камерах спостереження, програмне забезпечення на екрані оточує людей та інші потенційні цілі цифровою скринькою. Все, що залишається зробити стрілку, це віддалено натиснути на гачок за допомогою контролера відеоігри.
На даний момент зброярі кажуть, що вони не дозволяють кулемету стріляти без натискання кнопки людиною. Але вони також сказали, що буде легко зробити такий, що зможе.
Багато українських інновацій розробляються для протидії озброєнню Росії. Українські солдати, які працюють із кулеметами, є головною метою для атак російських безпілотників. З роботизованою зброєю жодна людина не вмирає при попаданні з кулемета. Нові алгоритми, які все ще перебувають у розробці, можуть зрештою допомогти гарматам збивати російські безпілотники з неба.
Такі технології, а також можливість швидко створювати та тестувати їх на передовій, привернули увагу та інвестиції з-за кордону. Минулого року Ерік Шмідт (Eric Schmidt), колишній виконавчий директор Google та інші інвестори створили фірму під назвою D3 для інвестування в нові бойові технології в Україні. Інші оборонні компанії, такі як Helsing також об’єднуються з українськими фірмами.
Українські компанії розвиваються швидше за конкурентів за кордоном, сказала Евеліна Бучацька, керуючий партнер D3, додавши, що фірма просить компанії, в які вона інвестує за межами України, відвідати країну, щоб вони могли прискорити свій розвиток.
“Тут просто інший набір стимулів”, – сказала вона.
Командир Олександр Ябченко (ліворуч) розмістив у Facebook відкритий запит на комп’ютеризований кулемет із дистанційним керуванням. Це стимулювало інновації, оскільки компанії намагалися допомогти. Фото…Саша Маслов для The New York Times
Українська компанія Roboneers розробила автоматизовану зброю із гарматною туреллю, встановлену на наземному безпілотнику. Кредит…Саша Маслов для The New York Times
Перероблена ігрова система, що використовується з гарматною вежею Roboneers. Фото…Пол Мозур/Нью-Йорк Таймс
Часто бойові вимоги об’єднують інженерів та солдатів. Олександр Ябченко, командир батальйону «Вовки да Вінчі», відомого своїми інноваціями в галузі озброєння, згадує, як необхідність захищати «дорогу життя» — маршрут, який використовується для постачання військ, що борються з росіянами вздовж східної лінії фронту в Бахмуті, — підштовхнула до винаходів. Вигадуючи рішення, він розмістив у Facebook відкритий запит на комп’ютеризований кулемет із дистанційним керуванням.
За кілька місяців пан Ябченко мав робочий прототип від фірми під назвою Roboneers. Гармата майже миттєво допомогла його підрозділу.
“Ми могли б сидіти в окопі, пити каву і курити сигарети і стріляти в росіян”, – сказав він.
Вклад Ябченка пізніше допоміг Робонерам розробити новий вид зброї. Рота встановила кулеметну вежу на безпілотний літальний апарат, щоб допомогти військам штурмувати або швидко змінювати позиції. Програма призвела до збільшення потреби в автоматичному прицілюванні на основі штучного інтелекту, сказав виконавчий директор Roboneers Антон Скрипник.
Подібні партнерства сприяли іншим здобуткам. У травні на полігоні дронів Swarmer, ще одна місцева компанія, провела відеодзвінок із військовим підрозділом, щоб розповісти солдатам про оновлення свого програмного забезпечення, яке дозволяє безпілотникам проводити роєві атаки без пілота.
Українська компанія Swarmer створила програмне забезпечення на основі моделі штучного інтелекту, яка була навчена на великих обсягах даних щодо місій безпілотників на передовій. Фото…Саша Маслов для The New York Times
Програмне забезпечення компанії Swarmer, яка була створена минулого року колишнім інженером Amazon Сергієм Купрієнком, було побудовано на моделі штучного інтелекту, яка була навчена на великих обсягах даних про місії безпілотників на передовій. Це дозволяє одному технічному спеціалісту керувати сімома безпілотниками для бомбометання та розвідки.
Нещодавно Swarmer додав здібності, які можуть спрямовувати ударні дрони-камікадзе на відстань до 35 миль (56 км). Є надія, що програмне забезпечення, яке тестується із січня, скоротить кількість людей, необхідних для управління мініатюрними військово-повітряними силами, які домінують на лінії фронту.
Випробування безпілотників Swarmer під Києвом минулого місяця. Надано…Відео Саші Маслова для The New York Times
Під час демонстрації інженер Swarmer за комп’ютером спостерігав за картою, тоді як шість автономних дронів дзижчали над головою. Один за одним великі дрони-бомбардувальники пролітали над потенційною метою та скидали пляшки з водою замість бомб.
За словами Купрієнка, деякі пілоти дронів побоюються, що їх повністю замінять технології.
«Вони кажуть: «Ой він літає без нас. Вони заберуть у нас пульти дистанційного керування і дадуть нам у руки зброю», — сказав він, маючи на увазі переконання, що безпечніше керувати безпілотником, аніж займати окоп на фронті.
“Але я кажу: ні, тепер ви зможете літати з п’ятьма або десятьма дронами одночасно”, – сказав він. «Програмне забезпечення допоможе їм краще боротися».
Повстання роботів-вбивць
Шоурум у штаб-квартирі Roboneers на заході України. Фото…Саша Маслов для The New York Times
У 2017 році пан Рассел, дослідник штучного інтелекту з Берклі, випустив онлайн-фільм Slaughterbots, що попереджає про небезпеку автономної зброї. У фільмі бродячі зграї недорогих озброєних дронів зі штучним інтелектом використовують технологію розпізнавання облич для вистеження та знищення цілей.
Те, що відбувається в Україні, наближає нас до цього антиутопічного майбутнього, сказав Рассел. За його словами, йому вже не дають спокою українські відео із солдатами, яких переслідують озброєні безпілотники, які пілотують люди. Часто настає момент, коли солдати перестають намагатися втекти чи сховатися, бо розуміють, що не можуть уникнути дрона.
“Їм нікуди йти, тому вони просто чекають, щоб померти”, – сказав Рассел.
Він не самотній у своїх побоюваннях, що Україна є поворотним моментом. У Відні члени групи експертів ООН також висловили стурбованість наслідками нових технологій, що розробляються в Україні.
Чиновники витратили більше десяти років на дебати щодо правил використання автономної зброї, але мало хто очікує, що будь-яка міжнародна угода встановить нові правила, особливо у зв’язку з тим, що Сполучені Штати, Китай, Ізраїль, Росія та інші країни поспішають розробити ще більше досконала зброя. У рамках однієї з американських програм, оголошеної у серпні, відомої як ініціатива Replicator, Пентагон заявив, що планує масове виробництво тисяч автономних безпілотників.
«Геополітика унеможливлює це, — сказав Олександр Кментт, головний переговорник Австрії з автономної зброї в ООН. — Ця зброя буде використана, і вона використовуватиметься у військовому арсеналі практично всіх».
За його словами, ніхто не очікує, що країни погодяться на повну заборону такої зброї, але вона повинна регулюватися таким чином, щоб ми не отримали абсолютно кошмарний сценарій.
Такі організації, як Міжнародний комітет Червоного Хреста, наполягають на юридично обов’язкових правилах, які забороняють певні види автономної зброї, обмежують використання інших та потребують певного рівня контролю за рішеннями про застосування сили.
Міністр цифрової трансформації України Михайло Федоров на саміті у Києві у травні. Він виступає за використання технологічних стартапів для створення інноваційної зброї. Фото…Саша Маслов для The New York Times
Для багатьох в Україні дебати мають академічний характер. Вони перевершують по озброєнню та чисельності.
“Спочатку нам потрібно перемогти”, – сказав міністр цифрової трансформації Федоров. «Для цього ми зробимо все можливе, щоби максимально впровадити автоматизацію та врятувати життя наших солдатів».
