Конфликт на Ближнем Востоке показывает, что технологии искусственного интеллекта находят на Западе всё более широкое применение в военном деле.
Война США и Израиля с Ираном – первый военный конфликт, в котором стороны массово используют искусственный интеллект (ИИ) для обнаружения и идентификации целей, выбора средств и методов их поражения, анализа эффективности ударов. Что это даёт на поле боя и какие проблемы в связи с этим возникают?
Уже после первых обменов ударами в войне США и Израиля против Ирана многие аналитики пришли к выводу, что для их нанесения используется искусственный интеллект. Последующие боевые действия только укрепили такое мнение. Виртуальный разум позволял сократить время от обнаружения цели до нанесения удара с нескольких дней или часов до минут. Это явление западные эксперты называют «сжатием цепочки поражения» или «сжатием решений».
Собственно говоря, это мнение подтвердил глава центрального командования вооружённых сил США адмирал Брэд Купер, заявив, что высокая интенсивность и точность нанесения ударов стали возможны благодаря внедрению современных систем ИИ. «Человек всегда принимает окончательное решение – наносить удар или нет, однако передовые инструменты искусственного интеллекта могут сократить до секунд процессы, которые раньше занимали часы, а иногда и дни», – отметил он.
К идее использования искусственного интеллекта в военном деле США пришли уже давно. Фундаментальные исследования в этой области там начали в 1970-х годах в рамках проекта «Системы искусственного интеллекта». Например, по планам НИОКР в сухопутных войсках ещё в 1982 году был составлен перечень из 48 активно реализуемых проектов в области военного применения ИИ, которые предоставляли возможность начать широкое внедрение технологий ИИ в системы вооружения и военной техники.
Однако настоящий прорыв в сфере ИИ на основе нейросетевых методов анализа «больших данных» и машинного обучения произошёл в конце первого десятилетия нашего века и предопределил развёртывание с 2012 года масштабных НИОКР в интересах Пентагона в рамках федеральной программы Big Data. Исследования в этой сфере позволили определить основные направления развития робототехнических комплексов военного назначения. В 2016 году появилась единая (межвидовая) концепция роботизированных систем, а в 2017 году были выработаны единые подходы в области разработки, испытаний и принятия на вооружение робототехнических комплексов военного назначения.
Основным документом, определяющим ключевые приоритеты развития и применения ИИ в США в военной сфере, сегодня является «Стратегия ИИ министерства обороны США». Технологии ИИ в ней отнесены к критическим в сфере обеспечения национальной безопасности и занимают первое место по важности. В Вашингтоне считают, что на период до 2030 года ИИ останется основой национальной научно-технологической стратегии, призванной обеспечить американское мировое лидерство во всех сферах, в том числе глобальное военное доминирование.
Применение ИИ в боевых действиях активно отрабатывалось на различных учениях. Более того, виртуальный разум был использован, как утверждают американские СМИ, при проведении операции по захвату президента Венесуэлы Николаса Мадуро.
Что касается операции «Эпическая ярость» против Ирана, то эксперты полагают, что в ней Пентагон использует прежде всего модель Claude, разработанную калифорнийской компанией Anthropic. Она интегрирована в военную разведывательную систему Maven Smart System (разработка компании Palantir) и способна с огромной скоростью анализировать колоссальные массивы данных со спутников, беспилотников и от других разведывательных источников, чтобы затем предоставить командованию готовые рекомендации на принятие решений по нанесению ударов.
По утверждению газеты «Вашингтон пост», связка Claude – Maven позволила Пентагону в кратчайшие сроки выявить сотни целей для поражения, определить их точные географические координаты, ранжировать объекты по степени их стратегической значимости и в режиме реального времени оценивать эффективность нанесённых ударов.
Американские разработчики технологий ИИ в ряде случаев возражают против использования своих продуктов в военных целях, что приводит к конфликту с Белым домом. Так, всего за несколько часов до начала атаки на Иран Трамп, как сообщила британская газета «Гардиан», приказал всем федеральным ведомствам немедленно прекратить использование технологии компании Anthropic, обвинив её в левом радикализме и попытке диктовать свои правила Пентагону.
Компания настаивала на соблюдении жёстких этических ограничений, например её модель (нейросеть Claude) не должна использоваться в системах автономного летального оружия. В связи с этим заместитель военного министра США Эмиль Майкл в резкой форме обвинил главу Anthropic в стремлении контролировать вооружённые силы, подвергая угрозе национальную безопасность, а глава Пентагона Пит Хегсет потребовал неограниченного доступа военного ведомства ко всем моделям искусственного интеллекта, разработанным этой компанией.
Несмотря на конфликт, Пентагону пришлось продолжить взаимодействовать с компанией Anthropic – именно её нейросеть Claude использовалась при подготовке и проведении операции «Эпическая ярость» против Ирана.
Параллельно Пентагон стал внедрять инструменты, созданные другими компаниями. В частности, был заключён контракт с компанией OpenAI о развёртывание её нейросети ChatGPT. Свои ресурсы для обработки больших данных предоставили также вооружённым силам США компании Microsoft и Google. Сообщалось и о планах использования модели Grok от Илона Маска в военных целях.
ИИ активно применялся Пентагоном, в частности, для проведения массированных кибератак на иранскую военную инфраструктуру и ядерные объекты. Алгоритмы помогали выявлять уязвимости в их защите и автоматизировать атаки.
Искусственный интеллект перестаёт быть вспомогательным инструментом, превращаясь в ключевой элемент современных военных операций, меняя баланс сил на поле боя
Технологии ИИ стали широко использоваться в США и для управления дронами-камикадзе LUCAS (Low-Cost Uncrewed Combat Attack System). Этот дрон, кстати, скопирован с иранского «Шахед-136». Американские военачальники применили LUCAS весной этого года для подавления ПВО Ирана.
Израиль также использовал довольно широко искусственный интеллект для нанесения ударов по Ирану. Согласно сообщениям информагентств, на вооружении ЦАХАЛ находятся системы искусственного интеллекта Lavender («Лаванда»), Habsora («Евангелие») и Where is Daddy? («Где папочка?»). Они активно были задействованы израильской армией при проведении операций в секторе Газа, Ливане и Сирии. Например, «Лаванда» проверила каждого из 2,1 миллиона жителей Газы на предмет причастности к террористам и выдала список из 37 тысяч человек, которые так или иначе связаны с ХАМАС. Они стали целями для ударов, в том числе посредством БпЛА. На решение о нанесении удара у дежурного офицера на командном пункте уходит не более 20 секунд. Ошибки составляют около 10 процентов от общего числа атакованных людей. Эти системы Израиль, видимо, использовал против Ирана и движения «Хезболла» на юге Ливана.
Вместе с тем аналитики, анализируя применение искусственного интеллекта в войне на Ближнем Востоке, отмечают, что за внешней его эффективностью скрывается целый ряд системных проблем и угроз. Как подчёркивает специалист по ИИ Хейди Хлааф, современные системы поддержки принятия решений заставляют военных доверять алгоритмам. «Существует эффект автоматизации: человек склонен соглашаться с рекомендациями машины, превращаясь в своего рода формального подопечного», – поясняет она. Во время боевых действий, где время на принятие решений сильно ограничено, это означает полную передачу ответственности ИИ.
Однако ошибаться свойственно не только человеку, но и машине. В самом начале войны против Ирана произошла трагическая ошибка, приведшая к военному преступлению. В результате удара ракеты «Томагавк» по женской школе в портовом городе Минаб, недалеко от иранской военно-морской базы, погибли 175 человек, в основном школьницы.
Особую тревогу вызывает точность систем ИИ. Эффективность некоторых его моделей, применяемых для определения целей, может составлять всего 25–30 процентов. Это означает, что значительная часть ударов наносится по ошибочным или недостаточно проверенным данным. Так, по оценкам бывших сотрудников израильской разведки, используемая система под названием Habsora («Евангелие») является «фабрикой массовых убийств». Система генерировала массовые списки целей, в результате ударов по которым гибли целые семьи в жилых домах.
Не менее серьёзной проблемой остаётся непрозрачность работы самих алгоритмов. Большинство современных моделей представляет собой так называемые чёрные ящики, принцип функционирования которых не до конца понятен даже разработчикам. В результате установить, была ли ошибка следствием неверных разведданных, сбоя системы или человеческого решения, зачастую невозможно. Это, в свою очередь, ставит под вопрос саму возможность юридической ответственности за последствия ударов.
Как видим, война на Ближнем Востоке показала, что искусственный интеллект перестаёт быть вспомогательным инструментом, превращаясь в ключевой элемент современных военных операций, меняя баланс сил на поле боя. Однако это также создаёт новые вызовы.