Искусственный интеллект меняет правила ведения войны: от анализа разведданных до принятия решений на поле боя. Но вместе со скоростью и эффективностью растет и цена ошибки. Насколько готовы военные США доверить алгоритмам решения, от которых зависят жизни людей? Анализ материалов от MIT Technology Review, Wired, WP и Bloomberg
«Эта рассылка о тех, кто ищет свои ИИ-кейсы вслух»
Американские военные могут использовать генеративные системы искусственного интеллекта для ранжирования списков целей и предоставления рекомендаций, которые затем должны быть проверены людьми, сообщил на условиях анонимности MIT Technology Review представитель Министерства обороны США.
С 2017 года военные США работают над проектом под названием Maven. Система использует более старые типы ИИ для анализа огромного массива изображений или данных. Например, Maven анализирует тысячи часов видео с дронов и алгоритмически идентифицирует цели.
Сейчас к этим процессам добавляется генеративный искусственный интеллект, который ускоряет поиск и анализ данных. Использование систем ИИ оказалось под вниманием общественности после недавнего удара по школе для девочек в Иране, причины которого до сих пор расследуются, отмечает MIT Technology Review.
Как генеративный ИИ дополняет систему Maven в военных операциях? И какие риски возникают при использовании ИИ в военной сфере? Forbes Ukraine выбрал главное из материалов международных СМИ.
Заощаджуйте, отримуючи 6 журналів за ціною 4
Купуйте річну передплату на шість журналів Forbes Ukraine за 1 799 грн замість 2 400 грн. Читайте головні історії українського бізнесу, ексклюзивні рейтинги та глибоку аналітику в кожному номері.
От компьютерного зрения к генеративному ИИ в планировании боевых действий
Для работы с данными в секретных операциях Пентагон внедряет специальные генеративные системы ИИ, куда загружаются списки возможных целей. Получив этот массив данных, ИИ по запросу военных анализирует информацию и определяет приоритетность объектов, учитывая текущее расположение авиации, отмечает MIT Technology Review.
Добавление генеративного ИИ значительно уменьшает время на нацеливание, однако результаты работы таких моделей гораздо труднее проверить на достоверность, пишет MIT Technology Review.
Инструмент Claude от стартапа Anthropic был центральным элементом военных операций США. Однако в конце февраля – начале марта Anthropic отказалась предоставлять правительству безоговорочный доступ к своим технологиям и выступила против создания полностью автономного оружия. Из-за этого Пентагон запретил использование их продуктов и быстро нашел замену: теперь в секретных задачах будут использоваться модели от компаний OpenAI и xAI, отмечает MIT Technology Review.
Работу ИИ в военных целях можно увидеть и на примере платформы Artificial Intelligence Platform (AIP), которую разработал военный подрядчик Palantir, отмечает Wired.
Помощник на базе ИИ может самостоятельно анализировать обнаруженные вражеские объекты и предположить, что это «вероятно, бронетанковый ударный батальон». После этого помощник генерирует сразу три варианта действий для военного аналитика: использование атаки с воздуха, дальнобойной артиллерии или выдвижение тактической группы, пишет Wired.
Использование ИИ для создания подобных отчетов колоссально экономит время. «Обычно это то, над чем я мог бы сидеть около пяти часов с чашкой кофе», – рассказывает Кунаал Шарма, руководитель направления работы с государственным сектором в компании Anthropic.
В конце февраля – начале марта Anthropic отказалась предоставлять правительству США безоговорочный доступ к своим технологиям и выступила против создания полностью автономного оружия. Фото Getty Images
Масштабы применения ИИ в войнах США
Между старой системой Maven и генеративными системами ИИ существует фундаментальная разница, пишет MIT Technology Review. Maven заставляла военных непосредственно изучать и самостоятельно интерпретировать данные на карте поля боя. Тогда как построенные на языковых моделях системы генеративного ИИ менее проверены в боевых условиях: они позволяют легче получать данные благодаря текстовому интерфейсу, но достоверность таких данных сложнее проверить.
Сочетание старой системы Maven и инструмента генеративного ИИ Claude ускорило темпы военной кампании США в Иране, по данным собеседников Washington Post. Оно уменьшило способность Ирана к контрудару и превратило многонедельное планирование боев в операции в реальном времени. Благодаря этому американским военным удалось поразить 1000 целей в первые 24 часа атаки, а в течение 10 дней эта цифра достигла 5000 целей, по данным Центрального командования США (Centcom).
Кроме боевых действий на Ближнем Востоке, эта же технология была применена и для других миссий. В частности, в январе инструмент Claude сыграл важную роль во время военной операции в Венесуэле, в результате которой был захвачен президент Венесуэлы Николас Мадуро, пишет MIT Technology Review.
«Ключевой сдвиг парадигмы заключается в том, что ИИ позволяет американским военным обрабатывать цели со скоростью машины, а не со скоростью человека», – цитирует WP Пола Шарре, исполнительного вице-президента Центра новой американской безопасности.
Однако есть и серьезные недостатки таких технологий, предупреждает он. «ИИ ошибается. Нам нужны люди, чтобы проверять результаты генеративного ИИ, когда на кону стоят жизнь и смерть», – добавляет Шарре.
Из свежих контраверсионных примеров – операция США в Иране. В результате авиаударов в Иране уже погибли свыше 1300 гражданских. Среди них более 175 человек трагически погибли в школе для девочек, пишет Bloomberg со ссылкой на информацию иранских чиновников. Расследование продолжается, но предварительные данные показали, что частичная причина ракетного удара по школе – устаревшие данные для нацеливания, отмечает NYT.
Тысячи людей собрались на похоронах в городе Минаб в Иране, где прощались с детьми, погибшими в результате удара по школе на юге Ирана. Фото Getty Images
Курс на автономное оружие и опасные сбои
Кроме анализа целей, Пентагон активно работает над созданием полностью автономного оружия, пишет Bloomberg. Военные стремятся внедрить ИИ непосредственно в ударные дроны-камикадзе. Это позволит последним самостоятельно ориентироваться, находить цели и атаковать даже в случае потери связи с командованием.
Для достижения этой цели правительство США запустило программу под названием Replicator, которую впоследствии переименовали в DAWG. Ее главная цель заключается в быстром развертывании тысяч автономных беспилотников. Этот флот готовят на случай потенциального конфликта с Китаем из-за Тайваня – базовые системы должны быть готовы уже к 2027 году.
Параллельно американские военные разрабатывают другие автономные системы, среди которых программа Goalkeeper по созданию барражирующих боеприпасов. Также существует секретный проект Whiplash, который имеет целью превратить сотни обычных гидроциклов в вооруженных бомбами морских роботов, отмечает Bloomberg.
Однако эти технологии остаются нестабильными и опасными. Например, во время испытаний в Калифорнии летом 2025-го произошла авария, когда один из автономных военных катеров вышел из-под контроля из-за ошибки оператора. Робот начал хаотично двигаться на высокой скорости и едва не потопил лодку с людьми, пишет Bloomberg.
Подобные технологии остаются крайне нестабильными и сырыми. Проблему с безопасностью таких машин невозможно решить просто добавлением дополнительных кнопок на пульт управления, отмечает Bloomberg.
Несмотря на спешку, ни одна большая языковая модель в ее нынешнем виде не должна рассматриваться для использования в полностью автономной летальной системе вооружения, пишет Bloomberg. «Чрезмерная зависимость от них на данном этапе – это путь к катастрофе», – предупреждает в комментарии изданию Джек Шанахен, генерал-лейтенант в отставке и бывший руководитель проекта Maven.
