Конфронтация в Пентагоне ставит под угрозу меры предосторожности антропического ИИ и $200 миллионный контракт на оборону

Нарастающее напряжение между ведущей лабораторией искусственного интеллекта и оборонным ведомством США переросло в высокорискованный конфликт по вопросам антропического ИИ и использования на поле боя.

Антропик твердо стоит на своем против давления Пентагона

Антропик отказался выполнить требования Министерства обороны США о снятии ключевых ограничений по безопасности ИИ с своих систем, несмотря на то, что его контракт на сумму 200 миллионов долларов теперь под угрозой. Компания ясно дала понять, что не отступит в своем споре с Минобороны относительно того, как ее передовые модели могут быть развернуты в военных сетях.

Конкуренты стартапа — OpenAI, Google и xAI — получили аналогичные награды от Минобороны на сумму до 200 миллионов долларов в 2023 году. Однако эти компании согласились позволить Пентагону использовать их системы для всех законных миссий внутри неразглашенных военных сред, предоставляя правительству более широкие оперативные возможности.

В отличие от них, Антропик подписал собственный контракт на 200 миллионов долларов с Минобороны в июле и стал первой лабораторией ИИ, которая встроила свои модели непосредственно в рабочие процессы миссий на секретных сетях. Более того, его инструменты были интегрированы в чувствительные оборонные операции, что поставило компанию в центр развития ИИ для национальной безопасности США.

Переговоры с представителями Пентагона за последние недели становились все более напряженными. Источник, знакомый с переговорами, заявил, что напряженность «возвращается на несколько месяцев назад», задолго до того, как стало публичным использование Claude в операции США, связанной с задержанием венесуэльского президента Николаса Мадуро.

Спор о наблюдении и автономном оружии

Основой конфликта является вопрос о том, насколько военные власти могут использовать мощные модели ИИ для слежки и автономных систем. Антропик требует обязательных гарантий, что его технологии не будут использованы для полностью автономного оружия или массового внутреннего наблюдения за американцами, в то время как Минобороны хочет избежать таких ограничений.

Это не узкий коммерческий спор, а публичный конфликт по вопросам безопасности ИИ с прямыми последствиями для будущей автоматизации боевых действий. Пентагон настаивает на максимальной юридической свободе, тогда как Антропик утверждает, что текущие системы еще не заслуживают доверия для масштабных решений, связанных с жизнью и смертью.

В подробном заявлении генеральный директор Даріо Амодей предупредил, что в «узком наборе случаев» искусственный интеллект может «подорвать, а не защитить демократические ценности». Он подчеркнул, что некоторые применения «просто выходят за рамки того, что современные технологии могут безопасно и надежно выполнять», выделяя риски неправильного использования в сложных военных операциях.

Расширяя опасения по поводу слежки, Амодей заявил, что мощные системы теперь позволяют «собрать разбросанные, на первый взгляд безобидные данные в полную картину жизни любого человека, автоматически и в масштабах». Более того, он предупредил, что такая возможность, если она будет использована внутри страны, может кардинально изменить отношения между гражданами и государством.

Амодей повторил, что Антропик поддерживает использование ИИ для законного иностранного разведывательного сбора. Однако он добавил, что «использование этих систем для массового внутреннего наблюдения несовместимо с демократическими ценностями», четко разграничивая внешнюю разведку и внутренний контроль за гражданами США.

Угрозы, сроки и юридическое давление

Борьба за власть обострилась во время встречи во вторник в Пентагоне между Амодей и министром обороны Питом Хегсетом. Хегсет пригрозил объявить Антропик «риском для цепочки поставок» или применить Закон о производстве обороны, чтобы заставить компанию подчиниться. В среду вечером Минобороны представило так называемое «последнее и окончательное предложение», установив срок до 17:01 по восточному времени в пятницу для ответа.

Представитель Антропик признала получение пересмотренного текста контракта в среду, однако заявила, что это «практически не продвинуло дело». По ее словам, новая формулировка, представленная как компромисс, сопровождалась юридической формулировкой, которая фактически позволяла игнорировать важные меры безопасности «по желанию», подрывая заявленные гарантии.

Комментируя растущее давление, Амодей заявил: «Министерство войны заявило, что будет заключать контракты только с ИИ-компаниями, которые согласятся на ‘любое законное использование’ и снимут меры безопасности в вышеуказанных случаях». Он добавил, что чиновники угрожали исключить Антропик из своих систем и объявить компанию «риском для цепочки поставок», если она откажется; тем не менее, он настаивал: «мы не можем добросовестно согласиться на их требования».

Для Пентагона вопрос поставлен иначе. Главный пресс-секретарь Шон Парнелл заявил в четверг, что у Минобороны «нет интереса» использовать системы Антропик для полностью автономного оружия или для массового наблюдения за американцами, отметив, что такие практики были бы незаконными. Вместо этого он подчеркнул, что ведомство просто хочет, чтобы компания разрешила использование своей технологии «для всех законных целей», что он назвал «простым, здравым требованием».

Личные нападки и общественная поддержка

Конфликт также приобрел личностный характер на высших уровнях. В четверг вечером заместитель министра обороны США Эмиль Майкл в X атаковал Амодея, заявив, что он «хочет лишь личного контроля над американской армией». Майкл пошел дальше, написав: «Обидно, что Даріо Амодей — лжец и обладает богоподобным комплексом».

Однако Антропик получил значительную поддержку со стороны технологического сектора. В открытом письме более 200 сотрудников Google и OpenAI публично поддержали позицию компании. Более того, бывший сотрудник Минобороны заявил BBC, что оправдания Хегсета по поводу использования ярлыка «риск цепочки поставок» выглядят «чрезвычайно слабым», вызывая сомнения в обоснованности аргументов Пентагона.

Этот конфликт стал важной точкой в более широких дебатах о этике ИИ и военной политике. Исследователи ИИ и защитники гражданских свобод внимательно следят за ситуацией, рассматривая ее как ранний тест того, насколько далеко оборонные агентства могут давить на частные лаборатории для ослабления встроенных ограничений на передовые системы.

Стратегические интересы для обороны США в области ИИ

Несмотря на нарастающую риторику, Амодей подчеркнул, что он «глубоко осознает важность использования ИИ для защиты Соединенных Штатов». Он охарактеризовал проблему как вопрос ответственного развертывания, а не противостояния национальной обороне, утверждая, что долгосрочная надежность возможностей ИИ США зависит от соблюдения демократических норм.

Представитель Антропик заявил, что организация остается «готовой продолжать переговоры и привержена операционной стабильности для ведомства и американских военных». Однако, учитывая приближающийся срок по требованию Пентагона и угрозы включения в цепочку поставок, обе стороны сталкиваются с давлением решить конфликт, не препятствуя важным инновациям.

В конечном итоге, столкновение Антропик — Пентагон по вопросам безопасности, слежки и автономии стало ключевым ранним случаем в управлении военным ИИ. Его исход, вероятно, определит, как будущие модели антропического ИИ и конкурирующие системы будут контрактоваться, ограничиваться и развертываться в рамках оборонных операций США.