Конфликт между Anthropic и Pentagon обостряется из-за терминов военного ИИ - Brave New Coin

В центре конфликта — отказ Anthropic убрать меры безопасности, блокирующие использование их моделей для автономного целеуказания оружия и внутреннего наблюдения в США. Reuters сообщает, что представители Пентагона утверждали, что использование государством должно регулироваться американским законодательством, а не политикой частной компании. Axios отдельно сообщил, что переговорщики Пентагона настаивают на стандарте «для всех законных целей» в обсуждениях не только с Anthropic, но и с другими крупными лабораториями искусственного интеллекта.

По данным Reuters, Хегсетх предъявил Anthropic ультиматум на этой неделе, предложив варианты, включая признание Anthropic поставщиком рисков цепочки поставок или применение Закона о производстве обороны для принуждения к изменениям. Также Reuters сообщил, что Пентагон дал Anthropic срок до пятницы 17:00 для ответа. Экономические последствия значительны, поскольку Anthropic тесно интегрирована в чувствительные государственные рабочие процессы, и, как отмечает Reuters, до недавнего времени была единственным поставщиком крупных языковых моделей в засекреченных сетях США.

Anthropic сохраняет сдержанность в публичных заявлениях. Представитель компании заявил Reuters, что переговоры «ведутся в добросовестной атмосфере» и направлены на обеспечение надежной и ответственной поддержки национальной безопасности. Axios также цитирует представителя Anthropic, который говорит, что компания ведет «продуктивные и добросовестные» переговоры с Министерством войны о том, как решать «новые и сложные вопросы».

Со стороны Пентагона также подчеркивают, что вопрос носит операционный, а не идеологический характер. Axios цитирует главного пресс-секретаря Пентагона Шона Парнелла, который заявил, что отношения находятся на рассмотрении и что партнеры должны быть готовы помочь вооруженным силам США «выиграть в любой битве». Также Axios приводит слова старшего офицера Пентагона, который предупредил, что разрыв с Anthropic будет болезненным и что департамент «убедится, что они заплатят цену», если вынужден будет это сделать.

Для инвесторов и корпоративных покупателей этот спор важен не только с точки зрения одного контракта. И Reuters, и Axios указывают, что это прецедентное противостояние по вопросу, смогут ли поставщики передового ИИ обеспечить соблюдение правил на уровне продукта, когда их системы внедряются в национальные системы безопасности. Reuters также цитирует юриста по государственным контрактам Фрэнклина Тернера, который заявил, что санкции против Anthropic будут «беспрецедентными» и, скорее всего, вызовут судебные разбирательства.

В бизнес-терминах это уже не просто этическая дискуссия об ИИ. Это борьба за контроль над установлением правил работы стратегического программного обеспечения: поставщика, клиента или государства.