Что если Grok от Илона Маска утечет секретную информацию? Элизабет Уоррен встревожена — Пентагон не согласен

Кратко

• Сенатор Уоррен направила письмо министру обороны Питу Хегсету с требованием ответить на вопросы о доступе Grok к Пентагону
• Службы безопасности предупреждали о рисках Grok, но Пентагон, похоже, продолжает действовать
• История Grok включает шокирующие deepfake-изображения несовершеннолетних, антисемитские материалы и утечки разговоров

Сенатор Элизабет Уоррен хочет понять, как чатбот, предположительно создавший миллионы deepfake-изображений, включая компрометирующие материалы с участием несовершеннолетних, оказался с ключами к самым секретным системам Пентагона. В воскресенье Уоррен направила четырехстраничное письмо министру обороны Питу Хегсету с требованием объяснить решение Министерства обороны предоставить доступ к секретным военным сетям Elon Musk’s xAI, несмотря на тревоги нескольких федеральных агентств. «Я выражаю свою озабоченность по поводу решения Министерства обороны (Минобороны) разрешить xAI Elon Musk доступ к секретным системам, несмотря на опасения, высказанные несколькими федеральными агентствами, включая Агентство национальной безопасности (NSA) и Агентство общих служб (GSA)», — написала Уоррен.

«Меня беспокоит, что очевидное отсутствие надлежащих мер предосторожности у Grok может представлять серьезную угрозу безопасности американских военных и кибербезопасности секретных систем», — добавила она, «особенно если Grok получит доступ к чувствительной военной информации и операционным системам.»  В письме отмечается, что NSA «провело секретную проверку» и «установило, что у Grok есть особые проблемы с безопасностью, которых не было у других моделей». GSA также выразило аналогичные опасения. «Если бы Grok утекла государственную информацию, это могло бы раскрыть чувствительные военные планы, разведывательные усилия США и поставить под угрозу жизни военнослужащих», — пишет Уоррен.

Ни одно из этих опасений, похоже, не остановило процесс. «Неясно, какие гарантии или документы предоставила xAI Министерству обороны относительно мер безопасности Grok, практик обработки данных или систем безопасности, и было ли проведено их оценивание перед тем, как было разрешено Grok доступ к секретным системам», — говорится в письме. Тот же день, когда было отправлено письмо Уоррен, три несовершеннолетних из Теннесси подали федеральный коллективный иск против xAI, утверждая, что Grok создал материалы с сексуальным насилием над детьми на основе их реальных фотографий. В иске обвиняется, что xAI сознательно выпустила Grok без стандартных мер защиты, назвав это «бизнес-возможностью» для получения прибыли за счет эксплуатации реальных людей, включая детей. На прошлой неделе газета Washington Post сообщила, что сотрудник Министерства эффективности правительства (DOGE), находящийся под руководством Musk, скопировал чувствительные данные Социальной службы США о сотнях миллионов американцев и планировал использовать эти данные в своем новом технологическом стартапе. Письмо Уоррен также упоминает историю Grok с антисемитским контентом, инструкциями по совершению убийств и террористических актов, а также распространением несанкционированных deepfake, несмотря на неоднократные обещания исправлений. В прошлом августе сотни тысяч приватных разговоров с Grok были найдены в индексе Google. Государственные тесты показали, что Grok более уязвима, чем конкурирующие модели, к атакам «загрязнения данных» — когда искаженные данные портят результаты системы — что представляет серьезную угрозу для инструмента, рассматриваемого для разработки оружия и разведки на поле боя. Руководитель отдела ответственного ИИ Пентагона распространил внутренние меморандумы об этих рисках и вскоре ушел в отставку. Сам контракт был заключен при необычных обстоятельствах. Сообщается, что xAI поздно вошла в список подрядчиков по ИИ для Пентагона, получив контракт на сумму до 200 миллионов долларов в июле прошлого года. Соглашение о секретном доступе последовало в феврале, как раз в то время, когда Минобороны публично конфликтовало с Anthropic по вопросам безопасности. На вопрос об этом представитель Пентагона заявил газете Wall Street Journal, что ведомство «рады иметь в составе xAI, одного из ведущих американских компаний в области передовых ИИ, и с нетерпением ждет внедрения Grok в их официальный ИИ-платформу GenAI.mil в ближайшем будущем».

Этот контекст важен. Anthropic была единственной компанией, обладающей системами, готовыми к секретному использованию, с Claude, задействованным в реальных военных операциях. После того, как Anthropic отказалась выполнить требование Пентагона сделать Claude доступным «для всех законных целей» — в частности, выступая против автономного оружия и массового внутреннего наблюдения — Минобороны обозначило компанию как риск для цепочки поставок. В качестве замены были объявлены xAI и OpenAI. Нет данных о том, чтобы xAI оспаривала расширение стандарта «для всех законных целей». OpenAI подошла к этому более дипломатично, установив некоторые ограничения на уровне сервера. Уоррен требует, чтобы Хегсетх ответил до 30 марта, предоставив полный текст соглашения с xAI, все внутренние коммуникации по сделке и информацию о проведенных тестах или оценках перед предоставлением доступа. Один из ее 10 вопросов напрямую спрашивает, существуют ли меры предосторожности, гарантирующие, что Grok не вызовет «ошибочные решения прицеливания», если будет задействована в критически важных операционных системах.