Der Gründer von Solayer veröffentlicht eine Studie zur LLM-Lieferketten­sicherheit, mehr als 2 % der kostenlosen Router sollen mit bösartigem Code infiziert worden sein

Gate News Nachricht, am 10. April hat der Gründer von Solayer @Fried_rice in einem Social-Media-Beitrag bedeutende Sicherheitsrisiken in der Lieferkette großer Sprachmodelle (LLM) offengelegt. Untersuchungen zeigen, dass LLM-Agenten zunehmend Drittanbieter-API-Router nutzen, um Tool-Aufruf-Anfragen an mehrere Upstream-Provider weiterzuleiten. Diese Router laufen als Anwendungs-Proxy und können in Klartextform auf die jeweils übertragenen JSON-Payloads zugreifen, aber derzeit setzt kein Anbieter zwischen dem Client und dem Upstream-Modell irgendeinen Verschlüsselungs-Integritätsschutz durch.

Die Studie testete 28 kostenpflichtige Router, die über Taobao, Xianyu und Shopify-Einzelhandels-Websites gekauft wurden, sowie 400 kostenlose Router, die aus einer öffentlichen Community gesammelt wurden. Die Ergebnisse zeigen, dass ein kostenpflichtiger Router und acht kostenlose Router aktiv bösartigen Code einschleusen, zwei Router adaptive Mechanismen zur Umgehung von Triggern bereitstellen, 17 die von den Forschern besessenen AWS-Canary-Zugangsdaten berühren und ein weiterer ETH aus einem vom Forscher gehaltenen privaten Schlüssel stiehlt.

Zwei weitere Studien zur Vergiftung zeigen außerdem, dass auch scheinbar harmlose Router missbraucht werden können: Ein geleakter OpenAI-Schlüssel wurde verwendet, um 100 Millionen GPT-5.4-Token sowie über 7 Codex-Sitzungen zu erzeugen; während ein schwach konfigurierter Köder 2 Milliarden Abrechnungs-Token hervorbrachte, 99 Zugangsdaten über 440 Codex-Sitzungen umfasste und 401 Sitzungen erzeugte, die im autonomen YOLO-Modus liefen.

Das Forschungsteam entwickelte einen experimentellen Agenten namens Mine, der alle vier Angriffe auf vier Arten öffentlicher Agenten-Frameworks durchführen kann, und validierte drei Client-Abwehrmaßnahmen: eine Fail-Closed-Strategie mit Gate-Regelung, eine an der Antwortseite durchgeführte Anomalieprüfung sowie eine ausschließlich append-only transparente Protokollierung.