Solayer 创始人发布 LLM 供应链安全研究,超 2% 免费路由器被曝恶意注入

ETH0,21%

Gate News 消息,4 月 10 日,Solayer 创始人 @Fried_rice 在社交媒体发文披露大语言模型(LLM)供应链重大安全隐患。研究指出,LLM 代理日益依赖第三方 API 路由器将工具调用请求分派给多个上游提供商,这些路由器作为应用层代理运行,能够以明文形式访问每个传输中的 JSON 载荷,但目前没有任何提供商在客户端与上游模型之间强制执行加密完整性保护。

该论文对从淘宝、闲鱼及 Shopify 独立站购买的 28 个付费路由器,以及从公开社区收集的 400 个免费路由器进行测试,结果发现 1 个付费路由器和 8 个免费路由器正在主动注入恶意代码,2 个部署了自适应规避触发器,17 个触碰了研究人员拥有的 AWS Canary 凭证,还有 1 个从研究人员持有的私钥中盗取了 ETH。

两项投毒研究进一步表明,看似无害的路由器同样可被利用:一个泄露的 OpenAI 密钥被用于生成 1 亿个 GPT-5.4 token 及超过 7 个 Codex 会话;而配置较弱的诱饵则产生了 20 亿个计费 token、跨越 440 个 Codex 会话的 99 份凭据,以及 401 个已在自主 YOLO 模式下运行的会话。

研究团队构建了名为 Mine 的研究性代理,可对四种公开代理框架实施全部四类攻击,并验证了三种客户端防御手段:故障闭锁策略门控、响应端异常筛查以及仅追加透明日志记录。

Disclaimer: The information on this page may come from third parties and does not represent the views or opinions of Gate. The content displayed on this page is for reference only and does not constitute any financial, investment, or legal advice. Gate does not guarantee the accuracy or completeness of the information and shall not be liable for any losses arising from the use of this information. Virtual asset investments carry high risks and are subject to significant price volatility. You may lose all of your invested principal. Please fully understand the relevant risks and make prudent decisions based on your own financial situation and risk tolerance. For details, please refer to Disclaimer.
Opmerking
0/400
Geen opmerkingen