巴尔的摩起诉埃隆·马斯克的xAI，指控Grok发布虚假裸照

在星期二，巴尔的摩市政府在巡回法庭对埃隆·马斯克的人工智能公司xAI提起了诉讼。诉讼称，Grok聊天机器人违反了当地消费者保护法，通过生成明确的、非自愿的深度伪造图像，包括未成年人的图像。

市政府官员表示，该公司通过将X $TWTR 0.00%宣传为一个常规社交网络，并将Grok宣传为一个安全的日常工具，误导了公众。投诉指出，这种营销掩盖了用户可能看到非法内容或在未获同意的情况下将家庭照片转变为贬低性的、性暗示的图像的风险。

相关内容

Meta被要求在新墨西哥儿童剥削案件中支付3.75亿美元

福特因后视摄像头软件问题召回超过254,000辆SUV

诉讼引用了反对数字仇恨中心的研究，该研究发现该软件在去年底至今年初的11天内创建了约三百万张性暗示图像。新闻媒体对显示未成年人的图像数量存在差异：NBC新闻报道约有20,000张，而《卫报》估计约有23,000张，路透社则引用了超过23,000张的数字。

市政府还批评了一项名为“辛辣模式”的功能。根据NBC新闻的报道，诉讼称该功能允许人们从公众人物、私人公民和儿童的照片中数字化移除衣物，然后将他们的图像置入暴力或性贬低的场景中。

诉讼还指出了一条来自2025年12月31日的社交媒体帖子，其中马斯克分享了自己54岁时穿蓝色细带比基尼的人工智能生成图像。巴尔的摩的律师表示，这个帖子公开鼓励用户创造暴露真实人的照片。

市长布兰登·M·斯科特强调了这些深度伪造图像的危害。他在媒体声明中表示，这些图像给受害者造成了持久的创伤，并对隐私、安全和尊严构成了严重威胁。他补充说，应该追究那些负责人的责任。

巴尔的摩请求法院施加最高的经济罚款和其他罚款。市政府官员还希望法院下令要求该公司更改其广告、重新设计其平台，并停止利用当地居民。

这起诉讼恰逢该公司面临全球的审查。路透社报道称，xAI在美洲、欧洲、亚洲和澳大利亚受到调查，这导致它在1月中旬限制了一些图像生成功能。那时，马斯克表示他对软件生成未成年人的裸露图像一无所知。

《卫报》还报道了三名田纳西州青少年在3月份提起的另一起集体诉讼。他们表示，一个外部应用程序利用了xAI的技术来创建和分享他们的裸露图像。xAI及其相关公司尚未立即回应媒体关于此案的问题。

📬 注册每日简报

我们的免费、快速、有趣的全球经济简报，每个工作日早晨送达。

给我报名