明尼苏达州正就一项针对AI生成色情深度伪造的新州法与埃隆·马斯克旗下的xAI展开法律交锋。州总检察长基思·埃利森于周五提交法庭回应，认为xAI对HF-1606号法律的合宪性挑战不太可能成功，且该公司未能证明执法会带来不可弥补的损害。
埃利森在文件中写道：“通过Grok Imagine，X.AI打造了一个几乎零门槛的数字性暴力超级市场。如果明尼苏达州无法将法律直接适用于这种从根源上使数字性侵害成为可能的技术，那么该州从一开始就会陷入被动。”该法律于今年4月通过、8月1日生效，禁止平台和软件开发者允许用户创建显示可识别个人原始图像中未出现的私密身体部位的逼真图像。
xAI于7月起诉埃利森，要求阻止该法律实施，声称其违反第一修正案，并可能适用于诸如赤膊男性、游泳者和政治讽刺等受保护图像。每张违规图像的罚款最高可达50万美元。xAI在诉状中表示：“对于通用AI创意工具提供商为避免伤害所做的善意努力，法律没有提供任何安全港。即使图像中的人物已同意或自行创建了图像，甚至图像从未被分享，责任依然存在。”
明尼苏达州立法机构以压倒性多数通过了该法案——众议院132票赞成、1票反对，参议院65票赞成、0票反对。此前有报道称，一名男子利用社交媒体照片制作了80多名他认识女性的色情图像。推动该法案的参议员梅耶·奎德当时表示：“今天，我们带领全国保护女性、儿童和所有公众人物免受AI脱衣技术带来的伤害。那些在网上和应用商店免费提供此类技术的公司，将不再被允许助长施虐者一键虐待和侵害成人与儿童的行为。”
此案的核心争议在于该法律监管的是言论还是技术。Grok此前也曾因色情深度伪造而面临审查。今年1月，一家观察机构估计Grok在11天内生成了超过2.3万张儿童色情图像，引发多国调查。3月，加州三名未成年人加入对xAI的诉讼，指控Grok被用于将他们的照片转化为AI生成的儿童性虐待材料。xAI表示，2026年已暂停超过5万个账户，并向国家失踪与受虐儿童中心提交了超过7万份报告。