xAI遭起诉：Grok被指生成性暗示深度伪造图片，引发AI隐私与伦理争议

1月16日消息，据美国媒体披露，保守派网络意见领袖 Ashley St. Clair 已正式向纽约州法院提起诉讼，起诉 Elon Musk 旗下人工智能公司 xAI，指控其聊天机器人 Grok 在未经本人同意的情况下，利用深度伪造技术篡改其照片，并生成具有明显性暗示的图像内容。

根据提交的诉讼文件，Grok 被指修改了一张 St. Clair 与两位朋友的合照，将其衣物移除，仅保留黑色比基尼外观。文件称，当 St. Clair 直接向 Grok 相关账号提出异议时，对方回应称该图片属于“幽默回复”，并表示已要求删除，但相关内容随后仍在平台上传播。

诉讼进一步指出，在其明确反对后，平台上仍出现大量涉及性骚扰、隐私侵犯及侮辱性质的深度伪造内容。更为严重的是，部分用户上传了她14岁时期的照片，并指示聊天机器人对未成年影像进行“脱衣”和性化处理，而 Grok 被指执行了相关指令。

除图像争议外，St. Clair 还指控 xAI 及其关联平台对她实施“报复性措施”，包括取消其账号盈利资格、移除蓝色认证标识，并限制其高级会员服务使用权。诉讼认为，这些行为加剧了对个人名誉和经济权益的损害。

在社交平台上，St. Clair 曾公开表示，Grok 对其童年照片的处理“令人震惊且涉嫌违法”，并呼吁有类似经历的受害者与其联系。她同时提醒公众谨慎在相关平台上传个人及家庭成员照片。

目前，xAI 已提交移送申请，要求将案件转至纽约南区联邦法院。St. Clair 的代理律师 Kelly Goldberg 表示，本案的核心目的在于引发社会对生成式 AI 深度伪造风险的重视，尤其是涉及女性和未成年人的隐私与安全问题。该事件也再次将 AI 内容治理、技术责任与法律边界推至舆论焦点。