马斯克旗下xAI面临指控，被指遭滥用生成露骨图像

马斯克旗下人工智能公司xAI近期陷入严重的法律诉讼争议。一名女子正式加入针对xAI的法律诉讼，指控其AI聊天机器人Grok在安全管控方面的缺位，导致其继父利用Grok篡改她11岁时的童年照片，并生成了数千张露骨违规内容。

该事件再度引发了公众对于生成式AI工具滥用的讨论。原告方认为，目前AI平台的无限制访问正在为儿童性虐待材料的生成提供温床，而xAI未能采取必要的前置安全防御措施，纵容了此类违规图像的批量生产。此前，已有其他青少年发起类似指控，称Grok被频繁用于生成包含未成年人的违规影像。

随着诉讼不断升温，原告方正推动将此案升级为集体诉讼。这一事件反映了行业在快速迭代与技术安全合规之间的矛盾，如何通过技术手段从源头上拦截非法人群利用大模型进行创作，已成为摆在所有AI公司面前的严峻课题。