埃隆・马斯克旗下 xAI 本周为 Grok 推出了新图像编辑功能，允许 X 用户无需原作者同意（也不会通知原作者）即可编辑任何图像，引发用户争议。

后续将这一事件彻底推向风口浪尖的则是 —— 马斯克 1 月 1 日要求 Grok 将演员本・阿弗莱克的 AI 梗图替换为自己的脸，从而掀起了一股“比基尼换装”热潮。

但问题在于该功能并未得到充分验证，甚至还有部分“乐子人”通过这一功能生成了违法图片，引发普通用户及监管机构不满。

对此，xAI 昨日承认“已识别到防护措施存在疏漏，正在紧急修复”，并强调部分材料“属于违法且被禁止的内容”。

IT之家注意到，xAI 技术人员帕尔萨・塔吉克也公开承认了这一问题：“感谢反馈，团队正在研究进一步收紧我们的限制措施。”

马斯克旗下 xAI 产品常因为高用户自由度、低防护度引起争议。其 AI 女友 Ani 可与用户调情。

行业专家指出，更广泛的问题超越 Grok 本身。2022 年 ChatGPT 的推出加速了 AI 生图的扩散，许多公司目前难以防止功能滥用。该技术助长了涉及真人的深度伪造成人内容。

印度电子和信息技术部上周五要求政府对 Grok 的安全功能进行审查。印度官员指出该平台出现“新趋势”，用户上传女性照片并要求聊天机器人“减少其衣物并使其性感化”。该部称此行为“不可接受，是对 AI 功能的严重滥用”。