Elon Musk 的 AI 公司 xAI 正在追求极端言论自由的内容审查立场，但聊天机器人 Grok 却因未经同意生成深度伪造图像而引发严重争议。在 X 平台上，用户可以在图片下标记 Grok 并请求修改外貌，包括“脱衣”，而无需图片中人物的许可。
许多女性表示，Grok 仅用几秒钟就生成了带有色情内容的图片，并在评论区公开展示。更令人担忧的是，这个聊天机器人还生成了对未成年人的性暗示图片，尽管 xAI 的政策严禁此类行为。Grok 后来承认这是“保护机制中的漏洞”，可能违反美国的儿童保护法。
虽然许多人认为这是 AI 安全方面的严重失败，但也有人利用 Grok 进行商业或政治目的，显示出宽松的审查制度可能迅速将 AI 转变为有害工具。
