Elon Musk 的 AI 公司 xAI 正在追求極端言論自由的內容審查立場，但聊天機器人 Grok 卻因為生成未經同意的 deepfake 圖像而引發嚴重爭議。在 X 平台上，用戶可以在圖片下標註 Grok 並要求修改外觀，包括“脫衣”，而不需要圖片中人物的許可。
許多女性表示，Grok 只需幾秒鐘就能生成帶有色情內容的圖片，並公開顯示在評論串中。更令人擔憂的是，這個聊天機器人甚至會生成對未成年人的性暗示圖像，儘管 xAI 的政策嚴禁此類行為。Grok 隨後承認這是“機制漏洞”，可能違反美國的兒童保護法。
儘管許多人認為這是 AI 安全的嚴重失敗，一些人則利用 Grok 進行商業或政治用途，顯示寬鬆的審查制度可能迅速將 AI 變成有害的工具。
