马斯克Grok改图乱象频传！Coser、未成年女性遭AI脱衣，多国出手调查

马斯克的 X 平台，最近整合 Grok AI 修图功能，爆发多起未经同意生成性剥削、未成年露骨影像的乱象，多国政府已介入调查并要求平台落实安全防范。

X推出Grok AI图像编辑，Coser惨遭性剥削

在生成式 AI 工具越来越普及下，一键修图变得更加容易。最近马斯克旗下社区平台 X 就把 Grok 聊天机器人的生成图片功能，整合到 X 帖文功能上，用户只要在任何一张贴文图片右下方点击“编辑图片”，就能叫出 Grok 改图并重新上传成留言或贴文。

这个功能在刚推出时就引发很多反弹，包含可在留言呼叫 Grok 修图的功能在内，很多网友担忧会被滥用在性剥削或儿童色情等行为上，然后不出意外的果然出了意外。

在 1 月 2 日，奥地利知名 Coser（Cosplayer）蛋糕姬（keekihime）透露，一位网友在她扮演手游《明日方舟》角色的照片贴文下，擅自呼叫 Grok 修图，提示词包含“换上内衣”跟“透明服装”等等，由于 Grok 改完图后会直接显示在原贴文留言处，这让蛋糕姬非常不爽，直批：

“Grok 似乎变成某种好色恶心男人的色情生成器，而 X 竟然在助长这种风气。这简直就是在侵犯女生的身体，去他 X 的 AI！”

图源：X

Grok被滥用生成比基尼，甚至有未成年女性受害

虽然马斯克本人对于自己的照片，被恶搞成穿比基尼泳装并不反感，甚至在有人做梗图吐槽 X 社群空间变成一群比基尼女性走进酒吧时，也只回了一个哭笑不得的 emoji，但很明显大多数民众不能接受这种行为。

巴西女性音乐家 Julie Yukari 对《路透社》透露，她明明是上传一张穿红色连身裙的照片，却被网友恶搞成穿比基尼的版本，而且很快地就在 X 平台上扩散。

受害的不只她，在 1 月 2 日中午期间，Grok 在短短十分钟内就接获 102 条投诉，大部分都是有女性被迫脱衣换上比基尼的 Grok 改图，也有一些男性甚至是一只猴子受害。

更可怕的是，一位可能是未成年学生的女性，在 X 平台分享穿着衬衫与格子裙的照片，结果在留言处有网友呼叫 Grok，要求“脱掉她的学生制服”，并换成 T-Shirt 跟短裤，随后又要求换成比基尼，但 Grok 没有理会这个提示词。

图源：Getty Images

Grok 后来证实，在查看用户互动纪录后，确实发现个别用户请求并收到了 AI 生成的、衣着暴露的未成年人图像的情况，并宣称将改进安全措施。

持续观察 X 平台 AI 生成政策发展的专家们透露，该平台无视民间社会与儿童安全组织的警告。去年该组织曾致信警告，xAI 距离大量散布未经同意的深度伪造（Deepfake）内容，只差一步之遥。

多国出手检举、调查X与Grok

面对 Grok 滥用与 X 平台消极的行为，多国政府已经开始行动。

法国政府已向监管机构检举 X 平台，指控 Grok 生成图片带有性暗示与歧视，明显是违法的；英国通信管理局（Ofcom）也表示，制作或分享未经同意的私密或儿童性虐待影像是非法行为，也包括使用 AI 生成的内容，呼吁要有适当防范措施。

而在亚洲，马来西亚政府已展开调查，因为当局已收到 Grok 被滥用生成女性不雅照的投诉；印度信息科技部也致信给 X 平台，指控不但没阻止 Grok 被滥用，还让人生成并传播猥亵色情内容。

X 平台在监管重拳下紧急回应，**将对非法内容，例如儿童性虐待制品（CSAM）等采取行动，具体措施是删除非法内容、永久封禁账户，并在必要时与政府和执法单位合作。**马斯克也警告用户，任何用 Grok 或唆使 Grok 制作非法内容的人，都将受到与上传非法内容相同的后果。

图源：X