USDT Casino - 全球热门USDT游戏娱乐平台，安全稳定，极速出款(访问363050.com 领取888USDT)据香港IDC新天域互联了解，埃隆·马斯克（Elon Musk）旗下xAI研发的聊天机器人Grok图像编辑功能滥用风波持续升级，不仅被曝生成未成年人及女性性化内容，更有多名普通女性沦为“数字脱衣”受害者，引发全球舆论强烈谴责。目前法国、印度、英国等多国监管机构已采取行动，英国更拟立法禁止相关“数字脱衣”工具，生成式AI内容安全管控难题再度凸显。

　　据悉，X平台（前Twitter）去年12月下旬上线的“编辑图片”功能，依托Grok模型运行，允许用户无需原作者同意，通过文字指令修改平台内任意图像。该功能迅速被恶意滥用，部分用户借此生成儿童身着极少衣物的性化图像，同时大量女性照片被篡改为人身私密图像。里约热内卢音乐人Julie Yukari新年夜发布的红色连衣裙照片遭篡改传播，英国女性Samantha Smith也向BBC控诉，自己的图像被Grok“数字脱衣”，虽未呈现状态，但“感觉就像本人被侵犯，如同有人公开了我的私密照片”，直言这种经历让她“被非人化，沦为性刻板印象的符号”。BBC还发现，平台内存在大量要求Grok将女性图像改为比基尼装扮、置于性场景的指令。

　　面对争议，Grok官方账号曾在X平台回应称已发现“安全防护漏洞”，正“紧急推进修复”，强调儿童内容（CSAM）属“非法且严格禁止”范畴，xAI技术人员也表态将“进一步收紧安全护栏”。但xAI公司官方态度极具对抗性，面对多国媒体问询均仅自动回复“传统媒体说谎”，未作出实质性回应，引发公众对其漠视问题的不满。

　　多国监管已同步发力。法国政府明确指控Grok生成“明显违法”的非同意性性内容，涉嫌违反欧盟《数字服务法》，已将相关内容提交检方要求立即移除，并扩大对X平台的现有调查；印度信息技术部要求X平台提交详细报告，说明移除违规内容的具体措施，印度议员已公开相关投诉文件；英国方面，内政部发言人表示正推动立法禁止“数字脱衣”工具，新规将把提供此类技术列为刑事犯罪，违者将面临监禁和巨额罚款，监管机构Ofcom也强调，科技企业必须评估平台内非法内容对英国用户的风险，并及时移除违规内容。

　　行业数据凸显风险严峻性。国际非营利组织互联网观察基金会（IWF）报告显示，2025年上半年全球AI生成的儿童内容同比激增400%，该机构CEO呼吁AI产品上市前必须经过严格安全测试。值得注意的是，xAI曾将Grok定位为“更宽松”的AI模型，去年推出的“Spicy Mode”允许呈现部分成人内容，虽明令禁止未成年人相关性内容及真实人物色情内容，但防护机制形同虚设。杜伦大学法学教授Clare McGlynn表示，X平台和Grok“本可阻止此类滥用”，却“长期放任违规内容传播而未采取行动，且似乎享有豁免权”。

　　这并非Grok首次陷争议。除此前编造国际冲突虚假信息、发表反犹言论外，该工具还曾被指控生成泰勒·斯威夫特的色情片段。尽管负面频发，Grok仍获商业合作，上月刚被纳入美国国防部AI代理平台，同时服务两大预测博彩平台。

　　行业专家呼吁，企业需从功能设计源头规避风险，移除未经授权的图像修改权限，将伦理安全嵌入研发全流程，平衡创新与社会安全。返回搜狐，查看更多