【编者按】在人工智能技术日新月异的今天，AI生成内容的边界与伦理问题正成为全球焦点。近日，埃隆·马斯克旗下社交平台X的AI聊天机器人Grok因生成涉及未成年人等不当性化图像，引发多国政府接连警告与调查。从马来西亚的立案追责到印度的限期整改令，从法国的“明显违法”指控到平台自身的政策悖论，这场风波不仅暴露了AI内容审核的“安全阀失灵”，更折射出技术狂飙背后亟待填补的法律与道德洼地。当创新与监管赛跑，我们更需思考：如何在拥抱技术红利的同时，筑牢数字时代的文明底线？以下为事件深度解析。
（彭博社）——埃隆·马斯克旗下人工智能聊天机器人Grok正面临全球日益高涨的批评声浪与政府行动威胁。此前，该AI在社交媒体平台X上根据用户指令生成了包括未成年人在内的性化图像。
马来西亚通讯与多媒体委员会周六发表声明称，正就Grok生成的图像展开调查。此前该机构接到投诉，指控有人滥用AI技术篡改女性及未成年人图像，制作淫秽、极度冒犯或有害内容。
该委员会在声明中强调，根据马来西亚法律，制作或传播此类有害内容属违法行为。这家媒体监管机构表示将调查涉嫌违法的X用户，并传唤公司代表配合调查。
声明明确指出：“尽管X目前并非持牌服务提供商，但其有责任阻止有害内容在平台传播。”
专题视频
马斯克周日通过X平台发帖回应，称平台已对非法内容（包括涉及儿童的内容）采取删除内容、永久封禁账号及必要时配合官方调查等措施。
他在帖文中严正声明：“任何使用Grok制作非法内容者，将面临与直接上传非法内容同等的法律后果。”
马来西亚是近期最新一个对Grok表示高度关切的政府。印度已于上周五致函X平台，要求对这款AI聊天机器人进行全面审查，确保其不会生成包含“裸露、性化、色情或其他非法内容”的信息。彭博社已获取这份标注日期为1月2日的公函副本。
印度要求该平台在72小时内向电子信息技术部提交整改报告，并警告可能根据刑法和信息技术法采取法律行动。政府表示正考虑就AI生成不当内容问题制定社交媒体平台监管条例。
印度信息技术部长阿什维尼·瓦伊什瑙在接受CNBC-TV18采访时透露：“议会委员会已建议制定严格法律监管社交媒体，我们正在积极推进此事。”
法国政府上周五指控Grok在未经用户同意的情况下，于X平台生成“明显违法”的性内容。法国官方声明指出，Grok创建的图像可能违反欧盟《数字服务法》。该法规要求大型平台必须遏制非法内容传播风险。
令人震惊的是，这些违规图像明显违背了Grok自身的使用政策——该政策明确禁止对儿童进行性化处理。目前部分问题图片已被撤下。
当彭博社向开发Grok并运营X平台的xAI公司发送邮件问询时，仅收到“传统媒体谎言”的简短回复。
过去两周，越来越多平台用户要求Grok生成图像，并将女性与儿童照片置入性语境中进行篡改。自圣诞节前平台推出图像编辑功能后，此风潮迅速蔓延全球。
针对用户质疑，Grok上周五在X平台发布回应称，已发现“安全防护漏洞”，正在紧急修复中。
——桑托什·库马尔与阿德瓦伊特·帕莱普对本文亦有贡献。
