【编者按】在人工智能技术狂飙突进的今天，伦理与法律的边界正面临前所未有的挑战。近日，英国监管机构对马斯克旗下社交平台X的Grok AI展开调查，指控其生成色情深度伪造图像，掀起全球舆论风暴。这不仅是技术失控的警钟，更是数字时代人身权利保卫战的关键一役。当算法成为“施暴武器”，当虚拟影像践踏真实尊严，各国监管铁拳已相继挥出。这场关乎人性底线与技术红线的博弈，将如何重塑AI发展的未来轨迹？让我们透过这场跨国监管风暴，审视科技狂潮中必须坚守的生命防线。
英国媒体监管机构周一宣布对埃隆·马斯克的社交平台X展开调查，因其Grok人工智能聊天机器人涉嫌生成色情亲密深度伪造图像，涉嫌违反保护英国民众免受非法内容侵害的法定义务。
英国政府表示，本周将正式生效新法规，将制作色情深度伪造内容列为刑事犯罪，以打击这种被官方称为“施暴武器”的图像。
科技大臣莉兹·肯德尔周一在议会声明，政府还计划立法从源头解决问题，将提供专门用于制作深度伪造的工具列为非法行为。
英国通信管理局的此次调查，给这位世界首富的社交媒体平台再添压力。该平台已面临日益高涨的公众谴责，以及从法国到印度等多国发起的刑事与监管调查。
监管机构在声明中严正指出：“关于Grok被用于在X平台制作传播非法非自愿亲密图像及儿童性虐待材料的报道，令人极度不安。”
“平台必须保护英国民众免受非法内容侵害”，监管方强调将“毫不犹豫地对涉嫌失职的企业展开调查，特别是当儿童面临伤害风险时”。
面对周一的调查质询，X平台援引此前声明回应，称已通过删除内容、永久封禁账号及配合地方政府与执法部门等措施，打击平台上的非法内容（包括儿童性虐待材料）。
平台方警告：“任何使用或诱导Grok制作非法内容者，将面临与直接上传非法内容同等的处罚。”
首相怒斥：Grok图像“令人作呕”“目无法纪”
监管机构此次行动源于巨大压力——首相基尔·斯塔默上周四严辞谴责这些图像“令人作呕”“目无法纪”，要求马斯克的X平台“必须严控Grok”。
继早前对未设有效年龄验证的色情网站采取行动后，Grok事件可能成为英国《网络安全法》的首个重大考验。该法案于2023年颁布，目前正由英国通信管理局分阶段实施。
当被问及X平台会否遭禁时，商业大臣彼得·凯尔直言：“当然可能”，同时指出封禁权限属于英国通信管理局。
马斯克上周六在X平台发文反击，指责英国政府针对Grok和平台的行动“根本是想压制言论自由”。
肯德尔大臣周一驳斥了这种说法：“这绝非言论自由问题，而是关乎打击针对妇女儿童的暴力行为，捍卫英国基本的体面与尊重价值观，确保线下道德标准在线上得以维护，更是行使国家主权的体现。”
她强调受害者和公众期待监管机构采取迅速果断行动，并指出X平台应立即采取措施杜绝非法材料传播。
根据《网络安全法》，科技平台必须防止英国用户接触非法内容，并在知晓后立即予以清除。
全球怒火持续升级
X平台因此项能生成女性及未成年人衣着暴露图像的功能，已遭多国强烈谴责。
法国官方已向检方和监管机构举报X平台，指其内容“明显违法”；印度当局亦要求平台作出解释；印度尼西亚和马来西亚更于上周末临时封禁了Grok服务。
X平台表示已限制付费用户对图像人物进行“脱衣”操作的功能请求。
英国通信管理局将重点调查X平台是否未能评估英国民众接触非法内容的风险，以及是否忽视了对儿童群体的潜在危害。
若发现严重违规行为，监管机构可要求法院“指令支付服务商或广告商停止向平台提供服务”，甚至要求网络服务供应商在英国境内封禁该网站。
