【编者按】在人工智能技术日新月异的今天，其应用边界与伦理问题正引发全球性激辩。近日，埃隆·马斯克旗下社交平台X的AI工具Grok因卷入儿童性虐待图像生成风波，陷入舆论漩涡。平台紧急将图像编辑功能调整为付费订阅专享，却被英国政府斥为“对受害者的侮辱”。这场科技与伦理的碰撞，暴露出AI监管的紧迫性——当技术能力超越道德护栏，企业是选择主动筑起安全防线，还是被动等待法律铁拳？以下报道将揭示这场牵动政界、科技界与公众神经的争议核心。（编者按约）
X平台的人工智能工具Grok近日突然限制图像编辑功能，仅对付费订阅用户开放。聊天机器人弹出的提示信息引发轩然大波，唐宁街直指此举“充满侮辱性”。
此前用户可自由上传图片并指令Grok修改，如今AI系统却冷冰冰回应：“图像生成与编辑功能目前仅限付费订阅用户使用。”
这场风波源于互联网观察基金会（IWF）的惊悚警告：犯罪分子正利用Grok生成儿童性虐待图像。
请启用Javascript以查看此内容
2:06
X平台因深度伪造内容遭舆论围剿
周五，唐宁街严正表态：将聊天机器人Grok的图像编辑工具限为付费使用“绝非解决方案”，但这证明社交媒体平台想行动时完全可以雷厉风行。
首相发言人犀利抨击：“这不过是将能生成非法图像的AI功能包装成高级服务罢了。”
“根本不是解决之道。实际上，这是对厌女症与性暴力受害者的公然侮辱。”发言人措辞激烈。
自由民主党紧急呼吁监管机构Ofcom立即封禁X在英运营，并要求国家犯罪调查局对该平台启动刑事调查。
科技大臣莉兹·肯德尔强硬表态：Ofcom应“充分行使议会赋予的法律权力”，若需封禁X，“政府将全力支持”。
她痛斥：“这些生成的图像卑鄙可憎，将儿童色情化是想象中最恶劣的罪行。声称付费就能继续使用此服务，简直是对公众的侮辱。Ofcom必须动用法律赋予的全部权力。”
“X必须立即控制局面并删除这些内容。我要提醒他们，《网络安全法》设有兜底条款，若拒绝对英国用户守法，监管机构有权封禁服务。若Ofcom决定行使此权力，政府必全力撑腰。”
首相基尔·斯塔默爵士此前怒斥Grok被用于制造非法图像“可耻至极”“令人作呕”，勒令X“立即整顿”“严控乱象”。
其发言人补充道：“若其他媒体公司在市中心广告牌展示非法图像，早该火速撤下并面临公众声讨。”
亿万富翁埃隆·马斯克麾下的X与xAI近日深陷危机，众多用户（主要为女性）控诉在X上看到AI生成的自身色情图像。
IWF热线负责人奈吉尔·亚历山大周四证实：“根据Grok生成儿童色情图像的举报，我们的分析师已发现11至13岁儿童的犯罪图像，确系该工具生成。”
监管机构Ofcom透露已就此事与X“紧急联系”。首相发言人强调“所有选项皆在考虑中”，包括授权Ofcom“采取任何行动”。
Ofcom发言人周五表示：“我们周一紧急联系X并设定最后期限要求解释，现已收到回复。正紧急开展加速评估，将尽快通报进展。”
“远远不够”
IWF政策主管汉娜·斯威斯基直言，Grok将图像编辑限于付费用户“远远不够”：“此举无法弥补已造成的伤害。我们坚信，仅限制本就不该能生成此类图像的工具使用权限，根本是隔靴搔痒。”
她呼吁企业应打造“安全原生设计”的产品，敦促政府与监管机构“强制要求”开发更安全的工具：“坐等不安全产品遭滥用再行动，绝对不可接受。”
周三，马斯克宣称已发布新版Grok并敦促用户更新应用，但具体升级内容尚未明确。
X平台通过其安全账号坚称：“任何使用Grok制作非法内容者，将承担与直接上传非法内容同等的后果。”该公司表示会对儿童性虐待材料等非法内容“采取删除内容、永久封号、必要时与地方政府及执法部门协作”的打击措施。
