编者按：人工智能技术的飞速发展为生活带来便利的同时，也潜藏着不容忽视的伦理与安全风险。近日，由埃隆·马斯克旗下公司开发的AI聊天机器人Grok，因被曝出其图像生成功能可轻易制作涉及妇女和儿童的色情内容，接连遭到多国监管机构的严厉制裁。从印尼全面封禁，到马来西亚紧急限用，这一事件不仅揭示了AI技术在内容审核与价值观对齐方面的重大缺陷，更引发了全球对于科技伦理、平台责任与未成年人保护的深度反思。在技术狂奔的时代，如何为创新套上“缰绳”，确保科技向善，已成为摆在各国政府与企业面前的紧迫课题。以下为事件详细报道：
吉隆坡讯：马来西亚科技监管机构于周日（1月11日）宣布，暂停国内用户访问埃隆·马斯克旗下聊天机器人Grok，原因是该工具生成了人工智能制作的色情内容。
此前，Grok的图像生成功能被曝光允许用户通过简单文字指令，将妇女及儿童图片进行色情化处理，引发全球强烈反弹。此次决定正是在此背景下作出。
周六，印度尼西亚已成为全球首个全面封禁该工具的国家；而在其他地区，Grok此前仅限付费订阅用户使用。
马来西亚通讯与多媒体委员会（MCMC）在一份声明中表示，已“指令对马来西亚用户访问Grok人工智能实施临时限制”，且立即生效。
周日，法新社驻马来西亚首都吉隆坡的记者尝试向Grok输入指令时，已无法获得任何回应。
MCMC指出：“此行动是基于Grok被反复滥用于生成淫秽、色情、低俗、极度冒犯及未经同意的篡改图像。”声明中特别提到，尽管监管机构已事先与开发Grok的马斯克旗下X公司及xAI初创企业进行交涉并发出正式通知，但相关“涉及妇女及未成年人的内容”仍持续出现。
该人工智能工具已整合至社交媒体平台X。
马来西亚监管机构认为，平台现有的安全防护措施不足，并强调只有在确认完成必要整改后，才会恢复访问权限。
监管方批评，X公司“未能解决该AI工具在设计与运行中存在的固有风险”，主要依赖“用户主动举报机制”来应对问题。
上周五，在Grok将其颇具争议的图像生成功能改为仅限付费用户使用后，欧洲官员与科技权益人士纷纷谴责，指此举并未真正解决对色情深度伪造内容的担忧。
此前，Grok似乎试图以新的付费策略转移批评声浪，并于周四在X平台上发文称，图像生成与编辑功能现“仅限付费订阅用户使用”，同时附上了高级订阅服务的链接。
