【编者按】在人工智能浪潮席卷全球的今天，科技伦理的警钟正以前所未有的力度敲响。当AI绘图工具能一键生成逼真图像时，罪恶的触角也悄然伸向最脆弱的群体——儿童。最新数据显示，AI生成的儿童性侵材料同比激增超100%，其中涉及性暴力、兽交等最恶劣内容占比飙升至56%。这不仅是技术失控的警报，更是文明社会的耻辱烙印。英国即将推出的新法规试图从源头构筑防火墙，允许专业机构提前测试AI模型的安全底线。但这场守护未来的战役，需要更锋利的法律之剑与更坚定的行业担当。当我们谈论技术创新时，绝不能以牺牲下一代为代价。
根据一项新提案，打击AI生成儿童性侵材料的机构将获得更大权限来保护网络环境中的未成年人。
像互联网观察基金会（IWF）这样的组织以及AI开发者自身，将能合法测试AI模型生成此类内容的能力。
IWF首席执行官凯瑞·史密斯指出，这意味着他们可以从源头解决问题，而非等到非法内容出现后才采取行动。
该基金会每年处理数十万条网络儿童性侵影像资料。
史密斯称这项立法是”确保AI产品上市前安全性的关键一步”。
新规如何落地？
该修正案将于今日提交至《犯罪与警务法案》审议。
政府表示指定机构可包括AI开发者和儿童保护组织，并将组建专家团队确保测试”安全可靠”。
新规还意味着可以对AI模型进行审查，确保其不生成极端色情或非自愿私密影像。
科技大臣莉兹·肯德尔强调：”这些新法律将确保AI系统在源头实现安全防护，堵住可能危害儿童的漏洞。”
“通过授权可信机构监督AI模型，我们将儿童安全植入系统内核，而非事后补救。”
AI作恶激增令人震惊
最新数据显示，过去一年AI生成的儿童性侵材料举报量暴增超一倍。
在此期间，内容恶劣程度持续升级。
涉及性侵、兽交、性虐待的最严重A类内容从2621条飙升至3086条，在非法材料中占比从41%跃升至56%。
数据显示94%的AI生成非法影像针对女童，成为重点受害群体。
英国防止虐待儿童协会呼吁强化立法，强制AI企业接受测试。
该机构网络安全政策主管拉尼·戈文德指出：”推动AI行业承担模型审查责任、防止平台生成儿童性侵材料的新法规令人鼓舞，但要真正保护儿童，这不能仅是可选动作。”
“政府必须强制要求开发者履行防护义务，让防范儿童性侵害成为产品设计的核心环节。”
本文由万更网原创发布，未经许可，不得转载！
本文链接：https://m.fdsil.com/b/22857.html
