每天每分钟梳理社交媒体上数百万条帖子，以确保它们不会对国家构成威胁，这是马来西亚通信多媒体委员会(MCMC)的艰巨任务。
该公司首席网络安全官拿督博士穆罕默德·苏莱曼·苏丹·苏海布丁表示，截至4月22日，在被标记的65650个帖子中，有多达48696个被认为是煽动性的帖子被删除。
这只是冰山一角，因为MCMC必须仔细审查每个帖子，以确定是否存在仇恨，挑衅或3R(种族，宗教和皇室)违规。
虽然人工智能(AI)在协助MCMC检测“挑衅行为”方面取得了巨大飞跃，但他表示，仍需要人为干预来验证其发现。
这是由于马来西亚独特的社会景观，在该国复杂的文化和非正式语言中训练人工智能并不容易。
虽然在马来西亚运营的大多数社交媒体平台都没有在这里获得许可或注册，但穆罕默德·苏莱曼表示，委员会有权对违反马来西亚法律或MCMC指导方针的内容向这些平台运营商提出担忧。
“撤下内容的决定最终取决于平台自己，取决于他们自己的社区指导方针，”他说。
他补充说，虽然MCMC维护马来西亚人健康讨论和言论自由的权利，但有一些方法可以在不煽动公众恶作剧或诽谤他人的情况下做到这一点。
穆罕默德·苏莱曼说，删除被认为是“挑衅性内容”的帖子不是一个自动的过程，因为有一个上诉和补救的过程。
“挑衅性内容通常被定义为可能引起冒犯、仇恨或暴力的材料。它可以是主观的，但涉及敏感问题，如3R和煽动暴力或歧视的内容被MCMC视为挑衅。
他补充说:“MCMC主要针对违反1998年《通信和多媒体法》(CMA)的内容，特别是第233条(冒犯性内容)和第211条(可能造成公众恶作剧的多媒体内容)。”
对于可能属于其他法律(例如煽动法令)管辖的内容，MCMC可能会与对这些特定罪行有管辖权的相关执法机构合作。
“这些机构可能会采取适当的法律行动。
“MCMC可以根据内部监控或公众或执法部门的投诉发起内容删除。
“我们优先考虑那些构成明确和现实危险的内容。
“在删除之前，我们将调查内容的性质和潜在影响。在下架过程中，MCMC会向相关平台发出下架通知。升级可能并不总是导致内容被平台删除。
他说:“拆除后，MCMC会监控情况，必要时可能会采取法律行动。”
他还指出，如果内容被删除，内容创作者可以向委员会提出上诉。
“如果内容被认为不是真正的挑衅，恢复是可能的，”他补充说。
由于需要监控的内容太多，MCMC正在努力开发一个人工智能门户网站，以帮助它识别“挑衅性”。
“人工智能门户网站使用自然语言处理和图像或音频识别来分析各种格式的潜在挑衅内容。该项目目前处于概念验证阶段。
“人工智能门户的准确性正在不断提高。人工分析人员审查标记的内容，以确保采取适当的行动。
该门户网站结合了人工智能算法和人类专业知识。然后，MCMC分析师将审查人工智能标记的内容，以做出最终决定。”
他说，由于马来西亚有许多文化、种族和宗教，因此具有独特的社会景观，人工智能模型必须进行调整，以更好地了解当地背景和非正式语言的使用。
“MCMC正在审查其人工智能模型，以确保它符合预期标准，以充分支持符合法律框架的内容识别。
“目标是在内容监管和言论自由之间取得平衡。在这个阶段，人工智能被用来协助识别，而且仍然需要人类的专业知识来确认。”
网络安全顾问方仲福(Fong Choong Fook)对此表示赞同，他说，如果没有人为干预，人工智能本身无法用于检测“挑衅”、真相或神话。
“从本质上讲，人工智能只是一个工具。人工智能不能用来验证帖子的真假。
“你仍然需要人类训练人工智能来知道新闻是否属实。例如，如果有一个帖子说一个公众人物已经提出辞职，人工智能无法判断这是否属实，直到一个人告诉人工智能模型这是事实还是错误。
“话虽如此，人工智能很擅长检测人工智能自己写的文章。至于这是神话还是事实，人工智能不可能完全靠自己做到这一点，”方说，他也是LGMS公司的创始人和执行主席。
×
