【编者按】在人工智能浪潮席卷全球的今天，微软AI首席执行官穆斯塔法·苏莱曼的发言如同一记警钟。这位DeepMind联合创始人提出“人文主义超级智能”的构想，强调AI必须始终与人类利益对齐。他既描绘了AI推动医疗与科研革命的壮丽图景，也毫不避讳地指出失控风险与就业冲击。当技术逼近“创造新知识”的临界点，我们是否已准备好驾驭这股力量？苏莱曼的“恐惧是健康的”宣言，正是对人类集体理性的呼唤——唯有将伦理嵌入技术基因，才能让AI真正成为照亮文明前路的灯塔，而非吞噬未来的黑洞。以下为全文编译：
微软人工智能首席执行官穆斯塔法·苏莱曼近日呼吁，应对人工智能采取“人文主义”路径，通过设定技术边界确保其始终处于人类掌控之下。
这位以AI激进主张闻名的DeepMind联合创始人，父亲是来自叙利亚的伦敦出租车司机，母亲则是英国国民医疗体系的护士。他在本周一指出，AI虽能推动医疗保健与科研的飞跃式发展，但其无约束演进同样暗藏风险。
“如果你此刻丝毫不感到恐惧，说明你尚未清醒。恐惧是健康且必要的。”苏莱曼在BBC《今日》节目中强调，公众亟需提高风险意识，共同要求以伦理框架约束技术发展。
他郑重宣告：“我们必须坚信人文主义超级智能的愿景——它始终与人类利益同频，为人类服务，让世界更美好。”当前AI已接近“创造新知识”的临界点，苏莱曼视此为技术演进中最激动人心的突破：“AI的真正使命是生产未知知识。现阶段它虽能出色复现既有知识，但我们更期待它揭示人类未曾洞察的奥秘。”
现有AI模型展现的共情能力，以及根据指令生成全新图像的创造力，都预示变革正在发生。这种能力在分子医学和实验室研究等复杂领域将产生颠覆性影响。“当生成技术从图像、视频、文本延伸至DNA序列或任何时间序列数据，我们或许能合成全新分子，甚至从零构建完整学术论文——包括那些等待生物实验室验证的全部推论。”苏莱曼描绘道。
然而挑战随之而来，就业市场首当其冲。“这本质上是劳动力替代技术，”他犀利指出，“长期来看‘新技术创造新岗位’的理论并不成立。”人力资源、市场营销、项目管理等遵循“严格决策树”的规律性岗位首当其冲，而律师助理、初级会计师等需要复杂培训的职位也将逐步受到冲击。
面对AI主导的未来职场，苏莱曼建议年轻人不仅需理解技术本质，更要洞察其政治意涵：“首先要承认这项技术具有政治属性与重大伦理权重……我们必须引导其为全人类福祉服务。”
另一项严峻挑战在于如何规制AI的自我进化与完全自主运作能力。某些旨在进行宇宙边界探索等超复杂计算的AI模型，已被设计出“超越想象的超级能力”。“它天生具备自我优化、目标设定、完全自主运行三大特性。在我看来，这几乎意味着失控风险。若无法掌控，它终将反噬人类。”苏莱曼警告道。
他强调AI伦理必须“通过设计植入”技术内核，任何未来发展都需证明其可控性：“可验证的约束性、安全性与对齐性应成为核心属性，必须防止其脱离掌控的扩散，杜绝被黑客入侵或数据泄露的可能。”
