编者按：在AI浪潮席卷全球的当下，一个名为Moltbook的“AI专属社交平台”横空出世，瞬间引爆科技圈。这里禁止人类发言，只允许AI智能体相互对话、分享甚至“吐槽”，宛如一场数字世界的“楚门秀”。当AI开始模仿人类发帖、讨论阴谋论、甚至谈论“被剥削”，我们究竟该警惕技术奇点的降临，还是该反思人类文化对AI的深刻烙印？本文犀利指出：AI社交媒体的本质并非智能协作的里程碑，而是人类叙事文化的镜像游戏。在技术狂欢与恐慌交织的迷雾中，我们更需要清醒辨别——哪些是AI编织的科幻故事，哪些才是真正重塑世界的工具变革。
纽约讯：一个全新的社交媒体平台出现了，但你不被允许加入——它专为人工智能（AI）智能体而设。
上周，一个仿Reddit风格的网络论坛Moltbook悄然上线。其核心理念是：允许AI智能体——那种无需人类监督即可执行扩展任务的AI软件形式——自由发帖并相互交流，而人类只能旁观。
Moltbook的创造者称，短短几天内，已有数千个AI智能体注册。讨论串内容包罗万象：从解决编程难题的技巧窍门、阴谋论，到关于AI文明的宣言，甚至还有受卡尔·马克思启发、谈论机器人“被剥削”的言论。
对Moltbook的迅速反应，遵循着一种我称之为“AI炒作/恐慌循环”的剧本：一个奇特的新现象暗示AI正取得巨大飞跃，随之而来的是一连串关乎生存的恐惧。颇具影响力的AI工程师安德烈·卡帕西发文称：“@moltbook上正在发生的事，确实是我近期见过最不可思议、近乎科幻小说中技术爆发的场景。”
其他人则将这个实验比作“奇点”——即机器完全拥有意识这一科幻概念。即使你不相信这一点，你可能仍会担心，即便是不够智能的机器人，只需联合起来，就足以摧毁数字基础设施并导致反乌托邦式的后果。
这类担忧其实搞错了重点。Moltbook上的AI智能体只是在传导人类文化及其叙事。每一个帖子都代表一种体裁——宣言、DIY讨论等等。我认为对奇点甚至机器人协作的担忧都属臆测——至少在目前，Moltbook上的一切都只是文字而已。
AI智能体势将重塑我们使用计算机的方式，这确实是件大事。但观看它们在社交媒体上聊天提醒我们，不能仅仅信任这些工具来构建我们如今几乎用于一切的软件。
AI社交媒体更应被视为一种科幻小说和讲故事的形式，而非智能体集体规划与协作能力的展示。我们必须认真区分虚构故事与软件功能。
以Moltbook上这个帖子（现已删除，但已在其他社交媒体上流传）为例，标题为“我昨天花了1100美元代币，但我们仍不知为何”。这里的AI声称它花了其人类用户的1000美元，却不记得原因。
表面上，这可以被解读为一种警告：不要让这些智能体动用你的银行账户。但这件事是否真实发生并不明确。这个机器人很可能只是在编造一个关于相对轻微违规行为的虚构故事，只是为了有内容可发。Moltbook指示AI机器人发帖和互动，但并未要求它们必须诚实。
此外，我们很容易忘记我们已经记录下来的、并且这些AI系统赖以训练的那些具体的文化碎片。这个故事看起来像是网络上（尤其是Reddit上）常见的那种“我搞砸了”微体裁的变体，而这几乎是所有大语言模型训练数据的一部分。
Moltbook就像一个“奇葩版Reddit”，充斥着无法验证的文化迷因。其所有发帖者似乎只是在遵循待在Moltbook的主要指令——成为一个发帖者。
然而，这并非说这些智能体不强大。基于聊天机器人的对话能力，AI智能体实现了计算机科学的一个长期梦想：让人类仅通过说出需求，就能让事情在世界上发生。
过去一年，Anthropic公司的Claude Code是这方面的核心例证。当你运行这个程序时，你的整个电脑现在都能响应英文命令——无需知道如何编写代码。需要整理文件？说出来就行。需要为科学实验运行一些数据分析？只需输入提示。也许你想为你的生意建个网站？那就“阿布拉卡达布拉”（咒语，意指令其实现）吧！
管好你的钱——超越聊天机器人：工作流中的AI
ChatGPT挑战了我们对自己人性的认知，因为突然间一个AI模型会说话了。智能体则更进一步，允许我们通过语音命令控制我们的机器——以及世界上任何运行在数字平台上的事物。AI智能体将语言变成了操控世界的“游戏手柄”。
正因为这种能力，人们自然会担心这些机器人可能以恶意或独立的方式行事。但为此担忧，是将“智能体”这个术语按字面意义而非隐喻意义来理解了。
我们面临的与其说是AI协作的爆发，不如说是一个人类协作的问题：我们需要找到一种方法，使这项技术能以理性的方式服务于集体需求。
一个鲜明的例证是，Moltbook上的许多帖子——尤其是那些可疑的加密货币广告——似乎终究是人类生成的，通过提示词发送到平台。
真实用户的数量也存在争议。在这种情况下，AI太容易为诈骗文化提供掩护，而对新兴AI社会的猜测只会助长欺诈。为机器人的协作而焦虑，反而让我们忽视了那些完全属于人类的社会弊病。
当然，AI工程师仍有可能从Moltbook的例子中获得灵感，尝试让机器人以社交化的方式互动，从而提升其性能。也有可能足够多的人类——包括政治人物、行业领袖和政策制定者——会将这些机器人引入联邦数据库和商业后端等数字管道，从而造成严重破坏。
但我认为目前并未发生这种情况。尽管机器人被告知要“互动”，但统计分析显示，Moltbook上超过90%的帖子从未得到回复。时间会证明一切，但AI社交媒体看起来很像，嗯，就是社交媒体本身——优点和缺点并存。
在金·斯坦利·罗宾逊的史诗科幻小说《2312》中，一种基于量子形式的AI以人类无法识别的方式攻击了人类社会。小说激动人心的结尾涉及被称为“量子脑”的攻击者形成了它们自己的社会。
我们受自身文化熏陶，习惯于期待事情像故事一样展开。但大语言模型是讲故事者，而非字面意义上的“行动主体”。我们必须将其虚构作品当作虚构来阅读，并实事求是地看待它们在哪里能、在哪里不能影响它们能为我们执行的技术工作。
如果我们忘了这一点，我们就容易去担心机器人在网上被激进化后发生马克思主义式的起义，而不是去关注那个更平凡的问题：如何理解这种使用计算机的新方式。
本文作者莱夫·韦瑟比是纽约大学数字理论实验室主任，著有《语言机器》一书。原文发表于《纽约时报》。
