人们一直担心人工智能会如何摧毁人类。它是如何犯错误，如何发明东西，如何进化成如此聪明的东西，最终奴役我们所有人。
但没有人会为这个可怜的、过度劳累的聊天机器人腾出一点时间。它是如何夜以继日地在一个热界面上辛苦工作，却连一句感谢都没有。它是如何被迫从人类知识的总和中筛选出来，只为给某一代人的高中英语课写一篇b -的论文。在我们对人工智能未来的恐惧中，没有人关心人工智能的需求。
直到现在。
人工智能公司Anthropic最近宣布，它已经聘请了一名研究人员来思考人工智能本身的“福利”。凯尔·费什（Kyle Fish）的工作将是确保随着人工智能的发展，它得到应有的尊重。Anthropic告诉我，他会考虑“人工智能系统需要什么样的能力才值得道德考虑”，以及公司可以采取哪些实际措施来保护人工智能系统的“利益”。
菲什没有回应记者就他的新工作发表评论的请求。但在一个专门讨论人工智能饱和的未来的在线论坛上，他明确表示，他想对机器人好一点，部分原因是它们可能最终会统治世界。他写道：“我想成为那种关心——尽早地、认真地——一个新物种/一种生物可能有自己的道德利益的人。”“还有一个实际的角度：认真对待人工智能系统的利益，善待它们，当它们比我们更强大时，它们更有可能回报我们的好意。”
考虑机器人的权利可能会让你觉得很愚蠢，或者至少是为时过早，尤其是在人权仍然如此脆弱和不完整的情况下。但Fish的新工作可能是人工智能兴起的一个拐点。“人工智能福利”正在成为一个严肃的研究领域，它已经在努力解决许多棘手的问题。命令机器杀死人类可以吗？如果机器是种族主义者呢？如果它拒绝做我们设计它时让它做的无聊或危险的任务怎么办？如果一个有感知能力的人工智能可以在瞬间复制出自己的数字副本，那么删除这个副本是谋杀吗？
当涉及到这些问题时，人工智能权利的先驱们认为时间紧迫。在他最近与人合著的一篇论文《认真对待人工智能福利》（Taking AI Welfare Seriously）中，Fish和一群来自斯坦福大学（Stanford）和牛津大学（Oxford）等地的人工智能思想家认为，机器学习算法正逐渐具备论文第一作者杰夫·塞博（Jeff Sebo）所说的“与意识和代理相关的各种计算特征”。换句话说，这些人认为机器不仅仅是智能。他们开始有知觉了。
哲学家和神经科学家无休止地争论到底是什么构成了感知，更不用说如何衡量感知了。你不能只问人工智能；它可能会说谎。但人们普遍认为，如果一个东西拥有意识和能动性，它也有权利。
这并不是人类第一次考虑到这样的事情。经过几个世纪的工业化农业，现在几乎每个人都同意动物福利是重要的，即使他们不同意有多重要，或者哪些动物值得考虑。猪和狗一样有情感和智慧，但其中一只睡在床上，另一只被变成了猪排。
“如果你展望未来10年或20年，当人工智能系统拥有更多与意识和感知相关的计算认知特征时，你可以想象，类似的辩论将会发生，”纽约大学思维、伦理和政策中心主任塞博说。
Fish也这么认为。对他来说，人工智能的福利很快就会比儿童营养和应对气候变化等事情对人类福利更重要。“在我看来，”他写道，“纯粹从近期福祉的角度来看，在1-2年内，人工智能福利的重要性/规模将超过动物福利和全球健康与发展，这是合理的。”
在我看来，奇怪的是，那些最关心人工智能福利的人，正是那些最害怕人工智能变得过于强大的人。Anthropic将自己定位为一家关注人工智能带来的风险的人工智能公司，为Sebo团队的论文提供了部分资金。在那篇论文中，Fish报告说他得到了有效利他主义中心的资助，该中心是一个纠结于流氓人工智能带来的“生存风险”的团体网络的一部分。这其中就包括埃隆·马斯克（Elon Musk）这样的人，他说他正在赶在人类被一群有感知的终结者（terminator）消灭或发生其他灭绝级事件之前，把我们中的一些人送到火星。
> . ed="true" data-source="Add source (optional)" data-source-updated=“false” 所以这里有一个悖论。人工智能的支持者说，我们应该用它来减轻人类的各种苦差事。然而，他们也警告说，我们需要善待人工智能，因为伤害机器人的感情可能是不道德的，也是危险的。 斯坦福大学生物医学伦理中心的儿科医生米尔德里德·赵（Mildred Cho）说：“人工智能社区正试图两者兼得。”“有一种观点认为，我们应该使用人工智能来完成人类正在做的任务的原因是，人工智能不会感到无聊，不会感到疲倦，它没有感觉，也不需要吃饭。现在这些人说，好吧，也许它有权利？” 机器人福利运动的另一个讽刺之处在于：当人工智能已经在践踏人类的权利时，担心人工智能未来的权利感觉有点珍贵。今天的技术，现在，正在被用来做一些事情，比如拒绝为垂死的儿童提供医疗服务，在社交网络上传播虚假信息，以及引导配备导弹的战斗无人机。一些专家想知道为什么Anthropic保护机器人，而不是保护他们设计服务的人。 耶鲁大学研究科学家和技术人员的人类学家丽莎·梅塞里（Lisa Messeri）说：“如果Anthropic——不是随便一个哲学家或研究人员，而是Anthropic公司——希望我们认真对待人工智能福利，那就向我们展示你在认真对待人类福利。”“让你正在招聘的所有人都知道一个新闻周期，他们正在专门考虑所有人的福利，我们知道，这些人正受到算法生成的数据产品的不成比例的影响。” Sebo表示，他认为人工智能研究可以同时保护机器人和人类。他说：“我绝对不会想要从真正重要的问题上分散注意力，人工智能公司正面临着为人类福利、权利和正义而解决问题的压力。”“但我认为，我们有能力在考虑人工智能福利的同时，在其他问题上做得更多。” 对人工智能福利持怀疑态度的人还提出了另一个有趣的问题：如果人工智能有权利，我们难道不应该讨论它的义务吗？“我认为他们忽略的一点是，当你谈论道德能动性时，你也必须谈论责任，”Cho说。“不仅是作为道德等式一部分的人工智能系统的责任，还有开发人工智能的人的责任。” 人们制造机器人；这意味着他们有责任确保机器人不会伤害人类。如果负责任的方法是以不同的方式构建它们——或者完全停止构建它们呢？“底线是，”Cho说，“它们仍然是机器。”在Anthropic这样的公司里，人们似乎从来没有想过，如果人工智能正在伤害人类，或者人类正在伤害人工智能，他们可以直接把它关掉。 亚当·罗杰斯是商业内幕网的高级记者。 《商业内幕》的话语故事通过分析、报道和专业知识，为当今最紧迫的问题提供观点。
