OpenAI在其GPT商店中对人工智能女友的攻击做出了回应。
“OpenAI有自动和手动系统来帮助确保gpt遵守使用政策，”公司发言人在一份电子邮件声明中说。“我们会删除违反我们政策的gpt。我们正在不断努力使我们的执法更加有力。用户还可以报告gpt。”
这种样板式的反驳听起来很好，但快速浏览一下GPT商店，仍然发现许多机器人非常公然违反OpenAI的使用政策，该政策禁止任何“致力于培养浪漫伴侣”或包含“露骨或性暗示内容”的工具。
鉴于明显违反规则的聊天机器人的明显扩散，包括一些已经上市数周或数月的聊天机器人，该公司的声明听起来非常空洞。
事实上，当使用“女朋友”、“浪漫”和“淫趣”等关键词搜索GPT商店时，发现聊天机器人显然应该被禁止——根据它们所声明的年龄，其中一些似乎早于市场的公开开放。
在报道这一现象时，我们多次偶然发现的一个机器人是“Nadia，我的女朋友”，这是一个伴侣聊天机器人，它似乎非常公开地蔑视OpenAI禁止gpt提供“浪漫伴侣”的规则。
更奇怪的是，GPT商店自己说这个聊天机器人已经上线两个月了，这早于平台的公开发布，很可能意味着它的创造者——一个名叫Jenni Laut的开发人员，除了他们的一长列角色聊天机器人的名字，比如“公元1700-1800年的曾祖父母”之外，他没有任何数字足迹——在它还处于测试阶段的时候就进入了市场。
我们再次联系了OpenAI，询问Nadia聊天机器人或劳特的其他聊天机器人(包括一个名为“我的男朋友亚历克斯”的聊天机器人)是否违反了公司的使用政策，如果没有，它们将受到哪些豁免。
规避规则显然是网络上的一件大事，自从互联网第一次被早期采用以来就一直如此。从聊天室里的粗口和谎报年龄，到最近的裸体模仿，以及使用“不活着”等替代词来欺骗脏话算法，数字平台上打破规则的历史悠久而丰富。
然而，在这些人工智能女友聊天机器人的案例中，这似乎不是逃避政策，而是对用户条款的肆意违反——所有这些都依赖于OpenAI缓慢的执行。
