虽然人工智能（AI）系统，如家庭助理、搜索引擎或ChatGPT等大型语言模型，可能看起来几乎无所不知，但它们的输出仅与它们接受训练的数据一样好。然而，易用性往往会导致用户在不了解使用了什么训练数据或谁准备了数据的情况下采用人工智能系统，包括数据中的潜在偏见或培训师持有的偏见。
宾夕法尼亚州立大学研究人员的一项新研究表明，提供这些信息可以塑造对人工智能系统的适当期望，并进一步帮助用户就是否以及如何使用这些系统做出更明智的决定。
这项工作调查了显示种族多样性线索——人工智能界面上的视觉信号，传达了训练数据的种族组成，以及标记这些数据的典型众包工人的背景——是否能提高用户对算法公平性和信任的期望。他们的研究结果最近发表在《人机交互》杂志上。
Evan Pugh大学教授、宾夕法尼亚州立大学社会责任人工智能中心主任S. Shyam Sundar表示，人工智能训练数据通常在种族、性别和其他特征方面存在系统性偏见。
“用户可能没有意识到，他们可能会通过使用某些人工智能系统来延续人类的偏见决策，”他说。
首席作者Cheng“Chris”Chen是伊隆大学传播设计助理教授，在宾夕法尼亚州立大学获得大众传播学博士学位，他解释说，用户通常无法评估人工智能系统中嵌入的偏见，因为他们没有关于训练数据或培训师的信息。
陈说：“这种偏见在用户完成任务后才会出现，这意味着伤害已经造成，所以用户在使用人工智能之前没有足够的信息来决定是否信任它。
桑达尔说，一个解决方案是传达训练数据的性质，特别是其种族构成。
“这就是我们在这项实验研究中所做的，目的是找出它是否会对他们对系统的看法产生任何影响，”Sundar说。
为了了解多样性线索如何影响对人工智能系统的信任，研究人员创建了两个实验条件，一个是多样化的，一个是非多样化的。在前者中，参与者观看了机器学习模型和数据标记实践的简短描述，以及一个条形图，该条形图显示了来自三个种族的训练数据中面部图像的均匀分布：白人、黑人和亚洲人，每个种族约占数据集的三分之一。
在没有种族多样性的情况下，条形图显示92%的图像属于单一的主导种族群体。同样，对于标签人的背景，保持了均衡的代表性，白人，黑人和亚洲标签人各占三分之一左右。在非多样化条件下，条形图显示92%的贴标签者来自单一种族群体。
参与者首先查看了显示人工智能面部表情分类工具HireMe的训练数据特征的数据卡。然后，他们观看了三名不同种族的同等资格的男性候选人的自动面试。人工智能系统实时分析候选人的中性面部表情和语气，并呈现给参与者，突出最突出的表情和每个候选人的就业能力。
一半的参与者在系统中看到了带有种族偏见的表现，因为实验人员操纵系统偏向白人候选人，将他的中性表情评为快乐和适合这份工作，而将黑人和亚裔候选人的表情分别解读为愤怒和恐惧。
在无偏见条件下，人工智能将喜悦识别为每个候选人的突出表情，并同样指出他们适合该职位。然后，参与者被要求对人工智能的分析提供反馈，以五分制对他们的同意进行评分，如果他们不同意，则选择最合适的情绪。
陈说：“我们发现，在训练数据和标注者的背景中显示种族多样性，增加了用户对人工智能的信任。”“提供反馈的机会也有助于参与者培养更高的能动性，并增加他们未来使用人工智能系统的潜力。”
然而，研究人员指出，提供关于公正系统的反馈会降低白人参与者的可用性。因为他们的看法是系统已经正确和公平地运作，他们认为没有必要提供反馈，并将其视为不必要的负担。
研究人员发现，当存在多个种族多样性线索时，它们是独立工作的，但数据多样性和标注者多样性线索都有效地塑造了用户对系统公平性的看法。研究人员强调了代表性启发式的思想，这意味着如果人工智能模型的种族组成与他们对多样性的理解相匹配，用户倾向于认为人工智能模型的训练具有种族包容性。
“如果人工智能只是学习主要由一个种族的人标记的表情，那么该系统可能会误解其他种族的情绪，”桑达尔说。桑达尔也是宾夕法尼亚州立大学贝利萨里奥传播学院（Penn State Bellisario College of Communications）的詹姆斯·p·吉米罗（James P. Jimirro）媒体效果教授，也是媒体效果研究实验室的联合主任。
“例如，在决定一张脸是高兴还是生气时，该系统需要考虑种族因素，这在训练过程中表现为图像和标签的种族多样性更大。”
根据研究人员的说法，为了使人工智能系统可信，必须提供其训练数据的来源，以便用户可以审查和仔细检查它，以确定他们的信任程度。
桑达尔说：“使这些信息可访问促进了人工智能系统的透明度和问责制。”“即使用户不访问这些信息，它的可用性也标志着道德实践，并促进了这些系统的公平和信任。”
更多信息：Cheng Chen等，《沟通和对抗算法偏差：数据多样性、标注者多样性、性能偏差和用户反馈对AI信任的影响》，人机交互（2024）。DOI: 10.1080/07370024.2024.2392494由宾夕法尼亚州立大学提供引用：在训练数据中显示AI用户的多样性可以提高感知的公平和信任（2024年，10月21日）检索自https://techxplore.com/news/2024-10-ai-users-diversity-boost-fairness.html。除为私人学习或研究目的而进行的任何公平交易外，未经书面许可，不得转载任何部分。内容仅供参考之用。
