You Must Build Workplace AI Behind A Veil Of Ignorance

在约翰·罗尔斯1971年具有开创性的著作《正义论》中，他提出了一种思想实验，我们应该将其作为当今人工智能设计和使用决策的核心：无知的面纱。这一理念为理解公平提供了一个简单的工具，也为领导者如何利用这种理解来公平地设计和实施人工智能提供了一个蓝图。

设想一下，您正在为一个新的社会制定规则。但有一个前提：您事先不知道自己在这个社会中将扮演什么角色。您最终可能富有或贫穷，健康或残疾，属于多数派或边缘少数群体。在这种“无知的面纱”下运作，可以防止规则制定者做出有利于自身的决策。相反，人们会更有动力制定公平的规则，以保护基本权利，确保机会对所有人开放，并为弱势群体提供额外支持。

罗尔斯提出，公正的制度是人们在不知道这些制度如何给自己带来优势或劣势的情况下都会同意的制度。其理念是，公平在于构建所有群体——无论强大与否——都认为可以接受的结构。期望那些个人利益攸关的人压制自身利益是不合理的。因此，需要“无知的面纱”。

在传统的政策制定中，罗尔斯的思想实验为医疗保健设计等问题的辩论提供了重要的视角。如今，随着人工智能开始影响招聘、晋升以及无数其他工作场所人事决策，无知的面纱提供了一个重要的指导：仿佛您不知道自己是否会被人工智能系统评判，以此来构建人工智能系统。

人工智能结果与对其公平性的结论之间日益扩大的差距

尽管人工智能拥有无限潜力，但它并非天生就在遵循罗尔斯主义原则。相反，当今大多数人工智能系统都在加剧历史上的不平等，而不是纠正它们。为什么？因为人工智能从历史数据中学习——这些数据反映了过去的偏见、盲点和不公正。例如，在一个经过数十年企业招聘决策训练的人工智能系统中，它可能会“学习”偏好拥有精英大学学历、西方名字或传统职业道路的简历——并非因为这些品质在今天应该被优先考虑，而是因为历史上它们受到青睐。更糟糕的是，大多数人工智能工具都像黑箱一样运作：它们的决策过程不透明，其偏见难以察觉，直到造成损害之后才被发现。

领导者必须承认，除非刻意设计，否则人工智能不会在“无知的面纱”下运行。它会反映和强化现有的社会不平等，而不是想象一个公平至关重要的世界。好消息是，企业可以设计出近似于罗尔斯公平原则的人工智能系统。然而，这需要在每个阶段做出有意识的选择：数据整理、算法设计、决策审计和人工监督。

如前所述，招聘是公司热切希望应用人工智能的常见领域。仔细审查申请可能是一项令人厌烦的任务；疲劳或无聊可能会导致错误，许多流程元素都是例行公事。不难看出，简历筛选工具、视频面试分析器和技能评估算法提高招聘速度和效率的潜力是如此诱人。然而，如果不考虑“无知的面纱”的隐喻，它们很容易产生不公平的结果。

考虑一个传统的人工智能招聘系统。一家公司用历史招聘数据训练其模型，向其输入数千份简历和结果。如果这些数据反映出对从几所精英大学招聘白人男性的偏见，那么人工智能将“学习”这些模式——并使其延续下去。它将偏好与历史概况相符的申请者，而不管其技能或潜力如何，都会惩罚那些不符合条件的申请者。这正是罗尔斯会警告的那种不公平——也很容易看出谁可能会被这种设计困扰，谁可能不会。

在人工智能中采用罗尔斯主义原则不仅仅是伦理问题——从长远来看，它无疑将成为竞争优势的问题。设计公平人工智能系统的公司将能够利用更广泛的人才库，建立更有趣和更具创新性的团队，在一个日益怀疑企业偏见的世界上增强其声誉，并在政府审查人工智能歧视时降低法律和监管风险。

现在就创造一个无知的面纱

约翰·罗尔斯挑战我们设想在“无知的面纱”下构建社会——制定无论我们的命运如何都能接受的规则。当领导者将人工智能部署到人类生活的关键领域时，同样的挑战也摆在他们面前。人工智能无法自然地体现公平。它必须被教导和训练去做。

只有当那些被赋予权力来构建控制许多人命运的人工智能系统的人们接受罗尔斯的见解时，我们才有机会避免过去的错误，创造一个更加公正、充满活力和繁荣的未来。“无知的面纱”不仅仅是哲学。它是构建和部署值得人类信任的人工智能的必要视角。

The above is the detailed content of You Must Build Workplace AI Behind A Veil Of Ignorance. For more information, please follow other related articles on the PHP Chinese website!