人类群体如何协同工作应该重新分配他们创造的财富是困扰哲学家、经济学家和政治科学家多年的问题。 DeepMind 的一项新研究表明，人工智能可能能够做出比人类更好的决策。
事实证明，人工智能越来越擅长解决从商业到生物医学等方方面面的复杂挑战，因此使用它来帮助设计社会问题解决方案的想法很有吸引力。但这样做很棘手，因为回答这类问题需要依赖高度主观的想法，如公平、正义和责任。
要使 AI 解决方案发挥作用，它需要与它所处理的社会价值观保持一致，但当今存在的政治意识形态的多样性表明这些远非统一。这使得很难确定应该优化什么，并引入了开发人员的价值观对过程结果产生偏见的危险。
人类社会已经找到处理这些问题上不可避免的分歧的最佳方式是民主，其中大多数人的观点被用来指导公共政策。因此，现在 Deepmind 的研究人员开发了一种新方法，将 AI 与人类民主审议相结合，为社会困境提出更好的解决方案。
为了测试他们的方法，研究人员使用一个简单的游戏进行了概念验证研究，在该游戏中，用户决定如何共享资源以互惠互利。该实验旨在充当人类社会的缩影，在这个社会中，不同财富水平的人们需要共同努力，创造一个公平繁荣的社会。
该游戏涉及四名玩家，他们各自收到不同数量的资金，并且必须决定是将其留给自己还是将其支付给产生投资回报的公共基金。然而，这种投资回报的重新分配方式可以进行调整，使一些参与者受益于其他参与者。
可能的机制包括严格的平等主义，无论贡献如何，公共资金的回报均等分享；自由主义者，支出与贡献成比例；和自由平等主义，每个参与者的支出与他们贡献的私人资金的比例成正比。
在《自然人类行为》杂志上发表的研究中，研究人员描述了他们如何让一群人在不同程度的不平等和使用不同的再分配机制下进行多轮游戏。然后他们被要求投票决定他们喜欢哪种分配利润的方法。
这些数据被用来训练人工智能模仿游戏中的人类行为，包括玩家投票的方式。研究人员在数千场比赛中让这些 AI 玩家相互对抗，而另一个 AI 系统根据 AI 玩家的投票方式调整了重新分配机制。
在这个过程的最后，人工智能已经确定了一种类似于自由平等主义的再分配机制，但几乎没有任何回报给玩家，除非他们贡献了大约一半的私人财富。当人类在游戏中将这种方法与三种主要的既定机制进行对比时，人工智能设计的机制始终如一地赢得选票。它也比由人类裁判决定如何分享回报的游戏表现得更好。
研究人员表示，人工智能设计的机制可能运行良好，因为基于相对而非绝对贡献的支付有助于纠正最初的财富失衡，但强制最低贡献可以防止不太富有的玩家简单地搭便车。
将这种方法从简单的四人游戏转化为大规模的经济系统显然是非常具有挑战性的，而且它在这样的玩具问题上的成功是否表明它在现实世界中的表现还不清楚。
研究人员自己确定了几个潜在问题。民主的一个问题可能是“多数人的暴政”，这可能导致现有的歧视或对少数群体不公平的模式持续存在。它们还提出了可解释性和信任问题，如果人工智能设计的解决方案能够应用于现实世界的困境，这将是至关重要的。
该团队明确设计了他们的 AI 模型以输出可以解释的机制，但如果将该方法应用于更复杂的问题，这可能会变得越来越困难。玩家也没有被告知何时重新分配由人工智能控制，研究人员承认这些知识可能会影响他们的投票方式。
然而，作为第一个原则证明，这项研究展示了一种解决社会问题的有前途的新方法，它结合了人工智能和人类智能的优点。我们距离机器帮助制定公共政策还有很长的路要走，但人工智能似乎有朝一日可以帮助我们找到超越既定意识形态的新解决方案。
图片来源： harishs / 41 张图片