人工智能伦理学家警告说，人工智能的兴起可能会带来甚至一个人的动机的商品化。剑桥大学 Leverhulme 智能未来中心的研究人员在周一发表在《哈佛数据科学评论》杂志上的一篇论文中表示，聊天机器人和虚拟助手等生成式人工智能的兴起伴随着增加说服性技术站稳脚跟的机会。未来智能中心访问学者雅库布·乔杜里 (Yaqub Chaudhary) 表示：“我们正在花费大量资源在生活的各个领域部署人工智能助手，这应该会引发一个问题，这些所谓的助手到底是为谁的利益和目的服务的？” ，在一份声明中说。研究人员表示，当与人工智能聊天机器人（范围从数字导师到助理，甚至浪漫伴侣）进行随意互动时，用户会分享私密信息，使技术能够获取个人“意图”，例如心理和行为数据。乔杜里补充道：“人们在交谈时所说的话、如何说，以及由此可以实时做出的推论类型，都比在线互动的记录更加亲密。”作者认为，事实上，人工智能已经通过模仿用户说话的方式或预测他们可能的反应方式来巧妙地操纵和影响动机。这些对话虽然看起来无害，但却为技术在决策制定之前进行预测和影响决策敞开了大门。乔杜里说：“我们警告说，人工智能工具已经被开发出来，用于引出、推断、收集、记录、理解、预测，并最终操纵和商品化人类的计划和目的。”
在 Slashdot 上阅读这个故事的更多内容。