一年半前，Netflix 发布了《社会困境》，这是一部挖掘社交媒体有害后果的纪录片。想想政治两极分化、 错误信息的传播，以及多个人口统计数据中焦虑和抑郁的上升。前谷歌设计伦理学家、人文科技中心联合创始人特里斯坦哈里斯是影片的核心人物。本周在South By Southwest的一次会议上，哈里斯谈到了我们应该采取的步骤，以使这项技术以及我们与它的关系走向一个健康的地方，或者正如他所说，我们需要引导技术和我们的未来的智慧。
哈里斯以生物学家爱德华·威尔逊（ Edward O. Wilson ）的话开头，他说：“人类的真正问题如下：我们有旧石器时代的情感、中世纪的制度和神一般的技术。这是非常危险的，现在整体上已经接近危机点。”
换句话说，技术进步太快，我们的大脑无法跟上并知道如何健康地与之互动，或者我们的机构无法理解它并明智地对其进行监管。
2009 年，威尔逊在哈佛自然历史博物馆的一场辩论中说了这些话；也就是说，在 Instagram 和 Tiktok 等平台或 deepfakes、文本生成器、 CRISPR等技术以及其他有可能改变人类（无论好坏）的技术被广泛采用之前。
特里斯坦哈里斯在 SXSW 2022
我们现在拥有的算法可以根据文本生成逼真的图像，从山上的日落到乌克兰被炸毁的建筑物。我们有GPT-3 ，它可以写一篇令人信服的论文，论证 mRNA 疫苗不安全，引用的真实事实只是断章取义。哈里斯说：“这就像是互联网上信任的中子弹。” “而且世界的复杂性每天都在增加。”然而，我们的反应能力并不匹配。
过去被认为彼此分开的问题（或过去不存在的问题）现在紧密相连；考虑错误信息和合成媒体可能对核升级产生的影响（以及它们已经对选举和民主产生的影响），或者人工智能与全球金融风险之间的联系。
面对这种新的复杂性，我们之前关于如何管理技术的想法还不够好；当涉及多个参与者、问责制低、每个人对“正确”的定义不同时，我们如何处理隐私或言论自由等问题？ “技术一直在削弱人类的智慧能力，”哈里斯说。 “不仅仅是个人，而是我们以我们需要的智慧运作的集体能力。”
他说，智慧意味着了解我们实际工作方式的局限性，具有自我意识和谦逊的探究精神，以及能够从系统和根本原因的角度进行思考。 Harris 引用了环境科学家 Donella Meadows 所著的Thinking in Systems一书，其中详细介绍了干预系统的 12 个杠杆点——即将系统的工作方式从当前状态更改为其他状态。在哈里斯看来，梅多斯与科技对话最相关的观点是超越范式的力量。
科技行业中每一种让我们走到现在的思维范式都应该通过以人为本的焦点进行彻底改革。我们不应通过断言总是有成本和收益来摆脱技术的危害，而应该专注于将有害的外部性最小化。我们必须尊重人类的弱点和脆弱性，而不是给用户他们想要的东西（例如，社交媒体平台利用大脑多巴胺反应的方式）。与其最大化个性化来为用户提供令人满意的体验（也称为创建我们自己独特的小回音室），我们应该努力创造共同的理解。
问题是，我们如何让更多的人从社交媒体和其他技术的典型用户转变为哈里斯所说的人道技术专家？
首先是提高认识和教育我们自己。哈里斯和他在人道技术中心的团队创建了一个名为“人道技术基础”的在线课程，该课程让注册者了解六个以价值观为中心的原则，如果我们在设计新技术（或改变现有技术的设计）时优先考虑它们，可以改善我们个人和作为一个相互关联的社区的体验。
“我们希望有 100,000 名人道技术人员接受过这种新范式的培训，”哈里斯说。 “当你觉得自己是唯一一个提出这些问题的人时，很难去想这些事情。”
我们正处于一个转折点，对于那些从事技术工作的人来说，帮助建立共同理解至关重要；世界不会变得不那么复杂或不稳定。相反，哈里斯预测，我们正在进入一个由气候变化、不平等和不稳定的政治体制等因素推动的全球灾难不断增加的时期。
需要承担很多，甚至需要考虑很多。但是，哈里斯说，他有希望，因为他看到过去几年系统的变化比以往任何时候都快得多。从前 YouTube 工程师Guillaume Chaslot到 Facebook 联合创始人Chris Hughes再到前 Facebook 数据科学家Frances Haugen等等，来自科技行业的人们都公开谈论过他们帮助创建的产品的风险和危害。 “技术人员实际上正在醒来并说，’我不想参与这个行业的有毒部分，我想帮助建立一个更好的部分，’”哈里斯说。
回到威尔逊的名言，哈里斯提出以下建议：我们需要拥抱旧石器时代的情感，升级我们的中世纪制度，并拥有运用我们神一样的技术的智慧。我们需要能够理解世界，让来自不同方面的人们走到一起，就我们应该采取的行动达成一致——然后采取行动。不应该存在依赖于分裂人的商业模式。 “我们需要每个人都努力帮助我们缩小差距，”哈里斯说。
图片来源：Unsplash 上的Rodion Kutsaev
来源： https://singularityhub.com/2022/03/14/its-not-too-late-to-replace-toxic-tech-with-humane-technology/