我今天再次旅行，所以我想我应该重新发布这个子堆栈的早期内容。早在 2020 年底，我就勾勒出一种理论，即现代技术可能如何导致全球权力的转变，有利于极权国家而不是自由国家。简而言之，其基本思想是社交媒体可能会让民主国家陷入不稳定和混乱，而人工智能则允许极权政府比以往任何时候都更严格地控制民众。
三年过去了，我仍然像那时一样担心。支持巴勒斯坦的抗议活动正在震撼西方城市和大学校园，对唐纳德·特朗普和其他混乱分子的支持依然强劲，即使面对强劲的经济，社交媒体的“氛围”也助长了美国的悲观情绪。在上周的一篇文章中，我认为中国对 TikTok 的控制以及俄罗斯对 Twitter 的影响力，再加上自由主义政府拒绝阻止这些入侵或主动发布自己的信息，构成了自由主义在信息战中地位的急剧崩溃。 。
与此同时，尽管俄罗斯军队在乌克兰表现不佳，但俄罗斯社会基本上仍然没有有组织的异议。而中国，尽管经济放缓，似乎也同样停滞不前。中国继续探索利用人工智能作为大众社会控制的工具。对于这方面的深入报道，我推荐 Josh Chin 和 Liza Lin 的书《监视状态》 。与此同时，人工智能深度假货——可能是由俄罗斯或其代理人发布的——似乎已经成功地左右了斯洛伐克的选举。
所有这些故事的共同点是，在独裁国家创造秩序的数字技术同时也在民主国家制造混乱。当然，现在判断这种模式是否会持续下去还为时过早——1980 年印刷机的影响与 1580 年的影响非常不同。但我对事情的发展方向感到非常不安。我不喜欢生活在一个只有极权政府才能利用技术来发挥自己优势的世界。
不管怎样，这是我三年前的帖子。
值得注意的是，我不相信这个理论是正确的。但我也不完全不相信。这是那些可怕的大想法之一，有一些轶事证据支持它，但这将代表世界运作方式的巨大变化，所以可能不太可能。这篇文章的目的并不是说“这就是世界将如何运转的方式”，而是“这是世界如何运转的一种可怕的可能性，我比以前更担心这一点” ”。这是一个警告，而不是一个预测。
所以，这就是说……
大国的兴衰
历史学家保罗·肯尼迪 (Paul Kennedy) 在 1989 年出版的《大国的兴衰》一书中试图解释地缘政治权力如何从一个国家、政权或帝国转移到另一个国家、政权或帝国。基本结果是，更擅长整合经济资源的国家往往会取代不那么擅长的国家。
但衡量经济实力的指标会随着时间的推移而发生变化。在 1600 年代和 1700 年代，一切都与公共财政有关——法国和英国等拥有更好行政官僚机构、更善于征税的国家可以支付军队费用，而像西班牙这样的国家却不断破产。 1800 年代，随着工业革命的兴起，经济实力更多地取决于制造能力。美国、德国和日本最终成为制造业强国，而苏联在一段时间内表现还不错，然后就有所下降。后来，美国利用高价值服务业和科技产业的力量，在冷战中超过了苏联。
所以你可以把它看作是一个关于经济学的故事，也可以把它看作是一个关于技术的故事。在每个时期，主导国家都是那些设法利用其国家机构来利用对当时盛行的大国竞争类型非常有用的特定技术的国家。在 1600 年代和 1700 年代，大国竞争就是购买军队（雇佣军或职业军队），从对手手中夺取一些土地。真正由信息技术（印刷机）推动的公共财政对此起到了帮助作用。在1800年代和1900年代初，大国竞争就是组建一支大军来入侵和征服对手。制造业对此有所帮助。 ETC。
那么21世纪，大国战争会是什么样子呢？这可能看起来像冷战，竞争对手建立了巨大的超级武器库，并互相盯着。这可能是关于海军之间有限的冲突，或类似的事情。
但这可能是为了煽动竞争对手的不稳定并维持国内的稳定。许多人认为，东欧和中亚的所谓“颜色革命”在破坏苏联稳定以及后来遏制俄罗斯实力方面发挥了重要作用。一些人声称这些革命是由中央情报局煽动的。我认为这不太可能，但是否属实似乎并不重要。在我看来，更重要的事实是，这种不稳定是现代互联世界的一个特征，在互联网时代更是如此。颜色革命只是即将发生的事情的预兆。
2019 年震撼全球各个地区的抗议活动并没有真正统一的主题。其中包括分离主义运动、反对经济不平等的抗议、反对威权主义的抗议，甚至气候抗议。一年后，美国爆发了规模空前的抗议活动，抗议警察的暴力行为。我不确定是否有人弄清楚法国的抗议活动是关于什么的。
如果有一个“灵丹妙药”来解释为什么抗议活动在世界各地爆发，那就是技术。社交媒体极大地降低了组织抗议和传播抗议相关意识形态的成本。 Martin Gurri 的《公众的反抗》和 Zeynep Tufekci 的Twitter 和催泪瓦斯是有关该主题的必读书。
大规模抗议活动会造成不稳定，并可能使政府瘫痪——甚至，正如我们在颜色革命中看到的那样，甚至会推翻政府。 21世纪的大国冲突可能只是为了比你的对手更持久——在内部异议力量的自然涌现下坚持更长时间。
那么问题就变成了：如果社交媒体驱动的抗议活动是现代社会的一个永久特征，那么什么样的机构和技术可以让政府抵御由此带来的不稳定？
我不确定我们会喜欢这个答案。
中国的大错误
在 20 世纪 80 年代和 90 年代，许多美国人相信贸易、技术和文化交流的结合将使专制社会选择自由。 1984年，苹果电脑公司通过其著名的广告表达了这一想法，广告中一名女子用锤子砸碎了屏幕，散发出老大哥式的独裁宣传。
颜色革命、苏联解体和民主的传播似乎暂时证实了这一想法。但中国明显抵制了这一趋势。 90年代，贸易将使中国群众向政府要求民主和人权的想法是让中国进入全球贸易网络的一个流行论点。其他人则自信地预测互联网将为中国带来自由。
事情并非如此。中国镇压了1989年的天安门广场抗议活动、2000年代的一波农村骚乱以及2019-20年的香港抗议活动。它的“防火墙”有效地将外国信息拒之门外，而它的审查大军和网络宣传人员则压制着国内的异议。中国的威权主义通过贸易丰富了自己，并在直接的意志较量中击败了互联网。
那么苹果呢？在中国政府抱怨 Quartz 对香港抗议活动的报道后，该公司于 2019 年将 Quartz 应用从中国应用商店下架。
那个可爱的小广告就到此为止了。
这就是 21 世纪的可怕理论：也许互联网与其说是自由的工具，不如说是选择威权主义的进化压力。也许社交媒体已经将大国竞争的本质改变为一场耐力赛，其中对互联网的控制是关键。也许每个不实施自己版本的防火墙和 50 美分党的国家最终都会成为 Twitter 引发的骚乱浪潮的受害者。
现在添加AI
好吧，但它变得更可怕。社交媒体控制是指使用传统方法——政府宣传人员和对信息生态系统的法律控制——来限制新技术的影响。但还有另一种新技术可能会让独裁政权发挥 20 世纪极权主义者梦寐以求的控制水平。这项技术就是机器学习——或者我们通常所说的人工智能
中国是人工智能技术的全球领导者，仅次于美国，但与美国不同的是，中国热情地将这项新技术用于创建深入而强大的政府监控和社会控制系统。这里，通过大西洋，详细描述了中国政府如何部署该系统的早期版本（结合了老式人类监视和治安的实质内容）来镇压新疆的维吾尔人。部分选择摘录：
人工智能驱动的传感器无处不在，包括维吾尔人的钱包和裤子口袋里。人类学家达伦·拜勒表示，当习近平的文化抹杀运动全面展开时，一些维吾尔人将含有伊斯兰材料的手机埋起来，甚至将数据卡冷冻到饺子里保管。但警方此后强迫他们在新手机上安装保姆应用程序。这些应用程序使用算法日以继夜地寻找“意识形态病毒”。他们可以扫描聊天日志中的《古兰经》经文，并在模因和其他图像文件中查找阿拉伯文字……在线购买祈祷地毯、存储穆斯林书籍的数字副本以及下载最喜欢的伊玛目的布道都是危险的活动。如果维吾尔族人使用微信支付系统向清真寺捐款，当局可能会注意到……
维吾尔人只需走几个街区，就会遇到一个配备了新疆数十万个监控摄像头的检查站。摄像机拍摄的视频经过算法处理，将人脸与警方在“健康检查”时拍摄的快照进行匹配。在这些检查中，警方从维吾尔人的尸体中提取了他们能找到的所有数据。他们测量身高并采集血液样本。他们记录声音并采集 DNA。一些维吾尔人甚至被迫参与挖掘基因数据的实验，以了解 DNA 如何产生明显像维吾尔族的下巴和耳朵。警方可能会以疫情为借口，从维吾尔人的尸体中获取更多数据……
当维吾尔人到达他们的社区边缘时，自动化系统就会注意到。当他们通过银行、公园和学校等较小的检查站时，同一系统会对其进行跟踪。当他们加油时，系统可以确定他们是否是汽车的车主。在城市周边，他们被迫下车，以便再次扫描他们的面部和身份证。
还有更多内容，因此请阅读全文。
这种程度的极权主义控制会让斯大林或希特勒羡慕不已。历史上没有哪个文明有能力集中监控全体民众的面孔和个人通讯。以前也从未通过集中式电子网络观察到文本和语音通信。互联网使普遍监控成为可能，而人工智能则让这一切变得更加容易。
中国仍然依赖大量的人类来完成大部分监视工作，但随着计算机视觉和自然语言处理变得更加先进，人工智能正在逐渐增强甚至取代人类的窥探能力。 《大西洋月刊》的文章描述了中国正在尝试建立的一个名为“城市大脑”的系统，该系统旨在跟踪中国城市中发生的一切，从人们的活动和会议到他们在商店购买的物品，再到他们扔掉的垃圾。将这样的系统与数字监控和自然语言处理相结合，理论上你几乎可以了解每个公民的一切，除了他们头脑中的私人想法（并且不要认为有人没有在这方面努力！）。
当然，正如《大西洋月刊》的文章煞费苦心地指出的那样，这些技术尚未成熟。中国的人工智能监控系统正在快速发展，但还需要相当长的一段时间——没有人真正知道要多久——“老大哥”才能完全自动化。因此，对于所有那些愤怒的人工智能研究人员，他们将跳出评论并说“那是科幻小说”：是的。这仍然是科幻小说。但每一年它都变得不那么科幻了。
因此，恐怖理论认为，除了利用其专横的机构压制社交媒体之外，像中国这样的新威权大国还将能够利用新兴的人工智能技术来实现除了反乌托邦小说之外从未想象过的极权主义社会控制水平。
当然，技术极权主义是否能造就一个有效的社会，这是一个悬而未决的问题。不断的监视和控制最终可能会让人们更加坚决地反抗，甚至不惜付出生命的代价。或者它可能会让社会变得无精打采、无精打采、没有动力、生产力低下。或者它最终可能只是一个令人头疼的问题，并且付出了巨大的代价，却没有带来多少好处。
我们还不知道。这就是为什么技术威权主义大国主导地位的可怕理论仍然只是一个推测性的、可怕的想法。但这个想法在我脑海中挥之不去。中国越是在不断增强社会控制力的同时，其民主对手似乎越是陷入分裂和混乱，我就越担心。
宇宙中没有任何法则说自由、民主和尊重个人权利最终总是胜利——亨利，如果有这样一条法则，我们还不知道。据我们所知，历史的弧线可能向任何方向弯曲。
无论如何，只是把它扔出去。睡个好觉，做个好梦！
更新：亨利·法雷尔（Henry Farrell）已经思考这个问题有一段时间了，他对我们所知的人工智能是否是一项足够强大的技术来实现技术极权主义表示高度怀疑。
原文： https://www.noahpinion.blog/p/the-super-scary-theory-of-the-21st-a3a