我写了一本关于人工智能开发的书，探讨了它的工作原理、它的历史和它的未来。 在这里订购。如果您愿意的话，请留下评论！
所以，如果你从事科技行业或者上网的话，这个周末肯定会收到一阵新闻旋风。我花了一天半的时间重写和添加这篇文章，因为这是一个永无止境的传奇。 感谢您阅读奇怪的循环佳能！免费订阅以接收新帖子并支持我的工作。 它让我想起的不是企业斗争或自负，而是希腊悲剧。 我谨慎地使用这个词，因为它可能是有史以来飞得最高的初创公司，因为它的年运行率收入在 9 个月内从零增至 13 亿美元。它引发了一场关于人工智能的恐惧和好处的全球对话，从美国参议院到联合国、欧盟、英国、印度……每个人，我是说每个人，都在讨论这个问题。 与火、语言、印刷机相比，以及与互联网或软件本身最不讨人喜欢的比较，这是 OpenAI 的遗产。 他们是在萨姆·奥尔特曼（Sam Altman）的领导下做到这一点的，在过去的几年里，山姆·奥尔特曼一直是这种严格审查的公众形象，也是进步事实的代言人。他被称为现代奥本海默。 11 月 17 日星期五，OpenAI 董事会决定解雇首席执行官 Sam Altman。随后，OpenAI 的传奇总裁、前任董事长格雷格·布罗克曼 (Greg Brockman) 辞职了。 执行此操作的董事会由另一位历史人物 Ilya Sutskever 领导，Elon 称其为 GPT 发挥作用的关键和秘密武器，此后他表示对自己的行为感到遗憾，并希望努力让团队重新团结起来。 没有先例。这就像史蒂夫·乔布斯被解雇一样，只不过这发生在 iPhone 席卷全球之后。 这出戏非同寻常。山姆周五下午被解雇，信中称格雷格不再担任董事长，但仍留在公司。已经向该公司投入了 100 亿美元的微软比我们早一分钟就了解到了这一点。几个小时后，格雷格辞职了。更多的研究人员退出了。从 Satya Nadella 到所有科技名人，再到 Twitter 上的每个人，再到 OpenAI 员工，每个人都在要求任何澄清，但都没有得到任何澄清。 随后，在员工和临时首席执行官米拉·穆拉蒂 (Mira Murati) 的带领下，董事会试图改变主意，争取萨姆和格雷格回来。他们在周末进行了谈判，但一切都破裂了，他们向几乎所有人示好，从竞争对手 Anthropic 的 Dario 到运营 Github 的 Nat Friedman，最终聘请 Twitch 前首席执行官埃米特·希尔 (Emmett Shear) 担任新首席执行官。与此同时，Sam 和 Greg 以及其他一些人加入了微软，领导一个新的人工智能实验室。哦，最重要的是，大多数员工都威胁要辞职，除非董事会辞职并让萨姆回来。 这是科技界有史以来最疯狂的周末。我能想到的最接近的类比是雷曼兄弟，只不过它是针对该领域最强大的公司。也许是 FTX 传奇，但那是真正的欺诈。也许希拉洛斯？还有诈骗。 这是前所未有的。 这是莎士比亚的。一个关于权力、金钱和人性的故事。 力量 即使在最好的情况下，风险投资公司的公司治理也很松懈。我之前曾写过，它的缺失是 FTX 传奇中最令人震惊的迹象。 非营利组织的董事会和公司通常不会混合在一起，但这并不是完全不能的。我们找到了很多方法来增强企业“做好事”的氛围，无论是非营利性的董事会、信托机构、“不作恶”的座右铭，还是像 Anthropic 这样的共益企业。 这是微妙的。诺和诺德（Novo Nordisk）、宜家（Ikea）和好时（Hershey’s）都设有非营利委员会。有人认为其中一些并不完全相同，但在某种程度上是避税的，但仍然是正确的。或者印度企业集团塔塔集团 (Tata Group) 的慈善组织控制着 $150B 的收入。 因此，并不是说该结构本身就注定会失败。我们有企业集团和财阀，无论中国的结构是什么，都有大量的公司结构可以满足所有人的需求。三星或者丰田的结构让OpenAI的结构看起来很简单。他们甚至有目标相反的派系。事实上，这就是《继承》这样的节目的主题。这就是企业内讧的首要原因。
他们没有的是一个可以无缘无故地做出诸如解雇首席执行官之类的管理决策的董事会。
权力的问题并不在于分配不当。问题在于，“为人类做最好的事情”是一个极其模糊的目标，任何人都可以凭良心来填补。虽然伊利亚后来放弃了信仰并吐露良心，但人们能做的最好的事情就是提供安慰。 除非你有圣雄甘地或马丁路德金在场，否则你可能不会相信他们对“为人类做最好的事情”的判断。 请注意，我认为非营利组织的董事会是错误的，但我鄙视的是他们做事的无能。他们想要停止工作是完全可以的，因为他们不喜欢它实现他们目标的方式——“开发安全的通用人工智能并造福全人类”。 但事实并非如此。他们在某个随机的周五，也许是在新产品发布取得了巨大成功并取得了令人难以置信的实力地位之后，以尽可能壮观的方式让公司崩溃了。唯一真正的比较可能是上一季的《权力的游戏》。 钱 人工智能创造非营利组织的问题在于，总的来说，制造人工智能需要花费大量资金。您需要购买 GPU。 GPU 很昂贵。而你为了“造福人类”而胡乱花钱，想要拿到100亿美元确实很难。 嗯，这并不完全正确。风险投资公司一直在这样做。把钱投入到成功概率很低、使命极其模糊和崇高的公司中，让世界变得更美好，同时赚到巨额钱。 所以他们不得不从那些想赚更多钱的人那里拿钱。这样做的问题是，尽管硅谷坚持认为它主要是在金钱之下并且专注于使命，但你不能打电话告诉他们“嘿，你知道吗，感谢所有的钱，但我们认为我们会别那么商业化了。请发送更多 GPU 支票。谢谢”。萨蒂亚·纳德拉 (Satya Nadella) 看起来是个好人，但这不会让他高兴。 另外，这一点很重要，尽管 OpenAI 在 12 个月内赚了超过 10 亿美元，但仍然需要大量资金。即使萨姆被解雇，他仍试图筹集资金。
在这种情况下，金钱是一种奇怪的权力形式。主要是因为 OpenAI 仍然需要它，就像所有科技公司一样。如果他们想像卡斯塔利亚那样像一个想要脱离世界的研究实验室，他们就无法得到它。 您不能说：a）我们需要资金进行研究，b）我们无法告诉您我们将用它做什么，c）我们不会尝试赚钱或以任何方式帮助您从投资中获利，d）别担心，这是为了人类的利益。投资者有自己的投资者，他们会问他们“为什么”或“到底是什么”之类的问题，他们必须打着领带在董事会上尝试解释你的利他主义，这很难。他们会被解雇。世界上的净幸福感将会下降。 我想这是显而易见的，但对于 OpenAI 非营利委员会的成员来说，这似乎并不明显。 人性 尽管需要 GPU 和数十亿美元，但人工智能热潮的奇怪之处在于，所需的大部分知识都很肤浅，并且存在于人们的头脑中。这些人的大脑还有其他部分，比如爱、忠诚或贪婪，这些有时会促使他们做事。 因此，当他们看到 a) 一笔本来可以让他们致富的 800 亿美元的二级交易消失了，b) 没有理由让这种事情发生时，他们自然会感到不安和愤怒。 这些人热爱一项使命，为一项使命而加入，并希望从一项使命中获得巨额财富，如果他们认为自己是由一群笨蛋领导的，那么这一切都不会发生。 因此，当 770 名员工中有 700 多名威胁要辞职时，这就出现了问题。对于董事会，以及被任命为新的临时首席执行官的埃米特·希尔 (Emmett Shear)。毕竟，在旧金山寒冷的夜晚，您可以使用 GPU 取暖，但如果您基本上感觉自己在与风和潮作斗争，那么这无助于您留住现有客户或获得新客户甚至留住员工。 在历史上强劲的劳动力市场中，人工智能研究人员比其他任何人都处于更有利的地位。毫不夸张地说，他们可以在一分钟内辞职并找到工作。他们拥有目前宇宙中最热门的技能。
他们走出大门 a) 确实降低了 OpenAI 的存在风险，因为 OpenAI 将不复存在；b) 与外部存在的任何其他事物相比，通过足够清晰的安全镜头集中在一个地方，会增加人工智能的扩散。 教训 最受关注的课程是有关公司治理的课程，如果你有相反的观点，就会发生冲突。 我认为这是错误的，因为董事会总是有相反的观点。这就是它们存在的全部原因。在这种情况下，冲突更加存在——担心人工智能的人和不那么担心人工智能的人之间的冲突——但这仍然比资本和劳动力之间、或员工董事会成员和风险投资者之间的差异小得多。 不，问题不在于冲突，问题在于无能。他们在没有告诉任何其他利益相关者的情况下做出了史无前例的举动，然后在接下来的三天里没有对任何人说任何话，而他们周围的整个世界都崩溃了！ OpenAI 董事会的绝对无能是一个完美的例子，说明了为什么如果你要有“造福人类”这样模糊的目标，你最好有杰出的人才来相应地选择。其他人都需要可衡量的 KPI。 董事会实际上告诉领导团队，允许公司被摧毁“将符合使命”。 这是一个不可调和的差异。就像你让格蕾塔·桑伯格加入埃克森美孚的董事会一样。 这里没有简单的教训，除了不要这样做！ 为什么组织内部会做出愚蠢的事情，我通常有三个原因：官僚主义、无能和恶意。
俗话说：永远不要把可以用愚蠢充分解释的事情归因于恶意。 像大多数悲剧一样，这个传奇故事有很多观察结果。不分先后：
当叛徒八人离开肖克利时，硅谷开始了。不过，这个周末就好像肖克利本人被解雇了一样，然后其他人都退出了他的身后。
一位受人爱戴的领导人被无赖无礼地驱逐，一名阴谋者后来激发了人们的悲痛，整个团队转而表示支持他们被驱逐的领导人，而那些把他赶下台的人则对他们的无能感到愤怒和咆哮。 这是剧院。这也是人性，牙红利爪。 感谢您阅读奇怪的循环佳能！免费订阅以接收新帖子并支持我的工作。 如果您喜欢Strange Loop Canon的这篇文章，请与您认为可能喜欢它的人分享！或者，你知道，我想在 Twitter 上发帖……这也有效！
© 2023奇怪循环佳能 |
权力、金钱和人性
关于 OpenAI 的思考，一场悲剧
