大多数政客都是民粹主义者，这是传播基本规则的自然结果：你的受众越多，你的信息就应该越简单。特别是对于政客来说，他们的追随者规模与他们的实际权力有着直接的联系。
政客们被激励去寻找一个能引起人们共鸣的口号并付诸实施，而不管他们对此事的个人看法如何。作为一个题外话，我怀疑某些美国共和党人本身对 LGBT 存在重大问题，但他们采纳了适合那些可以投票让他们入围（或罢免）的人的信息，无论这听起来多么愤世嫉俗。
同样的情况也发生在人工智能身上。人工智能成为几乎所有媒体出版物都报道的主要趋势，加速了这一趋势。不仅大多数媒体都有专门的人工智能作家，而且还有一些媒体（例如 VentureBeat）已将重点转向人工智能。
有时，他们只是传播像 Elizier Yudkowskiy 这样的疯狂人士的观点，而他并不是任何现代人工智能领域的专家。他自称是“人工智能安全”方面的专家，这似乎意味着用特定的观点来反驳科幻小说中的想法，让所有人相信我们注定要失败。平衡的观点很复杂，而口号很容易，这就是为什么人工智能的厄运者和支持者（即“e/acc”运动）主导了话语，尽管所有实际讨论都在中间的某个地方（并且应该以完全不同的方式进行）飞机）。
拜登或苏纳克是否真的相信人工智能是危险的并不重要（尽管拜登可能确实被一部表现不佳的动作片吓到了）。如果政客认为公开做某事可以帮助他们得分，他们就会这么做。 OpenAI、Anthropic、谷歌和所有其他公司将第一个告诉你，他们支持对人工智能进行严格监管，因为这将有助于巩固他们来之不易的行业前沿地位。
存在版权和安全问题，但所有实际问题都与专家所说的完全不同。生成模型不会在洛杉矶投下核武器（不过，《造物主》是一部很棒的电影），也不会自动化每个人的工作。但它们提出了基于算法的决策的同样的老问题，并提出了一个新问题，该问题与我们当前的版权法（无论是在文字上还是在精神上）都没有很好地对应。
安全
几十年来，算法一直被用来做出影响人们生活的决策。有时，它们是基本的；有时，它们是基本的。有时，它们非常先进。信用评分、抵押贷款评估和背景调查不是手动的，而是由算法运行的。
值得讨论的实际问题是人工智能可能会从训练数据中吸收固有偏见，并对某人的生活产生负面影响，同时混淆过程。
用于识别印刷文本的旧 OCR 算法非常复杂且繁琐，并且依赖于计算机视觉和高等数学。我们使用人工智能以不同的方式解决特定的复杂问题，并在解决方案过于复杂而无法构建时将其抽象出来。我们使用数据来训练或多或少的通用网络，然后多次运行原始算术运算，最终提供我们通过经典算法无法实现的良好结果。
正因为如此，大多数现代人工智能网络本质上都是黑匣子。您知道输入和输出，但看不到决策是如何做出的，并且在模型“思考”以理解原因时对其进行剖析具有挑战性。
因此，如果一家金融机构使用人工智能进行信用检查和欺诈评估，人们可以想象这样一种情况：有缺陷的训练数据将导致其因种族或其他参数而出现歧视。由于它是一个黑匣子，只有长期的统计观察才能让我们看到问题，尽管负责人很可能会声称这些差异是偶然的。
这个问题比较繁琐，但更准确。人工智能不会这样做，因为这太糟糕了。它没有感情，也没有目标。这是科幻小说中流行的比喻，但我不相信通用人工智能可能是冷酷无情的野兽。情绪赋予目的，这就是为什么 ChatGPT 在您告诉它之前不会思考任何事情。它根本还没有出现。我们现在拥有的更加基本。
版权
大型语言模型和图像生成网络都不太适合我们的版权框架。抄袭和灵感之间的界限总是模糊的。所有人类艺术家，包括作家和画家，都通过观察前人的作品来学习，然后创作出自己的作品。
Vanilla Ice 使用了最初由 Queen 和 David Bowie 创作的吉他连复段。然后他声称他在音符之间添加了节拍，并且原始旋律与他的不同。最终决定事实并非如此。最终，他不得不付款，但只是因为它太透明了。音乐家总是从别人的音乐中获得灵感。
在这方面，生成网络与人类并没有太大不同。但由于这是机器智能，他们可以在规模上做得更好，然后为每个人提供一种快速、简单的方法来创建可能直接复制某人材料的作品。
George RR Martin 等作家声称OpenAI 的 GPT4 是根据他们的材料进行训练的，这很可能是正确的。之前，我们有一个简单的描述。作家消耗现有的材料，并希望用它来写自己的《冰与火之歌》。没有人有一天开始写作时，没有读过别人想象的一个单词。
如果你太直接地使用别人的材料，我们称之为同人小说，只要你不想出售它，基本上就不会追求它。那么就违法了。
但 GPT4 的最终用例不是有人用它来复述某个作者的书，而是在用户的命令下编写新故事。然而它之所以能够做到这一点，是因为在训练阶段消耗了所有的写作。那么，它是否侵犯了版权呢？
生成网络被困在人类和普通计算机之间，在我们开发出新的框架并且美国和英国的普通法体系创造先例之前，没有人知道该怎么做。
***
现在，生成网络的出现可能已经影响了全球就业市场。正如技术领域通常发生的情况一样，最大的威胁是低级别承包商，例如在 Upwork 上接受 5 美元订单的人，因为他们的总部位于更便宜（也更贫穷）的国家。
漫威《秘密入侵》简介中的丑闻就是一个完美的例证。制作该作品的视觉特效人员故意使用了制作质量较差的人工智能生成图像，因为这些图像具有与故事相关的不可思议的价值。互联网上一半的人的反应就好像制片人解雇了所有人，然后自己编写提示（我猜，手动完成了所有的视觉特效来制作动画）。
事实上，真正的商业作家、设计师和其他内容创作者是最先开始在工作中使用 Stable Diffusion 和 MidJourney 等工具的人。我认识的一家游戏开发公司使用这些工具来加速其图像管道。这特别有助于设计师花更少的时间在平凡的事情上。对他们来说，人工智能并没有取代任何一个工人；而是它只是让人们能够制作更多内容，最重要的是，提高整体质量。
有时，它只是充当参考。我听到一位音乐艺术家解释说，他现在可以使用 MidJourney 来解释他想要设计师提供的标题艺术内容。我自己用它为我的 Spotify 混音带制作封面。再说一次，技术总是会提高水平，而 MidJourney 以及其他工具可以让那些不会画任何东西的人将他们的幻想变成现实（嗯，真实的图像）。
在做出终生选择时，你可能确实需要考虑人工智能。我姑姑最近告诉我，她朋友的女儿刚刚在一所大学就读，担任翻译。谷歌翻译十年前很糟糕，之后变得很好，然后被 GPT4 打败了。这是否意味着我们很快就不需要翻译了？不会，但工作岗位肯定会减少，而且他们将主要专注于高价值的任务，例如改编电影、流行书籍等。最终，这意味着翻译人员的数量会减少，他们的收入也会减少。
当人工智能进入高端市场并占领更多市场时会发生什么？我们可能必须解决这个问题，而不是找到平衡点。一方面，如果我们不实现自动化，经济就不会增长，每个穷人都会继续贫穷。另一方面，作为一个社会，我们有时会做出可能不利于更大利益的决定。我们将会看到这里会发生什么，但即使一个国家严格监管人工智能，使其不存在，其他国家也可能会接受它。
技术已经取代了数以千计的职业，同时创造了新的职业。我们不再有人类“计算器”或电话接线员。谨慎和维护某些人的生活水平的愿望是值得欢迎的，但想象一下，如果我们在一百年前使用同样的方法。我们可能仍然会有真正的人来运行电梯。
原文： https://molodtsov.me/2023/11/why-ai-doomerism-is-flawed-and-misguided/