本文的内容是在 ChatGPT 的帮助下撰写的（并由 Visual Capitalist 编辑团队进行了广泛的编辑和事实核查）。
生成式人工智能的 9 个问题
在快速发展的人工智能领域，生成式人工智能工具正在展现出令人难以置信的潜力。然而，它们的潜在危害也变得越来越明显。
我们与我们的合作伙伴VERSES一起，通过使用各种不同来源的数据，可视化了有关生成式 AI 工具的一些担忧。其中许多属于以下类别之一：质量控制和数据准确性、道德考虑或技术挑战——当然，有一定程度的重叠。
让我们深入探讨一下。
偏置输入、偏置输出
主题：质量控制与准确性
生成人工智能的关键问题之一在于它倾向于重现其所训练的数据中存在的偏差。这些工具非但没有减轻偏见，反而常常放大或延续偏见，引发对其应用准确性的质疑，这可能会导致更大的道德问题。
黑匣子问题
主题：道德与法律考虑
拥抱生成式人工智能的另一个重大障碍是其决策过程缺乏透明度。由于思维过程往往难以解释，这些人工智能系统在解释其决策时面临挑战，尤其是在关键问题上出现错误时。
值得注意的是，这是人工智能系统的一个更广泛的问题，而不仅仅是生成工具。
培训和维护成本高
主题：复杂性和技术挑战
训练像大语言模型 (LLM) ChatGPT这样的生成式 AI 模型非常昂贵，由于所需的计算能力和基础设施，成本往往达到数百万美元。例如，现任 OpenAI 前首席执行官 Sam Altman 证实 ChatGPT-4 的训练成本高达 1 亿美元。
人云亦云
主题：质量控制与准确性
尽管生成式人工智能具有先进的功能，但仍受到其训练数据和模式的限制。这种限制导致输出可能无法涵盖人类知识的广度或解决不同的场景。
与人类价值观保持一致
主题：道德与法律考虑
与人类不同，生成式人工智能缺乏根据人类价值观考虑其行为后果的能力。
虽然人工智能生成的“Balenciaga Pope”之类的例子可能看起来无害，但重要的是要认识到深度伪造可能会被用于更有害的目的，例如在面临公共卫生危机时传播虚假信息。
这凸显了需要更多框架来确保这些系统在道德界限内运行。
耗电
主题：复杂性和技术挑战
生成式人工智能对环境的影响不容忽视。由于处理单元消耗大量电力，ChatGPT 等模型的成本高达 33,000 个美国家庭的电力消耗，仅一项查询的耗电量就比一封电子邮件高 10 到 100 倍。
幻觉
主题：质量控制与准确性
众所周知，生成式人工智能模型在面临数据差距时会创建虚假的陈述或图像，引发人们对其输出可靠性和潜在后果的担忧。
例如，在谷歌巴德的宣传视频中，聊天机器人错误地断言詹姆斯·韦伯太空望远镜捕获了地球太阳系以外行星的第一张图像。
版权和知识产权侵权
主题：道德与法律考虑
考虑到一些生成式人工智能工具在未经同意、信用或补偿的情况下盗用受版权保护的作品，侵犯了艺术家和创作者的权利，数据的道德使用变得至关重要。
OpenAI 最近推出了一项名为“Copyright Shield”的补偿计划，该计划涵盖某些客户层的版权侵权诉讼的法律费用，而不是从 ChatGPT 的训练数据集中删除受版权保护的材料。
静态信息
主题：复杂性和技术挑战
保持生成式人工智能模型处于最新状态需要大量的计算资源和时间，这是一项艰巨的技术挑战。然而，一些模型是为增量更新而设计的，为这个复杂的问题提供了潜在的解决方案。
认识诗篇
在利用人工智能的力量的过程中，必须保持谨慎的平衡，以确保这一变革领域的道德、透明和有影响力的进步。
VERSES 致力于创建可进行透明决策的智能软件。
详细了解VERSES如何构建更智能的世界。
你也许也喜欢
订阅
生成式人工智能的 9 个问题，在一张图表中首先出现在Visual Capitalist上。
原文： https://www.visualcapitalist.com/sp/9-problems-with-generative-ai-in-one-chart/