人工智能的诱人前景……引起了恐惧和兴奋。我们不知道智能机器的创造是否可能，但许多人认为这是不可避免的。
斯蒂芬霍金
我不想评论这项工作；如果它不为自己说话，那就是失败。
乔治奥威尔
一世
提示：2070 年的未来乌托邦会是什么样子？
在未来的乌托邦中，人们将与彼此和环境和谐相处。不会有贫困或战争，每个人都将获得教育、医疗保健和清洁能源。太阳能电池板将排列在房屋和建筑物的屋顶上，为从交通运输到电子产品的一切提供电力。社区将紧密相连，邻居们一起工作，互相帮助。人们会在闲暇时间追求自己的激情，无论是演奏音乐还是探索新的爱好。世界将是一个美丽的地方，绿色空间和自然资源受到保护，这样子孙后代也可以享受它们。
为了实现这个乌托邦，我们需要同时利用我们的同情心和智慧。我们需要有智慧来开发让人们的基本需求得到满足的系统，例如我们需要有为每个人提供食物和住所的系统。我们需要有同情心去关心别人。我们需要有爱护环境的慈悲心。我们需要有智慧来开发不损害环境的技术。我们需要有同情心来照顾动物。我们需要有智慧来开发不伤害动物的系统。
为了使这个乌托邦成为现实，我们需要共同努力。我们需要有智慧来开发允许我们一起工作的系统。我们需要有同情心来照顾彼此。我们需要有智慧来开发允许我们互相照顾的系统。
有人可能会说，智慧是创造和维持乌托邦的必要条件，而另一些人可能会说，乌托邦只有在每个人都有智慧的情况下才有可能。然而，值得注意的是，文学和哲学中描述的许多乌托邦都居住着智商高于平均水平的人。这可能是因为聪明的人能够更好地理解和解决复杂的问题，这对于创造一个完美的社会是必要的。
围绕人工智能的性质也有很多争论，包括人工的和自然的。一方面，一些人认为智力纯粹是后天培养的产物，而另一些人则认为它主要是与生俱来的。每个观点都有优点和缺点，但最终似乎真相在中间的某个地方。
人工智能完全基于后天培养的一个论点是，机器只能和程序员一样聪明。这意味着，如果人类创造了一个有缺陷或有偏见的算法，人工智能将反映这些相同的缺点。同样，如果没有为 AI 提供足够的数据来使用，它的学习将受到限制。因此，可以说，由于人类不完美且知识有限，因此他们创造的任何机器也将继承这些限制。
另一方面，有证据表明某些形式的智力确实是与生俱来的。例如，研究表明，年仅 6 个月大的婴儿已经具备基本的数字技能（Dehaene & Brannon 2006）。这表明至少智力的某些方面不需要丰富的经验或训练来发展——相反，它们从出生就与我们的大脑紧密相连。
此外，对学者（尽管受过很少的正规教育但具有非凡能力的人）的研究为先天在智力中的作用提供了进一步的支持（Trefert 2009）。学者经常表现出无法通过接触或培训来解释的“天才之岛”；相反，它们似乎是由于大脑发育异常而产生了非凡的能力。
那么，自闭症可以说是“天才的障碍”。基于对自闭症患者与神经典型对照者所表现出的能力和行为的分析，已经进行了几项研究来支持这一概念。许多这些研究是在允许扫描活人大脑的技术进步之前进行的。较新的研究揭示了自闭症患者和控制者思维方式之间的显着结构差异。 （请参阅下面自闭症演讲中的路易莎·格兰丁）以下特征是与学者行为相关的一些轻微迹象：
-
专注于重复的动作或兴趣——当自闭症受试者相对于大多数人处理感觉输入的阈值较低时，在被称为“刺激”的情节中经常出现诸如拍手之类的强迫行为模式
-
对事实或文化信息的记忆力——受试者通常表现出与死记硬背相关的出色记忆力
-
过剩的机械能力
-
超强的数学能力
-
速度计数方面的专业知识
-
快速计算
-
视觉空间感知
-
通感
-
理解能力下降
-
减少情绪回忆
对与人类相关的各种智能与人工智能所展示的智能进行分类是很困难的，因为对于“智能”或“人类”都没有达成一致的定义。有人可能会说，人工智能展示的任何形式的智能都不是真正的人类，而另一些人可能会争辩说，任何智能行为的例子都展示了某种程度的人性。然而，一般来说，大多数专家会同意，某些类型的智能与人类的关联比与人工智能的关联更为普遍。其中包括自然语言处理、创造性解决问题和同理心等能力。
学者一词通常用于描述在特定领域具有非凡能力的人，例如数学或记忆力。可以说人工智能具有类似的能力，但范围更广。
我们对智能这个词的理解使我们陷入困境。我们试图说服自己我们很聪明，因为智力是一件好事，对吧？但是，如果这让我们在别人面前显得傲慢或自负，那么被称为“聪明”的想法是不受欢迎的。那么，当谈到智力/聪明时，你如何在骄傲和不安全之间做出决定，而不会对你的任何答案感到内疚呢？
这个问题可能很难回答，因为在智力方面，骄傲和不安全之间没有明确的界限。一方面，为自己的智慧感到自豪可以被视为一种积极的特质，因为它表明了对自己能力的信心。然而，对自己的才智过分骄傲可能会让人觉得傲慢和自负。同时，对自己的智力感到不安全会导致自卑感和自我怀疑。最终，关键是要在这两个极端之间取得平衡，并对你拥有的任何智力水平感到满意。
二
首先要注意的是，这篇文章……很好！如果是十五岁的我写的，我会很感动。当然，除了某种纸糊版本的好男孩被抓在电脑里之外，没有太多个性，但它的想法和一般的语法执行仍然令人印象深刻。
（我有理由相信，如果我通过另一个专注于写作风格的 AI 发送它，比如 PG Wodehouse 或其他任何人，它可能会做一个像样的传真。但从我迄今为止的基本实验来看，这还有很长的路要走。 )
我注意到的第二件事是，当它不知道某事时，它非常热衷于说！让 GPT 回答我们喜欢解决的棘手问题实际上非常困难。从现有资源中推断出一点会更快乐，只要推断仍然足够平淡无奇。
这部分可能是对微软聊天机器人迅速变得非常种族主义之类的回应，我允许在极端情况下这样做是必要的，但它确实让你对系统功能的探索感觉更加有限，就像你一样’正在使用安全搜索浏览网页，直到 11 岁。
第三点也是目前最成问题的一点是，由于该系统本质上是一个完美的数据处理、合成和输出机器，它对任何事情都没有核心信念。不仅如此，它甚至不理解拥有或需要一个的概念，至少现在是这样。
这主要是一个问题，因为大多数时候我们在网上阅读东西，无论是论文还是论文，我们喜欢的很大一部分是更接近想法本身的来源。所以我们不知道 Scott Alexander 是怎么想的，Tyler Cowen 是怎么想的，或者 Bryan Caplan 是怎么想的，相反，我们只能看着一个没有任何上下文线索的从头开始的作品。
论文不仅仅是排列在页面上的单词。它们是了解某人如何思考的窗口。在阅读它们时，您会意识到类似于启示的东西，神经元的放电给人一种与另一个人联系的感觉，因为在某些更深的方面您实际上了解它们！
正如伯特兰·罗素所说：
一种风格是不好的，除非它是作者个性的一种亲密的、几乎是不由自主的表达，而且只有当作者的个性值得表达时。
当我们没有上下文线索来告诉我们如何最好地理解所写的内容时，如果我们成为纯粹的文本主义者（向我的最高法院读者道歉），我们就会失去很大一部分使写作有意义的东西。
假设您按照通常的写作大师所说的如何写一篇文章的格言，您会发现 GPT 以出色的成绩满足它。
有一些简单的格言——也许不像我姐夫洛根·皮尔索尔·史密斯给我的那些简单——我认为这些是说明性散文作家可能会接受的。第一：如果可以使用短词，就不要使用长词。第二：如果你想发表一个有很多限定条件的陈述，把一些限定条件放在单独的句子中。第三：不要让你的句子开头将读者引向与结尾相矛盾的期望。
现在，GPT 感觉就像是一个非常擅长考试的表现出奇的好学生。给出任何主题或问题，它都会很好地回复。如果你教它做基本算法，比如反转一个单词，它就会这样做。它写得很明智就目前而言，至少我们有一种个性回避，因为它似乎无法（或想要，对于特定版本的想要）理解人类的大量经验，或者根本没有太多的固执己见。在这件事得到解决之前，愿更多的散文家绽放！
三
这是否有可能使创造性工作，或者实际上是所有奇怪的循环，都归于机器？在某些领域，我们已经被机器有效地取代，但我们仍然在参与中找到乐趣和回报。
克里斯托弗·希钦斯（Christopher Hitchens）在论文写作方面毫不逊色，他说。
如果你会说话，你就会写作。你必须小心保持你的演讲尽可能完美无瑕。这是我最害怕的。我害怕失去我的声音。写作是我谋生的事情，好吧——这是我的生计。但这也是我的生活。 没有它我活不下去。
识别他作为“声音”的东西，以及与观众、其他人有特殊联系的东西，是至关重要的。他的散文不是向读者提供洞察力的复制品的媒介，而是希钦斯之间的联系，在他所有令人眩晕的复杂个性中，以一个想法的形式压缩，以及与特定读者相关的分支。
或者在这里，他使用奥威尔来强调一点，即你的想法比你所说的重要得多。
但是奥威尔通过他对语言作为真理伙伴的承诺来说明，“观点”并不真正重要。重要的不是你怎么想，而是你怎么想
如果这是真的，如果写作是帮助我们将人与人联系起来的艺术形式之一，将我的心理意象和对疯狂的高维思想景观的探索与你，读者，那么我就是一个可以理解的具有个性和幽默感的实体和存在是至关重要的。
我不是我能写的东西的混合物，但我是能写只有我能写的东西的人。
在许多方面，像加里·马库斯（Gary Marcus）这样的人引起注意的问题，或者埃里克·霍尔（Erik Hoel）所写的语义启示录，都是我们担心人工智能足够先进的例子，它将剥夺人类的意义。如果最接近表达我们是谁的东西，我们的艺术，我们的诗歌，我们的创作，可以如此容易地被复制，那么我们的存在还有什么价值！
答案是，我们的存在总是有意义的，因为我们可以通过各种方式伸展自己并达到我们为自己设定的高度，而不是纯粹的竞争精神，将我们的努力与赢得特定比赛的努力联系起来。
正如文化书籍 Look To Windward 中所说的 AI 化身。
有些人需要几天时间，汗流浃背，忍受疼痛和寒冷，冒着受伤的风险——在某些情况下——永久死亡才能登上一座山峰，结果却发现一群同龄人刚刚乘飞机抵达并享受轻松的野餐。
‘当然，关键是那些花了几天时间和汗水桶的人也可以乘坐飞机到达山顶，如果他们想要的只是吸收观点。这是他们渴望的斗争。成就感是由往返山顶的路线产生的，而不是由山峰本身产生的。它只是页面之间的折叠。
写作的乐趣，或者说任何有创意的东西，就是从无到有地创造一些东西并用它来告诉世界关于你的快乐。这是我们等待的下一个标准。那是我们最后的边界。
我曾将AI 称为白痴学者，但白痴也处于一种健忘状态，在被要求制作的一系列令人眼花缭乱的创意输出中缺乏个性的持久性。
乔治·奥威尔（George Orwell）在本文开头的引文中写道，有必要从他的文章中写出自己。他说，“..（应该）在写作时努力抹去自己的个性”。众所周知，几十年后，他的文章之所以令人愉快，正是因为他未能实现这一目标。他是谁是我们喜欢他所写内容的一个不可或缺的原因，即使他是谁只能通过他所写内容的累积输出来知道！
我们卓越的回响仍将经受住时间的考验，因为它们是构建新的创造力的模板，随着未来几年的能力被超越，我们将不得不更深入地挖掘找出我们对人类创造力的热爱到底在哪里。
当它发生时，正如奥斯卡王尔德所说的那样。
公众非常宽容。它原谅一切，除了天才。
原文： https://www.strangeloopcanon.com/p/on-personality-ais-final-frontier