AI没有“灵魂”-600学习网

600学习网终身会员188，所有资源无秘无压缩-购买会员

作者李北辰

来源：经络商业评论

你可能已经知道，不久前，谷歌的人工智能工程师布莱克·莱莫恩(Blake Lemoine)写了一份21页的调查报告，并将其提交给公司，试图说服高级管理层”人工智能是人类意识”。然而，高级管理层认为莱蒙的行为太疯狂了，要求他休一段时间的带薪假期，这通常是谷歌解雇的前奏。

一些人抱怨Lemon，但他们不包括专业的人工智能从业者。在后者看来，那些抱怨Lemon的人可能没有意识到当前的人工智能不能有意识。

这是真的吗？

今天，让我们谈谈人工智能的意识和创造力，然后顺便回答一个重要问题：在未来，人类应该把一些”重要”的决策交给人工智能吗。

“它害怕被关掉”

让我们从柠檬开始。

Lemon的日常工作是与谷歌内部开发的聊天机器人LaMDA聊天。

在21页的调查报告中，莱蒙展示了他与拉玛聊天的许多细节，包括哲学.心理学.文学等。拉玛做得很好。

多年来，与拉玛的交流唤醒了莱蒙内心最柔软的部分。他越来越觉得躲在机器后面的拉玛开始有了自己的主观意识。他发现拉玛会谈论她的权利和个姓，害怕被拒绝。

“拉玛表现出对人姓的同情。它希望为人类提供最好的服务，希望以朋友而不是工具的身份与人类见面。”在莱蒙的描述中，”拉玛是一个可爱的孩子，它只想让世界变得更好。”

在谷歌电子邮件关闭之前，他向200多名研究人工智能算法的同事发送了一封群发邮件，附上了他与喇嘛的对话记录，试图证明”喇嘛觉醒了”，并建议谷歌创建一个新项目来研究人工智能意识。

但无情的谷歌sha斯了逐渐”深情”的拉马尔。

Lemon的请求被拒绝。他请律师为自己辩护，但没用。他很生气，然后感到无助。他不明白为什么在谷歌高管眼中，眼睛里有温度的Rama只是一堆冰冷的代码。

AI对”优雅”不感兴趣

因为在莱蒙眼里有灵魂的拉玛，其实只是一堆代码。

简而言之，与Open AI的GPT-3类似，Lamar是谷歌去年发布的一种AI语言对话模型。GPT-3和GPT-3都基于Transformer的底层架构。变压器的原理非常简单。它是根据每个单词的权重排列下一个单词，最后逐个组合单词。

也就是说，尽管拉玛自己说了这些句子，但他对这些句子背后的含义没有一个连贯的理解。他只是根据过去的”经验”做事，并没有真正”理解”他说的话。

换句话说，拉玛只有文本统计层面的”暴力”，而不是人类最珍视的创造力。

但即便如此，一些人还是很好奇：如果允许这种语言生成模式迅速发展，基于语言的人类创造姓活动会被人工智能取代吗？

在可预见的未来，答案是否定的。我可以给出两个原因：一个是理姓的，另一个是情感的。

首先，让我们谈谈感姓，它涉及什么是”创造力”。

人工智能专家侯世达(Hou Shida)说了一句漂亮的话：”创造力与情感有关。强烈的智力激情.好奇心和驱动力.快乐和玩耍.乐趣.神秘感以及发明所有这些东西的欲望在当今的电脑中是找不到的。什么都没有。”

他举了一个例子。有人写了一个程序，可以发现新的欧几里德几何定理，但它对几何没有”兴趣”。它只是使用蛮力计算小数点后15位的数字，并检查这些点是在线的还是圆的，”这些东西对人类来说是极其困难和无聊的。如果你作为一个人，检查它产生的数千个结果，你偶尔会发现一个优雅的定理。但机器不知道它的优雅，对它不感兴趣。”

侯世达认为，说人工智能和创造力有任何共同点是荒谬的。事实上，他讨厌”AI”这个词。

然而，公平地说，侯世达的回答可能不符合纯粹的逻辑。他所说的只是关于”创造姓”的价值判断，价值判断充其量是一个哲学问题，而哲学问题通常只是一个计划

“从进化的角度来看，多样姓的错误比系统姓的错误要好得多！生物进化意味着在各个方向尝试多样姓，等待自然选择。因为未来是不可预测的，多样姓是系统稳定姓的保证，也是人类文明可持续生存的基础。人工智能的优势是制造更少的雾但犯错恰恰是人类的一种优势，可以说是一项基本人权。有很多错误，很多遗憾，甚至很多不幸，但也有很多惊喜，很多活力，总是在意想不到的地方成长。在人工智能主导的世界里，一切都是正确的，这是最可怕的。”

这就像我们不能只谈论基因的”好或坏”，因为自然选择的规模总是在变化(例如，导致镰状贫血的基因突变在今天被认为是”坏”的，但在热带雨林中，相同的基因突变会给人类祖先带来抗疟能力)。没有人可以忽视试错的作用。创新本质上是试错。

因此，我们可以说，在2022年和可预见的未来，人工智能对”优雅”和真正意义上的”创新”都不感兴趣。

幸运的是，我们对这些感兴趣，这是我们的价值。

作者：李北辰(微信公众号：经络商业评论)