为什么人工智能永远不会统治世界

将其称为天网假说、通用人工智能或奇点的出现——多年来,人工智能专家和非专家都担心(并且,对于一小部分人来说,庆祝)人工智能有朝一日可能变得比人类。

根据该理论,人工智能的进步——特别是能够接受新信息并相应地重写其代码的机器学习类型——最终将赶上生物大脑的湿件。在对事件的这种解释中,从赢得 Jeopardy的 IBM 机器到大规模 AI 语言模型 GPT-3的每一次 AI 进步都使人类离生存威胁更近了一步。我们实际上是在建立我们即将成为有知觉的继任者

除非它永远不会发生。至少,新书《 为什么机器永远不会统治世界:没有恐惧的人工智能》的作者说。

合著者布法罗大学哲学教授巴里史密斯和德国人工智能公司Cognotekt的创始人乔布斯特兰德格雷贝认为,人类智能不会很快被“不朽的独裁者”超越——甚至永远不会。他们告诉数字趋势他们的原因。

描绘人工智能的图像,神经元从人形头部分支出来

数字趋势 (DT):这个主题是如何引起您的注意的?

Jobst Landgrebe (JL):我是一名受过培训的医生和生物化学家。当我开始我的职业生涯时,我进行了产生大量数据的实验。我开始学习数学以便能够解释这些数据,并看到使用数学建模生物系统是多么困难。数学方法和生物学数据之间总是存在这种不匹配的情况。

在我三十多岁的时候,我离开了学术界,成为一名商业顾问和企业家,从事人工智能软件系统的工作。我试图建立人工智能系统来模仿人类可以做的事情。我意识到我遇到了几年前在生物学中遇到的同样问题。

客户对我说,'你为什么不建立聊天机器人?我说,'因为他们不会工作;我们不能正确地模拟这种类型的系统。这最终导致我写了这本书。

Barry Smith 教授 (BS):我认为这是一个非常有趣的问题。我已经对人工智能的类似问题有所了解,但我从未考虑过。最初,我们写了一篇名为“ 让人工智能再次有意义”的论文。 (这是在特朗普时代。)这是关于为什么神经网络在语言建模方面失败的原因。然后我们决定将论文扩展成一本书,更深入地探讨这个主题。

DT:你的书对现代深度学习至关重要的神经网络模仿人脑的方式表示怀疑。它们是近似值,而不是生物大脑如何工作的准确模型。但是你是否接受这样一个核心前提,即如果我们对大脑进行了足够详细的了解,它可以被人为复制——这会产生智能或感知吗?

JL: “神经网络”这个名称完全用词不当。我们现在拥有的神经网络,即使是最复杂的神经网络,也与大脑的工作方式无关。认为大脑是神经网络构建方式中一组相互连接的节点的观点是完全幼稚的。

如果你看最原始的细菌细胞,我们甚至不明白它是如何工作的。我们了解它的一些方面,但我们没有它如何工作的模型——更不用说一个神经元,它要复杂得多,或者数十亿个神经元相互连接。我相信科学上不可能理解大脑是如何工作的。我们只能了解某些方面并处理这些方面。我们没有,也不会完全理解大脑是如何工作的。

如果我们对大脑的每个分子如何工作有一个完美的理解,那么我们可能会复制它。这意味着将所有内容都放入数学方程式中。然后,您可以使用计算机复制它。问题只是我们无法写下并创建这些方程式。

计算机芯片人工智能头部轮廓
数字趋势图

BS:世界上许多最有趣的事情都发生在我们无法接近的粒度级别上。我们只是没有成像设备,而且我们可能永远也不会有成像设备来捕捉大脑非常精细的水平上发生的大部分事情。

这意味着我们不知道,例如,意识是由什么负责的。事实上,有一系列非常有趣的哲学问题,按照我们所遵循的方法,这些问题总是无法解决的——所以我们应该忽略它们。

另一个是意志的自由。我们非常赞成人类有意志的观点;我们可以有意图、目标等等。但我们不知道这是否是自由意志。这是一个与大脑物理有关的问题。就我们现有的证据而言,计算机不可能有意志。

DT:这本书的副标题是“人工智能无所畏惧”。你提到的具体恐惧是什么?

BS:这是由关于奇点的文献引起的,我知道你很熟悉。尼克博斯特罗姆、大卫查默斯、埃隆马斯克等。当我们与现实世界中的同事交谈时,我们清楚地意识到,人们确实存在某种恐惧,即人工智能最终会接管并改变世界,从而损害人类。

我们在书中有很多关于 Bostrum 类型论证的内容。反对他们的核心论点是,如果机器不能有意志,那么它也不能有邪恶的意志。没有邪恶的意志,就没有什么好怕的。现在,当然,我们仍然可以害怕机器,就像我们可以害怕枪支一样。

但那是因为机器是由具有邪恶目的的人管理的。但是,邪恶的不是人工智能,而是人工智能。是构建和编程人工智能的人

DT:为什么人们对奇点或通用人工智能的概念如此感兴趣?无论他们是害怕还是着迷,这个想法总能引起广泛的共鸣。

JL:有一个想法,始于 19 世纪初,然后由尼采在那个世纪末宣布,上帝已经死了。由于我们社会的精英不再是基督徒,他们需要一个替代者。马克斯·施蒂纳(Max Stirner)和黑格尔的学生卡尔·马克思一样,为此写了一本书,他说:“我是我自己的上帝。”

如果你是上帝,你也想成为一个创造者。如果你能创造出超级智能,那么你就像上帝一样。我认为这与我们文化中的过度自恋倾向有关。我们在书中没有谈论这个,但这向我解释了为什么这个想法在我们这个没有超然实体可以求助的时代如此有吸引力。

具有计算机文本滚动人工智能的大脑
克里斯·德格劳/数字趋势,盖蒂图片社

DT:有趣。因此,为了实现这一点,人工智能的创造——或创造人工智能的目标——是一种自恋行为。在那种情况下,这些创造物会以某种方式变得比我们更强大的概念是一个噩梦般的转折。是孩子害了父母。

JL:有点像,是的。

DT:如果每个人都相信你的论点,你的书的最终结果是什么?这对人工智能发展的未来意味着什么?

JL:这是一个非常好的问题。我可以准确地告诉你我认为会发生什么——而且将会发生。我认为在中期人们会接受我们的论点,这将创造出更好应用的数学。

所有伟大的数学家和物理学家都完全意识到他们在数学上所能达到的局限性。因为他们意识到这一点,所以他们只关注某些问题。如果你很清楚这些限制,那么你就会走遍世界,寻找这些问题并解决它们。爱因斯坦就是这样找到布朗运动方程的。他是如何提出相对论的;普朗克如何解决黑体辐射,从而开创了物质的量子理论。他们有一种很好的直觉,哪些问题可以用数学解决,哪些不可以。

如果人们了解我们书中的信息,我们相信,他们将能够设计出更好的系统,因为他们将专注于真正可行的事情——并且不再在无法实现的事情上浪费金钱和精力。

BS:我认为有些信息已经传达了出来,不是因为我们所说的,而是因为人们在向人工智能项目投入大量资金时的经验,然后人工智能项目失败了。我猜你知道联合人工智能中心。我不记得确切的金额,但我认为大约是 100 亿美元,他们给了一位著名的承包商。最后,他们一无所获。他们取消了合同。

(编者注:JAIC 是美国武装部队的一个分支机构,旨在加速“人工智能的交付和采用,以实现大规模的任务影响。”它被并入一个更大的统一组织,即首席数字和人工智能官,今年 6 月与另外两个办事处。JAIC 不再作为自己的实体存在。)

DT:从高层次上讲,你认为你在书中提出的最引人注目的论点是什么?

BS:每个人工智能系统本质上都是数学的。因为我们无法对意识、意志或智能进行数学建模,所以无法使用机器进行模拟。因此,机器不会变得智能,更不用说超级智能了。

JL:我们大脑的结构只允许有限的自然模型。在物理学中,我们选择适合我们数学建模能力的现实子集。这就是牛顿、麦克斯韦、爱因斯坦或薛定谔获得他们著名而美丽的模型的方式。但这些只能描述或预测一小部分系统。我们最好的模型是我们用来设计技术的模型。我们无法创建一个完整的有生命的数学模型。

为了长度和清晰度,本次采访已经过编辑。