- · 《水科学与工程技术》栏[05/19]
- · 《水科学与工程技术》数[05/19]
- · 《水科学与工程技术》收[05/19]
- · 《水科学与工程技术》投[05/19]
- · 《水科学与工程技术》征[05/19]
- · 《水科学与工程技术》刊[05/19]
科学的进步将取决于人类还是AI ?(2)
作者:网站采编关键词:
摘要:理解与预测之间的巨大分歧呼应了巴鲁克·斯宾诺莎 (Baruch Spinoza) 对历史的见解: “分歧不是源于对真理的热爱,而是源于对控制权的过分渴望。” 未
理解与预测之间的巨大分歧呼应了巴鲁克·斯宾诺莎(Baruch Spinoza)对历史的见解: “分歧不是源于对真理的热爱,而是源于对控制权的过分渴望。”未来的战斗是大脑和算法谁会成为科学王国的主人。
悖论及其感性的表亲——幻觉,提供了两个有趣的例子,说明了预测和理解之间的混乱关系。两者都描述了这样的情况:我们以为我们理解了某些东西,但其实只是遇到了特殊情况。理解的过程似乎不那么容易理解。
某些最著名的视觉错觉会在同一物体的两种不同解释之间“翻转”,例如面花瓶、鸭子兔子[1]和内克尔立方体(Necker cube)(线框立方体,可以在两个方向之一感知,而任一面都最接近观看者)。所有人都知道现实生活中的物体并不会真正像这样打开一角,但这正是我们的感官在告诉我们的。痴迷于鸭兔错觉的路德维格·维特根斯坦(Ludwig Wittgenstein)提出,人们首先按照一种主要的解释来观察一个物体,而不是仅仅在看到一个物体之后才去理解它。 我们所看到的就是我们希望看到的。
认知科学家理查德·格里高里(Richard Gregory)在他的精彩著作《看穿错觉》(Seeing Through Illusions,2009)中称错觉为“挑战我们现实感的奇怪感知现象”。他解释了它们是如何发生的,这是因为我们的理解是基于多个具有不同规则的系统的预测而得出的。在内克尔立方体中,每个感知都与三维空间中的感知数据一致。但是缺乏深度线索意味着我们无法确定哪种解释是正确的。因此,由于缺乏对空间足够的理解,我们在两个预测之间切换。
像幻觉一样,悖论使得直觉与关于世界的基本事实相冲突。悖论是自相矛盾或逻辑上站不住脚的论点或观察的结论。它们在自然科学中经常出现,尤其是在物理学上:无论是其哲学还是科学具象中。 双生子佯谬[2]、爱因斯坦-波多尔斯基-罗森佯谬[3]和薛定谔的猫[4],都是由相对论或量子力学的基本结构而来的悖论。这些与观测佯谬(例如在双缝[5]实验[6]中观测到的波粒二象性)完全不同。然而,在这两种悖论中,人类基于平时因果推理的理解与实验的预期结果不一致。
当规则被应用于
结构不同的输入时,
我们可以预期会出现奇怪的现象
甚至机器也可能遭受悖论的困扰。“辛普森悖论”[7]描述了一种情况,即 对于单个数据集中独立出现的趋势,当数据集组合在一起时趋势可能消失甚至逆转,这意味着一个数据集可用于支持相互竞争的结论。此类情况在体育运动中经常发生。在任何给定的赛季中,单身选手的表现都优于其他选手。但是,如果将多个赛季组合在一起,则由于绝对差异 (例如总比赛次数、击球次数等),这些球员将不再领先。还有一种称为“准确性悖论”的事物,其 出于循环论证的原因表现优异。也就是说,他们的解决方案实际上已经应用于到他们的事例中。这背后有许多算法偏见 [8]的例子,其中基于种族[9]和性别的少数群体经常被错误分类:这是因为用作准确性标准的训练数据来自我们自己偏见且不完美的世界。
关于悖论的最严格的工作也许是库特·哥德尔(Kurt G?del)在《数学原理和相关系统形式上不确定的命题》(Formally Undecidable Propositions of Principia Mathematica and Related Systems,1931)中进行的。哥德尔发现,在每个严格形式化的数学系统中,从系统本身的公理派生出来的陈述,无法得到确认或反驳。 形式化系统的公理允许出现矛盾的可能性,而这些矛盾构成了悖论的基础。哥德尔的基本见解是,任何规则系统都具有适用的自然领域。但是,如果将规则应用于被其他规则支配的结构中,那么我们可以预期会出现奇怪的现象。
这正是对抗神经网络可能发生的情况。在对抗神经网络中,两种算法相互竞争以赢得一场比赛。一个网络可以被训练用来识别一组对象,例如停车标志。同时,它的对手可能会对新的数据集进行一些恶意的小修改,例如移走一些像素的停止移动标志,这导致第一个网络将这些图像归类为限速标志。从人类的角度来看,对抗性分类看起来极度愚蠢。但是,正如哥德尔所理解的那样,从神经网络中隐藏的编码规则系统的角度来看,它们可能是自然出现的错误。
文章来源:《水科学与工程技术》 网址: http://www.skxygcjs.cn/zonghexinwen/2021/1029/1307.html