如果机器能帮我们学习,那么有多少东西能够被遗忘?

如果机器能帮我们学习,那么有多少东西能够被遗忘?

如果机器能帮我们学习,那么有多少东西能够被遗忘?

费曼高中时候的微积分笔记:“这一次我试着用这种方式将它记在脑子里,而不是忘记。这样我就学过微积分了。”

如果机器能帮我们学习,那么有多少东西能够被遗忘?

作者丨Gene Tracy

○ 费曼高中时候的微积分笔记:“这一次我试着用这种方式将它记在脑子里,而不是忘记。这样我就学过微积分了。” | 图片来源:Physics Central / Niels Bohr Library and Archive

如果机器能帮我们学习,那么有多少东西能够被遗忘?

在我还是个学生时的遥远年代,大多数计算机都还是体型巨大的机器。当时我有一个朋友,他的博士导师坚持让他对一个冗长又困难的原子理论进行手写计算。他用掉了一页又一页的草稿纸,上面充满了错误。于是最终他屈服于自己的挫败感,在一个晚上他偷偷溜进计算机实验室,写了一段简短的代码来进行计算,再费力地将输出结果抄写下来,交给了他的导师。

“完美!”他的导师说,“这才表明你是一个真正的物理学家”。导师显然对发生的事情一无所知。虽然后来我和这位朋友失去了联系,但我认识许多没有像老一辈那样精湛地掌握纸笔运算技巧,却同样成功地开拓了自己的科学事业的人。

在讨论社会转型时,我们通常都会关注那些至关重要的新技术。但是,相比于关注我们正在学些什么,或许我们应该思考的是相反的问题:什么是我们可以安然忘记的?2018年,《科学》杂志向数十名年轻科学家提出“学校应该教给下一代什么”的问题。许多人说,我们应该在记忆事实方面少花些时间,为更有创造性的事物提供更多的空间。

互联网已发展得越来越强大和全面,因此我们为何还要费心去记住和保留信息?如果学生可以通过智能手机接触到整个世界的知识,为什么还要求他们往脑袋里塞下那么多知识?

人类文明是通过策略性地遗忘一些曾被认为是至关重要的生活技能才得以演化的在新石器时代的农业革命之后,一个农场工人可以抛下很多关于森林的知识、追踪动物的技能,以及其他一些对狩猎和采集至关重要的知识。在随后的几千年里,社会逐渐工业化,阅读和写作变得至关重要,或许就能将耕作与收割的知识弃之不顾。

现在,如果没有智能手机的GPS,许多人很快就会迷路。所以接下来会发生什么?有了无人驾驶汽车,我们会忘记如何亲自驾驶吗?如果识别语音的人工智能可以解析出最微妙的话语表达,我们会忘记如何拼写吗?而且,这些都无关紧要吗?

毕竟,我们中的大多数人已经不知道如何种植我们吃的食物,也不知道如何建造我们居住的房屋。我们不懂畜牧业,不懂如何纺羊毛,甚至不懂如何更换汽车上的火花塞。大多数人不需要知道这些事情,因为如社会心理学家所说,我们是“交互记忆网络”里的成员。

我们不断地通过对话、阅读和写作等活动,与一个有“记忆搭档”的社区进行“记忆交易”。作为这个社区的成员,多数人不再需要记住大部分的事情。这并不是因为知识已经全然被遗忘或丧失,而是因为会有别的人或别的东西来记住它们。我们只需要知道找谁交谈,或者到哪里去查找就足够了。这种合作行为是进化赠与我们的遗传天赋,它极大地扩展了我们的有效记忆能力。

然而新的情况是,我们的许多记忆搭档如今都是智能机器。但是,像Google搜索这样的人工智能是独一无二的,它反应迅速、随时可用,更像是一个“超级记忆搭档”。它让我们得以接触到人类知识宝库中的很大一部分。

研究人员发现了当前形势下的几个陷阱。首先,我们的祖先是从其他人类群体中逐渐演化而成的,这是一种对等式的记忆网络。然而,来自他人的信息总是会受到各种偏见和动机性推理的影响。他们会对事物进行掩饰和合理化,还可能会犯错。我们已经学会适应他人与自身的这些缺陷;但人工智能算法的出现使许多人倾向于相信,这些算法必然是正确和“客观”的。简而言之,这是一种神奇的思维。

现如今,最先进的智能技术都是通过反复的测试和评分过程训练得来的,人类仍要对它们进行最终的合理性检查,并为其选定正确的答案。由于机器必须在有限的数据集上进行训练,人类会在一旁进行裁断,因此算法往往会放大我们已有的关于种族、性别等问题的偏见。

在2017年之前,亚马逊公司就曾使用过一个成为了这一问题的经典案例的内部招聘工具:在使用内部人力资源部门的数据进行决策训练之后,公司发现这个算法会系统性地排除女性候选人。因此,如果我们不提高警惕,我们的人工智能超级伙伴就可能会变成超级偏执狂。

第二个困境与获取信息的便利性有关。在非数字领域,我们向其他人或者去图书馆寻求知识时所需付出的努力能让我们清楚地知道,他人的头脑里或书本中都有着怎么样的知识。但研究人员发现,互联网反应的完美敏捷度会导致错误的信念,它让人们以为自己寻求的知识是自己原本就已知的东西的一部分,这种错误的信念会被编码在后来的记忆中。

也许这些结果表明,我们有一种“延展心灵”的本能——这是哲学家David ChalmersAndy Clark在1998年首次提出的观点。他们认为,我们不应该把我们的心智仅仅视为是包含在物理大脑中的事物,还应该向外延伸到包括辅助记忆和推理的工具上:比如记事本、铅笔、计算机、平板电脑和云端等。

鉴于我们对外部知识的无缝访问越来越多,或许我们正在发展出一个更加延展的“自我”——这是一个潜在的角色,在他膨胀的自我想象中,具有“知识就在我记忆网络中的某处停留”的模糊印象。如果是这样的话,那么当脑-机接口,或者也许是通过神经植入实现的脑-脑接口变得普遍时,又会发生什么?

这些技术目前正在研发中,以供那些患有闭锁综合征、中风、ALS(运动神经元病)的患者使用。但当技术变得完善时,它们很可能会变得更加常见——成为在一个竞争激烈的世界中的机能辅助工具。

一种新的文明似乎正在出现,它是一种富含机器智能的文明,它使我们与灵活的人工记忆网络相连的接口无处不在。即使有了神经植入,大部分我们会去访问的知识也不会停留在我们已经“升级”过的“赛博格”大脑中,而是会远程地存储在服务器银行中。眨眼之间,从启动到响应,每一次的谷歌搜索从到达一个数据中心再返回,平均需要要经过大约1500英里(约合2400公里)的路程,在整个过程中使用大约1000台计算机。

但是对网络的依赖也意味着新的弱点产生了。人类的福祉(如食物或能源)所依赖的任何关系网络一旦崩溃,都将会引发一场灾难。没有食物我们就会忍饥挨饿,没有能源我们就得蜷缩在寒冷中瑟瑟发抖。正是由于记忆的普遍丧失,文明才可能要陷入这样一个隐约可见的黑暗时代。

但是,即使可以说机器会思考,人类和机器的思考方式也是不同的。我们具有能与之抗衡的优势,而且机器常常并不比人类更客观。通过与人工智能合作,我们能下出更高明的棋局,也可以做出更好的医疗决策。所以,为什么不使用智能技术来促进学生的学习呢?

技术可以潜在地改善教育,极大地拓宽获取途径,促进人类的创造性和福祉。许多人已经觉察到了自己正处在某种过渡的文化空间里,巨大的变化即将发生。或许教育工作者最终会与人工智能伙伴合作,成为更好的教师。但与象棋或医学诊断中的协作不同的是,在教育环境中,学生还不是成熟的专家。人工智能作为无所不知的记忆搭档,很容易会成为一根拐杖,培养出一些自认为可以独立行走的学生。

我的那位物理学家朋友的经验告诉我们,记忆是可以适应和演化的。这种演化必然包括忘掉旧的方式,以便腾出时间和空间来学习新的技能。如果旧的知识形式被保留在我们网络中的某个地方,并且在我们需要的时候就可以找到,那么也许它们并没有被真正遗忘。即便如此,随着时间的推移,一代人总会慢慢而又毫无疑问地成为下一代人的陌生人。

原文标题为“How much can we afford to forget, if we train machines to remember? ”,首发于2019年4月8日的Aeon。原文链接:https://aeon.co/ideas/how-much-can-we-afford-to-forget-if-we-train-machines-to-remember. 中文内容仅供参考,一切内容以英文原版为准。

 

本文由 产业新干线 作者:NovaLink 发表,其版权均为 产业新干线 所有,文章内容系作者个人观点,不代表 产业新干线 对观点赞同或支持。如需转载,请注明文章来源。

发表评论