作为堡垒的常识与意义

读《Artificial Intelligence: A Guide for Thinking Humans》

读书笔记
人工智能
作者

Melanie Mitchell

发布于

2024-01-29

前四部分是人工智能科普,比规规矩矩的教材更好上手,收获很大。但也还需要配合其它书籍和实操才能完全吸收。最精彩的是第五部分《常识——人工智能打破意义障碍的关键》,作者论述了五个人类最为基本的常识。(1)直觉认知:作为社会性生物,人类在婴幼儿时期即开始形成直觉心理能力,该能力使个体能够感知并预测他人的情感、信念与目标。这种直觉认知的内在机制构成了人类认知发展的基础,并在个体学习与思维过程中扮演着关键角色。(2)心智模拟:人类对情境的理解根植于潜意识中的心智模拟过程。这种心智模拟不仅涵盖个体直接参与的情境,还包括对未见、未闻或未直接体验情境的理解。(3)隐喻认知:人类通过将核心物理知识应用于抽象概念的理解,形成了一种隐喻认知机制。例如,通过手持一杯热咖啡来激活心理上的“温暖”概念,反之亦然,这种隐喻认知在处理抽象概念时发挥着重要作用。(4)抽象与类比能力:心智模型的建设与运用依赖于人类的两种基本认知本能:抽象与类比。抽象能力使个体能够识别特定概念或情境所属的更广泛类别,而类比能力则构成了抽象与概念形成的基础,并在个体无意识行为中广泛存在。(5)元认知:人类智能的不可或缺成分之一是自我思维能力的感知与反思,即元认知。这一概念在心理学领域内探讨较少,但其在人类认知过程中的作用不容忽视。元认知能力的存在使个体能够对自身认知过程进行监控与调整,从而提高认知效率与准确性。

人类能够以某种深刻且本质的方式理解他们所处的情境,这是目前任何最先进的人工智能都无法具备的理解力。尽管现代人工智能在特定任务上表现出色,如图像识别、语言翻译和游戏对战等,但这些成就都并未表明人工智能已经越过「意义的障碍」。体现在以下几个方面:(1)非人类式错误:人工智能在处理复杂情境时,可能会产生与人类直觉和经验相悖的错误。(2)抽象与迁移能力不足:人工智能难以将学到的知识抽象化并应用于新的、未预见的情境中。(3)常识的缺失:人工智能缺乏对日常生活中常识的理解,这在需要常识推理的任务中尤为明显。(4)对抗式攻击的脆弱性:人工智能在面对精心设计的对抗性攻击时,往往显得脆弱,无法有效应对。

最后作者展示了自己的心路和研究成果,可以预定为接下来探索的切口。至于让 AI 通过常识、直觉、抽象和类比来理解人类世界,这我想起一个笑话。老板在面试会计的时候问:「你愿意为公司做什么事情」?人工智能回答:「我愿意为公司做任何我能做的事情」。人类回答:「我愿意为公司坐牢」。但如果哪一天人工智能也回答出了后者,那意味着什么呢?