AI能否培养出“良知”：我们对话了《良知：道德直觉的起源》作者

人工智能能学到人类社会的道德和价值观吗？人工智能系统能否在对不同人群的伤害和收益之间做出权衡决定？人工智能能学会判断对错吗？归根结底，人工智能能有“良心”吗？

考虑到目前的AI系统只能完成几个针对性很强的任务，似乎我们还远远没有考虑到上述问题。然而，随着科学不断开拓新的视野，人工智能正在走向更广阔的领域，甚至包括刑事司法和招聘分析等场景，在这些场景中，很难用明确的好坏定义来划分界限。

未来我们希望AI系统能够照顾老人，引导孩子成长，完成很多其他需要做出道德判断的任务。到那时，人工智能的良知和良知将变得至关重要。

围绕这些问题，我搜索了很多相关的著作，这些著作解释了人类是如何一步步发展良心的，也解释了人类对大脑的理解是否能够为AI技术的未来发展提供指导。

我的一个好朋友向我推荐了一本《良知：道德直觉的起源》 (Society :道德直觉的起源)的书，作者是加州大学圣地亚哥分校的神经科学家和哲学家帕特里夏丘奇兰德教授。邱奇兰德博士让我了解了很多脑科学的研究成果和目前的局限。这本书让我们意识到，当前人类对大脑物理结构和运行机制的认识与人类道德观念之间确实存在联系。最重要的是，这本书提醒我们，如果我们真的想了解人类是如何做出道德决定的，我们需要付出更多的努力，克服更多的困难。

对于任何一个有兴趣探索人类良知的生物背景，反思AI技术与良知的交集的朋友来说，这都是一部既易读又意味深长的杰作。

在这里，我们对本书的核心要旨做一个简要的总结：大脑是AI的主要蓝图，对良知的理解将有助于我们引导AI更准确地学习人类社会的道德规范。

学习系统

丘奇兰德在她的书中写道：“良心是个人对是非问题的一般判断，它往往(但不总是)反映了个人所持有的某种群体标准。”

但是人类是如何培养理解是非的能力的呢？为了回答这个问题，丘奇兰德博士带我们回到过去，从地球上最早的温血动物开始。

鸟类和哺乳动物属于温血动物，它们的身体总是保持一定的温度。相应地，爬行动物、鱼类、昆虫等冷血动物的体温与环境温度一致。

恒温最大的好处是保证动物在夜间甚至寒冷的天气里也能继续活动。但是作为代价，温血动物必须吃更多的食物来保持体温和正常生活。这一基本要求推动了温血动物大脑的一系列进化，将他的智力推向了一个新的高度。最值得注意的是哺乳动物大脑皮层的发育。

大脑皮层可以整合各种信号，从中提取与生存和一系列活动有关的事件和事物的抽象表征。大脑皮层可以建立一个学习、整理、修改、回忆然后继续学习的迭代循环。

与昆虫和鱼类相反，哺乳动物发达的皮层使其对气候和景观具有更灵活的适应性，从而突破了昆虫和鱼类对环境稳定性的高度依赖。

但是这种学习能力也是有代价的：哺乳动物天生就比较弱，更需要照顾。与蛇、龟、昆虫不同，哺乳动物的幼崽在出生时不能很快适应环境，但它们需要花时间学习和培养自己的生存技能。

正因为如此，哺乳动物发展出了相互依存的群体共生关系。

社会行为的发展

所有生物的大脑中都有奖励和惩罚机制，可以保证它们做有利于个体生存和基因延续的事情。哺乳动物的大脑利用这一功能来适应社会行为。

丘奇兰德写道：“在哺乳动物的进化过程中，它们总是依靠快乐和痛苦来支撑自己的自我生存活动，而这一切都逐渐导致了亲缘关系。这是自爱感觉的自然延伸。——发展成其他类型的爱。”

这种变化的主要受益者是哺乳动物的后代。进化引起了哺乳动物大脑回路的变化，这可以奖励对婴儿的照顾。母亲(甚至一些物种群体中的父母)会尽最大努力保护和喂养后代，尽管这通常不利于他们自己的生存。

在《良知》一书中，丘奇兰德描述了对不同哺乳动物大脑的生化反应实验，发现正是这些反应奖励了包括照顾后代在内的社会行为——。

“哺乳动物的社会性与其他缺乏皮层的群居动物(如蜜蜂、白蚁和鱼类)在质量上有很大不同。哺乳动物的社会行为比较灵活，大多不是反射性行为，对环境突发事件和各种证据条件也非常敏感。换句话说，哺乳动物的社会大脑赋予它们良好的短期和长期敏感性，从而帮助它们在丰富的社会活动中理解其他个体的意图和期望。"

人类社交行为

人类的大脑皮层有着所有哺乳动物中最大、最复杂的皮质结构。智人的脑容量达到黑猩猩的3倍，而黑猩猩在5800万年之前与我们拥有着共同的祖先。

较大的脑容量当然可以提升我们的智力水平，但也会消耗掉更多能量。那我们要怎么抵平这份逃不掉的热量账单呢？Churchland写道，“学会用火煮饭可能代表着一种革命性的行为转变，它使原人的脑容量远远超过黑猩猩的大脑，并在后续的进化时期内迅速扩展。”

在满足了人体对于能量的需求之后，原人最终能够完成更多复杂的任务，包括发展出更丰富的社交行为与社会结构。

因此，我们今天在人类特种中看到的复杂行为，包括对道德规范及规则的遵循，最初完全出于对生存以及满足能量供应的需要。

Churchland在书中写道，“能源约束与习惯或哲学无关，而是一种冷冰冰的自然法则。”

我们的遗传进化有利于社交行为，道德规范则以切实可行的解决方案姿态出现。与其他所有生物一样，我们人类同样受到进化定律的约束，Churchland将其描述为“一个盲目的过程，没有任何目标，只是在既定的结构当中左冲右突。我们的大脑结构，就是无数次实验和调整的结果。”

Churchland写道，“有些大脑回路负责支持社交与自我照料，有些则负责支持社交规范，正是这些回路之间的彼此交互，创造出了我们所谓的良知。从这个意义上讲，良知是大脑物理构造的必然体现，其通过关心自己、关心他人这一本能，发展、模拟并转化出特定的行为。”

这是一个非常敏感且复杂的话题。尽管脑科学取得了不小的进步，但人类思维与行为中的不少奥秘仍未被我们所理解。

Churchland写道，“能量需求在原人的道德起源中占据着主导地位，但具体的形成过程仍然不太明确。无论这些美德从何而来，它都最终支撑起我们这些社会人的基本属性，让我们有了值得称道的行为模式。这一切，正是让我们能够成为人类的重要前提。”

人工智能与良知

在书中，Churchland还讨论了不少其他主题，包括强化学习在社交行为发展中的作用，以及人类皮层怎样实现经验学习能力、反思与现实不符的理解方式、发展出认识世界的模型、从相似的事物中提出相似的模式等。

基本上，我们采用的仍然是先祖们赖以生存的奖励机制，并通过复杂的分层皮质在社交环境中做出非常复杂的决定。

Churchland写道，“道德规范是在紧张的社会局势下出现的，同样以生物为基础。学习社会实践依赖于大脑中的奖励与惩罚机制，同时也依赖于大脑自身解决问题的能力。”

在读完《良知》一书后，我对良知在AI中的作用仍有很多疑问。良知会成为人工智能的必然产物吗？如果说对能量的需求以及个体能力的有限性促使我们发展出社会规范与负责任的行为模式，那么AI能否发展出类似的机制？来自现实世界的经验与感受，在智能发展中是否同样起到至关重要的作用？

幸运的是，我获得了跟Churchland博士面对面交流的机会。

亲身体验是AI发展出良知的必要条件吗？

从Churchland博士的研究成果中可以看出，亲身体验与物理层面的制约因素在人类及其他动物的智能发展当中发挥着重要作用。

但如今，当我们讨论人工智能时，关注的主要是诸如人工神经网络等软件架构。目前的AI主要体现为无形的代码行，这些代码行运行在计算机与服务器上，负责处理通过其他方式获取的数据。从这个角度来看，亲身体验会是AI发展出良知的必要条件吗？或者说如果没有这两大因素，AI能否理解并遵循人类社会中的道德规范与规则？

Churchland回应道，“机器的解剖结构与人脑的解剖结构有着巨大差异，所以我们很难判断其行为的灵活性。对于生物系统（奖励机制）而言，强化学习系统无疑至关重要。奖励与惩罚的存在，能够帮助有机体确切了解自身所处的真实环境。但在人工神经网络中情况是否也是如此，我们还不太清楚。”

她还指出，我们甚至连大脑是如何思考的都搞不清楚。她补充道，“要了解这一点，我们不一定需要在人工大脑中完全复制生物大脑的每一项特征，也同样能够重现一部分行为。”

她同时提醒道，虽然AI社区最初并不太赞成选择神经网络这条发展道路，但在其计算要求得到满足之后，事实证明这条道路确实带来了理想的效果。虽然目前的神经网络与人类大脑相比仍然智能程度有限，但未来仍有可能带来新的、前所未有的重大突破。

她表示，“我们目前能够确定的唯一结论，就是哺乳动物可以通过脑内的皮质、奖励机制与皮层下结构学习事物并进行泛化，整个过程不需要过多的数据。相比之下，目前的人工神经网络已经可以在人脸识别等领域带来远超哺乳动物的表现，但这依靠的是强大的数字处理能力和海量训练数据的支撑。”

“作为有进取心的工程师，现在正是在AI领域做出种种探索的最佳时机。也许你可以尝试在人工神经网络中建立「情感」，这绝对是个重要的课题。”

我们有必要在AI中重现大脑中的细微物理差异吗？

我个人从《良知》中获得的一大启示，在于人类既愿意遵循社会规范、有时候又愿意挑战规则。每个人的脑部都拥有独特的物理结构，我们继承自父母的基因以及现实生活中经历的种种都会通过这种种细微差异为我们带来新的规范与思想，有时候甚至会与之前的固有思想和观念相违背。

而AI最广受好评的一大特性，在于其稳定的可重复性。在AI算法创建完成之后，你可以将其复制无数次，部署到必要的任意设备当中，而每套模型都将采用完全相同的最新参数配置。但问题在于，如果所有的AI都具有同质性，它们的社交行为是否会保持在静止状态，最终失去当初曾驱动人类社会及行为进步的差异化动力？

Churchland认为，“除非我们在生物大脑的工作原理层面建立起更深入的理解，否则真的很难回答这个问题。我们只知道要想从神经网络中获取复杂的结果，依靠的并不是体液、线粒体、核糖体或者蛋白质。但这种简化过程能做到什么程度才刚刚好不会失真？我们还不知道。”

“没有数据，人将只是个有想法、没依据的生物。而目前，没有任何数据能告诉我们需要模拟强化学习系统中的哪些特定回路才能建立起智能网络。”

“工程师们不妨从这个角度试试看。”

总而言之，我们还无法完全破解人类良知的谜题，自然难以判断高度智能的机器会不会拥有类似的认知理念。Churchland在书中提到，“我们无法准确了解大脑是怎么在身体倒立时学会保持平衡的。

但随着时间推移，它就是做到了。同样的，我们也不知道大脑究竟是如何学会在复杂的社会中总结经验的。”但随着我们不断观察并分析大脑的秘密，相信总会创造出具备真正智能、足以服务于全人类的强大AI。