01课程教学目标の【参考阅读1】补充@《信息技术教育导论》

以下是布鲁纳论述学科结构 的原文 ，参见：[美]布鲁纳著，邵瑞珍译：《教育过程》，《布鲁纳教育论著选》，人民教育出版社2018年版，第20～41页 ：

一 引论··20

……

学科的结构是什么意思，需要在这里稍为详细地解释一下，因为在后文中我们将常有机会再回到这个概念上来。从生物学、从数学和从语言的学习中举三个简单的例子，来把这个概念解释得更清楚些。先取对尺蠖在爬行的观察为例。江南坐标纸贴在平板上，让尺蠖在坐标纸上爬行。当平板的位置是水平时，这个动物沿垂直线前进。当我们把平板向上倾斜30度，可以看到，这个动物不是向

第23页

上直走而是沿着与垂直线成45度角的方向前进。然后，我们再把平板倾斜到60度，这个动物会沿着与垂直线成什么角度的方向行进呢?比如说，它沿着与垂直线成75度角的路线行进。根据这两个测定，我们可以推断，尺蠖如果不得不向上爬的话，它“情愿”沿15度的倾斜面行进。我们在生物学上，已经发现了“向性”这个东西，实在就是向地性。这不是个孤立的事实。我们能够继续证明，在低级生物中，这种遵照固定的准则来调整运动的现象是一个规律。低级生物趋向于某种喜爱的光度、喜爱的咸度、喜爱的温度等。学生一旦领悟了这个介于外界刺激与行动之间的基本关系，他就很好地走在处理许许多多看来似乎生疏但实际密切关联的知识的道路上了。蝗虫的成群飞行的时候，它们飞行的密度是由温度的。在不同海拔山区各种昆虫物种的保存，是由于每种昆虫只在它所喜爱的氧气区域飞行的倾向阻碍了它们间的杂交。这些现象以及许多其他生物学的现象，都能根据向性来理解。掌握事物的结构，就是以允许很多别的东西与它有意义地联系起来的方式去理解它。简单地说，学习结构就是学习事物是怎样相互关联的。

可以更扼要地从数学中举一个例子。代数学就是把已知数同未知数用方程式连接起来，使得未知数成为可知的一种方法。解这些方程式所包含的三个基本法则，是交换律、分配律和结合律。学生一旦掌握这三个基本法则所体现的思想，他就能够认识，要求解的“新”方程式完全不是新的，它不过是一个熟悉的题目的变形罢了。就迁移来说，一个学生是否知道这些运算法的正式名称，比起他是否能够应用它们来，是次要的。

学习结构经常是无意识的。这个性质，也许能在人们学习本族语中得到最好的说明。儿童在掌握了一句话的微妙结构之后，他就根据这个句型，很快地学会说出许多其他语句，虽然在内容上与原来所学语句不同。再者，儿童弄懂了变换一些句型而不改变它们

第24页

的意义——“狗咬人”与“人被狗咬”——的规则之后，他就能更广泛地变换他的语句了。但是，儿童尽管有使用英语结构规则的能力，他们肯定还不能说出这些规则是什么。

制订物理学和数学课程的科学家们已经非常留意教授这些学科的结构问题，他们早期的成功，可能就是由于对结构的强调。他们强调结构，刺激了研究学习过程的人。读者将发现在后文中多次反映了对学科结构的强调。

无疑地，人们先要正视一般的问题，然后才能考虑课程、顺序等特殊问题。任何人只要一开始问到关于各专门课程的价值问题，他就是在问关于教育的目标问题。课程建设是在这样一个世界中进行的，那里，变动着的社会、文化和政治情况不断地改变着学校和学生的周围环境和它们的目标。我们关心为美国人，为他们在复杂世界上的生活方式和需要而设计的课程。美国人是变动着的人民；他们在地理上的流动性，迫切需要在中学和小学里有一定程度的一致性。可是，美国社会和美国生活的多样性，大体说来，又同样迫切需要课程具有一定程度的多样性。同时，不管多样性和一致性的要求给教育规定什么限度，还要满足产量的要求：我们是否生产了足够的学者、科学家、诗人、法官来满足我们时代的需要?再者，如果学校要履行它们为民主社会的生活和良好的家庭生活做准备的教育职能的话，它们还得致力于儿童的社会的和情感的发展。如果说后面着重讨论的主要是智育方面，这并不意味着教育的其他目标不那么重要。

我们也许可以把培养优异成绩作为教育的一般的目标；但是，应该弄清楚追求优异成绩这个说法指的是什么意思。它在这里指的，不仅要教育成绩优良的学生，而且也要帮助每个学生获得最好的智力发展。强调学科结构的良好教学，对能力较差的学生比起对有天才的学生来，可能更为宝贵，因为最容易被质量差的教学抛弃的，正是前者而不是后者。这并不是说所有学生需要同样的课程

第25页

内容或步调——虽然，正象一位参加会议的成员指出的，“当你教得好时，总好象有百分之七十五的学生超过中数似的”。仔细的调查研究会告诉我们，在什么地方应该区别对待。有一件事情是清楚的：如果促使所有的学生充分利用他们的智力，就将使我们这个处于工艺和社会异常复杂的时代的民主国家，有更好的生存的机会。

后面各章将使人感到，它们或多或少是在专门叙述数学和自然科学以及怎样把这些学科教得最好。不应该把这当作偏重自然科学和数学训练。说得更恰当一些，它是近十余年来历史发展的一桩偶然事件：仅仅因为有较多的机会来考察这些领域里的进步，因为正是在这些领域内曾经编出了大部分实验性课程。至于在社会学科、人文学科和语言教学诸方面，加倍的努力是不可缺少的。对一个新时代的人来说，通过历史和文学的研究所形成的悲剧和胜利的感受，同通过物理学的研究所获得的物质结构的感受相比较，确是同样重要的。如果人文学科、社会学科以及自然科学都能够对教育新生一代作出它们自己的贡献，它们就都同样地需要富有想象的努力，这一点该是再清楚也没有了。

公立学校里成绩最好的四分之一学生，我们要从中选拔为下一代知识界领导，这些学生恐怕是直到最近还是最被我们学校忽视的一群人。自然科学和数学教学的改善，可能使已观察得出的天才生、中等生和迟钝生这三类学生在这些学科方面的差距更加扩大。即使象现在所存在的差距，已经惹出困难问题来了。大家明了，一般来说，自然科学和数学的能力倾向，跟其他的智能相比，能够较早予以发现。按照理想，学校应准许学生在各门学科中尽快地向前进。可是，一旦要使这样的安排成为可能，行政上所产生的问题显然超出学校可用以处理这些问题的财力、物力之外。问题的答案或许在于：适当改变或废除某些学科(特别是数学)的分年级制度，同时充实其他学科的课程内容。关于为天才生充实课程内容和特殊处理的问题，无疑将说服比较开明、比较富裕的学校去改变当前的

第26页

做法。可是，我们作为一个国家，当然不能允许由于地方财力的不足而压抑了生在比较穷困的市镇或地区的儿童的发展。

下面数章将分述四个题目。第一个题目，已经有所介绍：结构在学习中的作用以及它怎样才能成为教学的中心。这方面的探索是有实际意义的。学生对所学材料的接受，必然是有限的。怎么能使这种接受在他们以后一生的思想中有价值?对这个问题的回答，在已经从事新课程的准备和教学的人们中间，占优势的观点是：不论我们选教什么学科，务必使学生理解该学科的基本结构。这是在运用知识方面的最低要求，这样才有助于学生解决在课堂外所遇到的问题和事件，或者在日后课堂训练中所遇到的问题。经典的迁移问题的中心，与其说是单纯地掌握事实和技巧，不如说是教授和学习结构。有很多事情属于这类学习，其中不少是对使人有可能主动地运用他所理解的材料的习惯和技能的支持。如果先前的学习使往后的学习更为容易的话，那就得提供一个一般的图景，按照这个图景，把先前与往后所遇到的事物之间的关系尽可能弄得清楚。

虽然这个题目很重要，但关于如何有效地教授基本结构或者如何提供形成基本结构的学习条件等问题，还是知道得太少。在专门研究这个题目的那一章里，许多地方讨论如何达成这样的教和学的手段和方法，以及如何进行所需的那些研究工作，以帮助编制强调结构的课程。

第二个题目是关于学习的准备。过去十多年的经验指出这个事实：我们的学校也许以过分困难为理由，把许多重要学科的教学推迟，从而浪费了宝贵的岁月。读者将发现，在专门研究这个题目的那一章里，一开始就提出了这样的命题：任何学科的基本原理都可以用某种形式教给任何年龄的任何人。虽然这一命题最初似乎颇令人吃惊，但其意图则是要强调一下在设计课程时常被忽视的一个重点。这就是，处于一切自然科学和数学的中心的基本观念以及赋予生命和文学以形式的基本课题，它们是简单的，又是强有力

第27页

的。要统率这些基本观念，并有效地运用这些观念，就需不断地加深对它们的理解；而这种理解是通过在愈益复杂的形式中学习运用它们而获得的。只有当这些基本观念是用形式化的术语，如方程式或精心制作的言语性概念来表达时，它们才超越儿童力所能及的范围，倘若他事先从未直觉地理解过这些观念，也没有机会亲自尝试过它们的话。自然科学、数学、社会学科和文学的早期教学，应该在教学中做到所教的知识和所用的教学方法是经过慎重选择的、正确的，同时要强调观念的直觉理解以及这些基本观念的运用。一门课程在它的教学过程中，应反复地回到这些基本观念，以这些观念为基础，直至学生掌握了与这些观念相适应的一整套体系为止。四年级儿童能够玩受拓扑学和集合论原理指导的引人入胜的游戏，甚至会发现新的定理。他们能掌握悲剧的观念和神话里描绘的基本的人间困境。但是，他们不能象成人一样，用正式的词语表达这些观念或运用这些观念。关于循环往复到达较高水平的“螺旋式课程”(spiral curriculum)，很多情况有待查明，仍待回答的许多问题将在第三章里进行讨论。

第三个题目涉及直觉的本质——研究不通过分析步骤而达到似乎是真实的但却是试验性的公式的智力技巧，而这种公式要借助分析步骤才会发现其结论是否正确。直觉思维，即预感的训练，是正式的学术学科(formal academic discipline)和日常生活中创造性思维常被忽视而又重要的特征。敏锐的预测、丰富的假设和大胆迅速地作出的试验性结论，这些是从事任何一项工作的思想家极其珍贵的财富。我们能引导学生掌握这种天赋吗?

前面提到的三个题目，都是以一个中心理念为前提，这个中心理念就是：无论在哪里，在知识的尖端也好，在三年级的教室里也好，智力的活动都一样的。一位科学家在他的书桌上或实验室里所做的，一位文学评论家在读一首诗时所做的，正象从事类似活动而想要获得理解的任何其他人所做的一样，都是属于同一类的活动。

第28页

其间的差别，仅在程度而不在性质。学习物理学的小学生就是个物理学家嘛，而且对他来说，象物理学家那样来学习物理学，比起做别的什么来，较为容易。所谓“别的什么”(something else)，通常指的是掌握伍兹霍尔会议上称做“中间语言”(middle language)，即掌握谈论某一知识领域的结论的课堂讨论和教科书，而不是集中于探求知识本身。要是用那样的方法来进行，那么中学物理学往往看来很不象物理学了，社会学科就远离通常所讨论的生活和社会问题了；还有，中小学的数学也常常失去同该学科的核心——次序的观念——的联系了。

第四个题目讲到学习的欲望以及怎样才可以刺激这个欲望。按照理想，学习的最好刺激，乃是对所学材料的兴趣，而不是诸如等级或往后的竞争便利等外来目标。认为竞争的压力能有效地被消除，或者认为设法消除这些压力是明智的，这种设想肯定是不现实的；然而，怎样能激起对学习本身的兴趣，这个问题却是值得考虑的。在伍兹霍尔会议上，还有许多关于怎样能够改善中小学学习气氛的讨论，范围遍及如此不同的课题，诸如师资训练、学校考试的性质和课程质量的讨论。第五章就是专门讨论这一组问题的。

在伍兹霍尔会议上，相当多地讨论了教学装置：影片、电视、视昕辅助器、教学机器以及教师在教学中可以采用的其他装置，可是，在这个问题上意见不完全一致。所有参加会议的人实际上都同意，教学的主要者是教师，而不是教学装置。不过，在怎么样去帮助教师这一点上，存在着意见的分歧。这里的分歧也许能够用比较重视教师本人，还是比较重视教师所能采用的教学辅助工具这句话来概括，尽管这种概括未免过于简单。这种相反的意见，说得夸大一点，便是：第一种意见认为，在如何讲述某一学科以及采用何种装置的问题上，教师必须是唯一的和最后的主宰者；第二种意见认为，教师应该是讲解员和注释者，去讲解和注释通过影片、电视和教学机器等装置而准备好的材料。前一种意见的含义在于：应该尽

第29页

全力培养教师深刻地掌握他所教学科的知识，从而他能据此尽量搞好工作，与此同时，应该提供最好的资料，以便教师进行选择，编出符合教学大纲要求的讲义。后一种意见则是指：要作大力准备影片、电视节目和教学机器等，并教会教师如何凭借他所掌握的有关学科的知识来使用这些装置。这场辩论是够激烈的，对教育哲学的含义也是很重大的，所以最后一章准备专门讨论这个问题。

总起来说，我们将集中于四个题目和一个设想：结构、准备、直觉和兴趣四个题目，以及在教学工作中怎样最好地帮助教师这个设想。

第30页

二 结构的重要性··31

任何学习行为的首要目的，在于它在将来为我们服务，而不在于它可能带来的乐趣。学习不但应该把我们带往某处，而且还应该让我们日后再继续前进时更为容易。学习为将来服务有两种方式。一种方式是通过它对某些工作（这些工作同原先学习去做的工作十分相似）的特定适用性。心理学家把这种现象称为训练的特殊迁移；也许应该把这种现象称做习惯或联想的延伸。它的效用好象大致限于我们通常所讲的技能。已经学会怎样钉钉子，往后我们就更易学好钉平头钉或削木片。毫无疑问，学校里的学习使学生掌握了某种技能，这种技能可以迁移到以后无论在校内还是离校后所遇到的活动上去。先前学习使日后工作更为有效的第二种方式，则是通过所谓非特殊迁移，或者，说得更确切些，原理和态度的迁移。这种迁移，从本质上说，一开始不是学习技能，而是学习一个一般观念，然后这个一般观念可以作为认识后继问题的基础，这些后继问题开始所掌握的观念的特例。这种类型的迁移应该是教育过程的核心——用基本的和一般的观念来不断扩大和加深知识。

由第二种类型的迁移即原理的迁移所产生的学习连续性，有赖于精通前一章所讲的教材的结构。这就是说，一个人为了能够认识某一观念对新情境的适用性或不适用性，从而拓展他的学识，他对他所研究的对象的一般本质必须心中有数。他学到的观念越是基本，几乎归结为定义，则这些观念对新问题的适用性就越宽广。真的，这几乎是同义反复，因为“基本的”这个词，从这个意义上来理解恰恰就是一个观念具有既广泛而又强有力的适用性。学校课程和教学方法应该同所教学科里基本观念的教学密切地结合起来，当然，这样说明是够简单的。但是随着这样的说明而来的问题却不

第31页

少，其中多数只能靠大量的进一步的研究工作去解决。我们现在转而讨论这方面的一些问题。

首要的和最明显的问题是怎样编制课程，使它既能由普通的教师教给普通的学生，同时又能清楚地反映各学术领域的基本原理。这个问题是双重的：第一，怎样改革基础课和修改基础课的教材，给予那些和基础课有关的普遍的和强有力的观念和态度以中心地位。第二，怎样把这些教材分成不同的水平，使之同学校里不同年级、不同水平的学生的能力配合起来。

关于忠实于教材基本结构的课程的设计问题，过去几年来的经验至少已使我们得出一个重要的教训，这个教训就是：必须使各学科的最优秀的人才参与到课程设计的工作中来。决定美国史这门学科应该给小学生教些什么或算术这门学科应该给他们教些什么，这种决断要靠各该学术领域里有着远见卓识和非凡能力的人士的帮助才能作出。要断定代数的基本观念是以交换律、分配律和结合律的原理为基础的，他必须是个能够评价并通晓数学原理的数学家。当学龄儿童还不能分清美国历史的事实和趋势时，是不是要求他们理解象弗雷德里克·杰克逊·特纳①弗雷德里克·杰克逊·特纳(Frederick Jackson Turner，1861－1982)，美国历史学家，著有《美国历史上的边疆》等书。——译者注①的关于边疆在美国史上的作用的观念这又是一个决断，它同样需要对美国历史有深刻理解的学者的帮助。在设计课程时，只有起用我们最优秀的人士，才能把学识和智慧的果实带给刚开始学习的学生。

这样，问题就来了：“在设计小学和中学课程时怎样取得我们能力最卓越的学者和科学家的帮助?”答复早已知道；至少已经部分地知道。中小学数学研究小组、伊利诺斯大学的数学设计中心、物理科学研究委员会和生物科学课程研究小组确实已经取得各方面知名人士的帮助：他们通过暑期规划，增聘一部分休假长达一年的

第32页

某些有关的重要人物来进行这项工作。在这种规划工作中，他们还得到优秀的中小学教师的帮助，为了特殊的目的，还得到职业作家、电影制片者、设计师以及这一复杂事业所需要的其他人士的协助。

即使按照前面指出的方向进行大规模的课程改革，至少还有一件重要问题需要解决。掌握某一学术领域的基本观念，不但包括掌握一般原理，而且还包括培养对待学习和调查研究、对待推测和预感、对待独立解决难题的可能性的态度。正象物理学家对于自然界的基本秩序抱着确定的态度并深信这种秩序能够被发现那样，年轻的物理学学生，如果想把他的学习组织好，以至于所学到的东西在他思想上有用和有意义，也需要具备一些关于这些态度的正确见解。要在教学中培养这些态度，就要求比单纯地提出基本观念有更多的东西。靠什么来完成这样的教学任务呢？这需要做大量研究工作才能知道。一个重要因素是对于发现(discovery)的兴奋感(sense of excitement)，即由于发现观念间的以前未曾认识的关系和相似性的规律产生的对本身能力的自信感。曾经从事于自然科学和数学课程设计工作的各方面人士，都极力主张在提出一个学科的基本结构时，可以保留一些令人兴奋的部分，引导学生自己去发现它。

特别是伊利诺斯大学的中小学数学委员会和算术设计中心已经强调发现的重要性，把它作为教学的一种辅助手段。他们积极地在设计方法，以便让学生自己去发现蕴藏在某种特殊的数学运算中的通则。他们还将这种发现法同“断言和证明法”(method of assertion and proof)相对比。所谓“断言和证明法”，就是先由教师讲述，然后由学生加以证明，这样来找出通则。伊利诺斯小组也曾经指出：由于发现法需要向学生提示他们必须学习的数学的全部内容，因而消耗的时间可能太多。如何在两者之间恰当的平衡不是完全清楚的，正在进行研究来阐明这个问题，尽管需

第33页

要做作更多的研究。归纳法对原理的教学是一种比较好的技巧吗?它对学生的态度有良好的效果吗?

哈佛认知设计(Harvard Cognition Project)就社会学科所进行的一些实验说明，发现法不只限于象数学和物理学这种高度形式化的学科中使用。一个已经学习了东南各州的社会和经济地理这个传统单元的六年级实验班，开始学习北方中央地区，学生要在一幅绘着自然特征和天然资源但没有地名的地图上找出这个地区主要城市的位置。最后课堂讨论中，学生很快地提出许多有关城市建设要求的似乎合理的理论：一个是水运理论，把芝加哥放在三个湖的汇合处；一个是矿藏资源理论，把芝加哥放在默萨比山脉附近；一个是食品供应理论，把一个大城市放在艾奥瓦的肥沃土地上；等等。实验班在兴趣浓厚程度和概念的完善程度方面都远远超过控制班。然而，最显著的则是儿童的态度。对他们来说，城市的位置第一次成了一个问题，并且是能够经过思考发现答案的问题。不仅在研究一个问题时会使人感到愉快和兴奋，而且，至少对于过去想当然地看待城市现象的市区儿童来说，这种发现是有价值的。

我们怎样安排基础知识才符合儿童的兴趣和能力呢?这个题目我们将在以后回过头来叙述。这里只需简单谈一下。要在揭示自然现象或任何其他现象时，做到既是令人激动的、正确的，又且是有益的、可以理解的，这就需要把深刻的理解同样详细正确的陈述结合起来。例如，我们查阅了物理学的某些教材，发现在陈述时虽然非常详细而正确，但因为作者对他们所介绍的学科缺乏足够深入的理解，所以结果对于零。

通常，在解释潮汐性质的尝试中，可以发现一个恰当的例证。要大多数中学生解释潮汐现象，他们会说出月亮对地球表面的引力以及引力如何把海水拉向月亮一边，以致海水上涨出现涨潮。现在，问他们为什么在地球背对着月亮那一面也有小潮，他们几乎不

第34页

能说出令人满意的答案。或者问他们，就地球和月亮的相对位置来看，什么地方出现大潮?他们的回答常常是：在最接近月亮的地球表面某一点上。如果学生知道有迟潮，他通常不懂得为什么会这样。这两种情况下的失败，起因予对引力如何作用于自由转动的弹性物体描述得不恰当，同时，没有把惯性观念和引力作用的观念联系起来。总之，在解释潮汐现象时缺乏一股由于领会了牛顿对万有引力及其作用方式的伟大发现而产生的兴奋感。正确而有启发性的说明，并不比部分正确因而过于复杂和过于约束的解释更难理解，而是往往更加容易理解。实际上，所有一直在从事课程设计的人们都同意，教材编得有趣味和材料介绍得可靠决不矛盾；其实，一个正确的概括说明常常是最有兴趣的。在前面讨论中，至少有四个有助于教授学科基本结构的一般论点，这些论点需要进行详细的研究。

第一点，是懂得基本原理使得学科更容易理解。我们在物理学和数学中，曾扼要地说明了这个道理。不仅物理学和数学中是这样，而且社会学科和文学中也完全是这样。一个民族为了生存，必须进行贸易。只要抓住了这个基本观念，那么美洲殖民地三角贸易这个似乎特殊的现象就更容易理解：它不单纯是在违犯英国贸易规定的气氛下进行糖浆、甘蔗、甜酒和奴隶的贸易业。只有引导学生领会梅尔维尔①赫尔曼·梅尔维尔(Herman Melville，1819－1891)，美国作家，《白鲸》(又译《莫贝·迪克》)是他最有名的一部小说，副题“鲸鱼”。——译者注①的小说是突出地以罪恶和追踪这条“要命的鲸鱼”的人的困境为主题的著作，才能使阅读《白鲸》的中学生更深入地理解这部小说。如果再进一步引导学生懂得小说所写的人间困境是相对少数，他对文学的理解就会更好。

第二点，要涉及人类的记忆。关于人类记忆，经过一个世纪的充分研究，我们能够说的最基本的东西也许就是，除非把一件件事

第35页

情放进构造得好的模式里面，否则就会忘记。详细的资料是靠简化的表达方式保存在记忆里的。这些简化的表达方式，具有一种特性，可以叫做“再生的”(regenerative)特性。长期记忆所具有的这个再生的特性，能够在自然科学中找到好的例子。科学家不去记忆落体在不同的重力场中不同的阶段时间内所通过的距离，而是记住一个公式，这个公式使他能够在不同的准确度上，再生比较容易记得的公式所依据的细节。他谙记s=1／2gt2这个公式，而不去熟记关于距离、时间和重力加速度的手册。同样的例子，《吉姆爷》①《吉姆爷》(Lord Jim)是英国作家约瑟夫·康拉德(Joseph Conrad，1857－1924)的一部小说。——译者注①中评论员马洛所说的关于主人公困境的话，人们未必会去确切地记住它，而是只记住他是个沉着的旁观者，是个试图理解而不能判断是什么曾把吉姆爷引入他所在的海峡的人。我们记忆公式，记忆那对事件具有的意义的生动情节，记忆那代表一系列事件的平均数，记忆那保持本质的素描或图景——所有这一切都是简约和表达的技巧。学习普遍或基本原理的目的，就在于保证记忆的丧失不是全部丧失，而遗留下来的东西将使我们在需要的时候得以把一件件事情重新构思起来。高明的理论不仅是现在用以理解现象的工具，而且是明天用以回忆那个现象的工具。

第三，正如早些时候所指出的，领会基本的原理和观念，看来是通向适当的“训练迁移”的大道。把事物作为更普遍的事情的特例去理解——理解更基本的原理或结构的意义就在于此——就是不但必须学习特定的事物，而且必须学习一个模式，这个模式有助于理解可能遇见的其他类似事物。如果学生完全能够从人性的角度领悟百年战争结束时欧洲的厌倦，能够领会签订那个可以实行但在意识形态上并不完美的威斯特伐利亚条约的背景是怎样的，他也许更能理解东方和西方之间意识形态的斗争——虽然这种比较决不

第36页

是确切的。一种仔细地形成的理解同样也应该使他能认识概括的限度。把“原理”与“概念”作为迁移的基础这个观点并不是新的。非常需要更多的专门研究，以提供怎样在不同年级中最好地进行不同学科的教学的详尽知识。

经常反复检查中小学教材的基本特性，能够缩小“高级”知识和“初级”知识之间的差距。这是要在教学中强调结构和原理的第四个论点。现在由小学经中学以至大学的进程中所存在的部分困难，不是由于早期所学材料过时，就是由于它落后于该学科领域的发展太远而把人引入迷途。这个缺陷，可以依靠在前面讨论中所提出的在教学中强调结构和原理的办法来弥补。

现在，研究一下在伍兹霍尔会议上讨论相当多的几个特殊问题。这些问题之一涉及“科学通论”(general science)这个麻烦的题目。实际上，在各门自然科学中都有某种反复出现的观念。如果在一门学科中把这些观念概括地学好了，就会使得在别的学科中以不同的形式再来学习它们时容易得多。各方面的教师和科学家提出了这样的疑问：是否应该不使这些基本观念“孤立”起来，而更明确地用使它们脱离特定的科学范围的方式来教。典型观念是容易加以具体说明的，例如：分类法和它的用途，测量单位和它的发展，自然科学知识的间接性和观念下操作性定义的必要性，等等。就最后一个例子来说，我们不直接看见压力或化学键，只是凭一些测量去间接推断它。量体温是这样，体会别人的忧虑也是这样。能不能在低年级就用各种具体实例把这些以及类似的观念有效地揭示出来，以便为学生后来在各种专门学科的学习中领会这些观念奠定较好的基础?把这样的“科学通论”当作高年级严密的科学入门来教是不是明智?为了以后比较容易学习，应该怎样教他们，我们又能合理地期望些什么?在这个有前途的课题上，需要进行许多研究工作，不仅要研究这样一种学习途径的用处，而且还要研究可能要教的普通科学观念的类别。

第37页

的确，很可能有某些对自然科学或文学的一般态度或学习途径可以在低年级教，而且与后来的学习有很大的关系。事物是互相联系的而不是孤立的这个看法就是一个适当的例子。人们确实能够在设计一些幼儿园游戏的时候，有意使儿童更加主动地察觉事物怎样互相影响或互相联系——这是对自然界和社会中事件多重决定论这个观念的一种入门学习。任何一个有成效的科学家通常都能谈些思想方法或态度，那是他的职业的一部分。历史学家在他们自己的学科领域，相当广泛地论述了这个题目。文学家甚至发展一类写作，谈论有助于提高文学情趣和活力的感受性的形式。在数学中，这个题目有个正式名称，叫作“启发”，用以说明解决较难问题的途径。有人很可能会主张，就像那些很来自不同学科的人们在伍兹霍尔会议主张过的一样：应估量什么样的态度或启发的方法最具普遍性和最有用；应该作一番努力，把初步的态度和启发的方法传授给学生，这种态度和启发的方法随着他们在学校的成长可能进一步提高。再者，读者将会意识到，主张这样一种学习途径有个前提，那就是假定一个学者在他的学科的最尖端所做的工作与儿童初次接触这个学科时所做的工作之间是有连续性的。这不是说这个任务是简单的，只是说它值得慎重地考虑和研究。

有人反对教一般原理和一般态度。持这种观点的人，其主要论点也许是：第一，通过特殊来研究一般，比较好些；第二，使工作态度保持内隐比使它外显要好些。例如，生物学中关于有机的主要概念之一，是一再提出的这样一个问题：“这个东西有什么功用?”这个问题是以凡是有机体中的东西都有某种功用，否则它大概不会继续存在这个假定为前提的。其他的一般观念都同这个问题有联系。生物学学得好的学生，知道把这个问题提得越来越细，并把越来越多的事物同它联系起来。下一步他就要问，某一特殊结构或过程根据有机体整体作用的需要，起着什么功用?他为了弄清楚功用的一般观念，进行测量和分类。然后，他可能进一步依据更加广

第38页

泛的功用的观念来组织他的知识，而注意到细胞结构或系谱比较。要学习一般概念的实用意义，可能需用某一特殊学科的思想方式做背景；所以，给“功用”的意义作个一般的介绍，可能比在生物学的范围内教它的效果还要差。

谈到“态度”教学，甚至谈到数学的启发教学，现有的议论是，如果学生过分注意自己的态度或学习途径，他就可能在工作中变得呆板，反之则就会耍花招。还没有证据证明这一点，在采取这个方法来教学以前，先须进行研究。伊利诺伊，人们正在训练儿童，使之有更高的效能来提出一些关于物理现象的问题，可是需要更多得多的知识，这个问题才能弄明白。

人们时常听说“行”与“知”之间的差别。例如，一个大抵懂得了某一数学概念的学生，可不知道在计算中怎样运用它，就是这样的差别。尽管这个差别可能是个假象——因为，除了看到学生做什么之外，怎么能知道他懂得什么呢？——但说明在教和学中所强调的方面是很不同的。这样，在关于解决难题的心理学的某些经典书籍中(如马克斯·韦特默尔的《创造性思维》)中，在“机械练习”同“理解”之间就划了一条鸿沟。事实上，练习并不一定须是机械的，而强调理解却可能引导学生巧于舌辩。中小学数学研究小组成员的经验指出，计算的实践可能是达到理解数学中概念的必要步骤。同样，让中学生读不同作家的作品以资对比，可能把文体的知识教给他，但是要他能够彻底通晓文体，只能靠他自己亲手用不同的文体动笔写作。实践能帮助人更好地理解，这句话是上实验课的根本前提。在伍兹霍尔会议上，一位心理学家的发言中有句名言：“在我还没有意识到我要做什么之前，我怎知道我想什么呢?”这句话有一定真理。无论如何，这个差别对我们并没有很大帮助，更加中肯的问题是，在某一特定的领域里，哪种练习方法最可能给予学生精通教材的感觉。在数学各分支中，什么是能应用得最有成效

第39页

的计算习题?努力模仿亨利·詹姆斯①亨利·詹姆斯(Henry James，1848－1916)，美国小说家。——译者注①的文体来写作，会使人特别通晓那个作家的文体吗?要理解这些情，也许须从研究教学成功的教师所用过的方法开始。依据所汇集的资料，肯定能对教学技术问题，或者说对一般地教授复杂知识的技术提出大量值得进行的实验研究项目。

最后，关于考试，需要说几句话。显然，考试强调的是学科的琐碎方面，那就不好。这样的考试会鼓励无连贯性的教授和机械式的学习。然而，往往被忽略的是，考试也能成为改进课程和教学的斗争中的同盟军。不论考试是属于包含多题任选的“客观”(objective)形式，还是属于论文形式，都能够设计得着重于理解该学科的一般原理。的确，即使考差琐细的知识，也能按照要求学生理解具体事实之间的联系的那样方式去做。国家的考试组织，如教育测验服务处内部，目前正在进行共同的努力，去设计那些着强调理解基本原理的考试。这样的努力能够有很大用处。还可以给地方学校系统提供另外的帮助：给他们编写一本合用的手册，手册中叙述了设计各式各样考试的方法。探索性的考试是不容易设计的，如果编写一本关于这个题目的考虑周到的手册，是会受到欢迎的。

下面扼要地重述一下，这一章的主题是，一门学科的课程应该决定于对能达到的、给那门学科以结构的根本原理的最基本的理解。教授专门的课题或技能而没有把它们在知识领域更广博的基本结构中的脉络弄清楚，这在几个深远的意义上来说，是不经济的。第一，这样的教学，要使学生从已学得的知识推广到他后来将碰到的问题，将非常困难。第二，不能达到掌握一般原理的学习，从激发智慧角度来说，不大有效果。使学生对一个学科有兴趣的最好办法，是使这个学科值得学习，也就是使获得的知识能在超越原来学习情境的思维中运用。第三，获得的知识，如果

第40页

没有完满的结构把它连在一起，那是一种多半会被遗忘的知识。一串不连贯的论据在记忆中仅有短促得可怜的寿命。根据可借以推断出论据的那些原理和观念来组织论据，是降低人类记忆丧失速率的唯一的已知方法。

按照反映知识领域基础结构的方式来设计课程，需要对那个领域有极其根本的理解。没有最干练的学者和科学家的积极参与，这一任务是不能完成的。过去几年的经验表明，这样的学者和科学家同有经验的教师以及研究儿童发育的学者一道工作，就能准备出我们曾经考虑的那种课程。如果要使我们教育实践中的改革足以应付我们现在生活中所经历的科学和社会革命的挑战，需要在课程资料的实际准备、师资训练和支持研究工作等方面作出更多的努力。

怎样依照既有成效且有趣味的方式去教一般原理，问题很多。几个主要问题已经评论过了。非常清楚的是，还要做很多工作去考察当前有效的教育实践，编制可以在实验基础上试行的课程，以及完成几种能够支持并指导改善教学的一般努力的研究工作。

我们讨论中的那种课程，怎样可以适合于不同年龄儿童的智力?下一章，我们转而论述这个问题。

第41页

人工智能伦理建设的目标、任务与路径：六个议题及其依据

作者：陈小平（中国科学技术大学计算机学院）

内容提要 ：人工智能伦理建设的必要性已形成全球共识，但建设目标、重点任务和实现路径仍存在较大分歧，概括为六个议题。本文首先介绍AI的两大类主要技术——强力法和训练法，在此基础上总结AI现有技术的三个特性，作为AI伦理的技术依据。同时，以全球公认的福祉原则作为AI伦理的根本依据。本文立足于这两个依据，阐述AI伦理建设应具有双重目标——同时回答应该和不应该让AI做什么，进而探讨另外五个重要议题：AI的安全底线，AI功能的评价原则，AI治理责任的落实路径，AI主体状况变迁的可能性，以及一种全新的创新模式——公义创新。

经过几年的广泛讨论，人工智能(Artificial Intelligence，简称AI)伦理建设的必要性已形成全球共识。但是，关于AI伦理的建设目标、重点任务和落地路径，仍存在较大的分歧和争论，也有些关键问题尚未引起足够的重视，文本将这些内容概括为六个议题。显然，建设目标的定位将决定重点任务和落地路径的选择，从而决定AI伦理建设的发展大局。关于AI伦理建设目标的主要分歧是：AI伦理应该是双重目标(即同时回答应该和不应该让AI做什么)，还是单一目标(即主要回答不应该让AI做什么)？如果是单一目标，一些重大议题将被完全或部分地排除。引起分歧和争议的一个重要原因在于，对现阶段AI技术特性的认识存在巨大差异，从而导致对AI社会意义和伦理风险的截然不同甚至完全相反的判断。为此，有必要梳理七十年来AI研究的主要进展，澄清现阶段AI技术的主要特性，形成AI伦理的技术依据。同时，以全球公认的福祉原则作为AI伦理的根本依据。本文根据这两个依据讨论AI伦理的六个议题。

一、人工智能的强力法

AI经过三次浪潮取得了大量进展，各种技术路线层出不穷，受到研究者较多关注的有两大类技术——强力法和训练法。强力法又包含推理法和搜索法两种主要类型，推理法是在知识库上进行推理，搜索法是在状态空间中进行搜索。推理法通常由一个推理机和一个知识库组成，推理机是一个负责推理的计算机程序，往往由专业团队长期研发而成，而知识库则需要研发者针对不同应用自行开发。

一般来说，推理机的工作方式是：针对输入的提问，根据知识库里的知识进行推理，给出问题的回答。下面用一个简化的例子加以说明。假设我们要用推理法回答“就餐”这个应用场景的有关问题。为此需要编写一个关于“就餐”的知识库，其中部分知识如表1所示。表1中的第一条知识是一个逻辑公式，它的含义是：餐具可以盛食物；表中的第二条知识food(rice)也是一个逻辑公式，它的含义是：米饭是食物；表中的其他知识类似。

表2列举了一些问题，比如第一个问题“hold(bowl，rice)？”问的是：碗能盛米饭吗？推理机利用知识库中的知识进行推理，可以给出此问题的回答yes。表2中的第三个问题稍微复杂一点，它问的是：碗能盛什么？回答一般不是唯一的，但推理机仍然能够根据知识库中的知识，找出所有正确的答案：碗能盛米饭、能盛汤……推理机还可以回答更复杂的问题。

值得注意的是，一般情况下，由推理机得到的回答，并不是知识库中存贮的知识。例如表2中的三个回答都是推导出来的，在知识库(表1)中并没有直接保存“碗能盛米饭”“碗能盛汤”等答案。因此，知识库推理与数据库查询不同，不是提取事先保存的答案，而是推出知识库中没有保存的答案，可见知识库加推理机的组合能力之强大。知识库上的推理被认为是一种智能功能，是其他信息技术所不具备的。

目前强力法受到一个条件的限制——封闭性。①封闭性在推理法上的具体表现是：要求存在一组固定、有限的知识，可以完全描述给定的应用场景。对于上面的“就餐”场景，如果存在着不可以盛汤的“破碗”(并且将“破碗”也当作“碗”)，那么表1中的知识就不能完全描述这样的“就餐”场景，因为根据这些知识推出的某些回答(如“碗能盛汤”)在这个场景中是不正确的。

上述“就餐”场景是特意设计的一个小例子，而实际应用中的场景都很大、很复杂(否则就不必应用AI技术了)，有时不满足封闭性条件。比如一个就餐场景中，一开始没有破碗，根据知识库推出的回答都是正确的；可是一段时间之后出现了破碗，根据知识库推出的某些回答就不正确了。这种情况也是不满足封闭性条件的。

关于推理法对于整个AI的重大意义，深度学习的三位领军学者Geoffrey Hinton、Yann LeCun和Yoshua Bengio(他们共同获得2018年度图灵奖)在深度学习的总结性论文中指出：深度学习的根本性局限在于缺乏复杂推理能力。(cf.LeCun et al)而推理法代表着人类关于复杂推理能力的最高研究成果，所以推理法的局限性也代表着整个AI现有技术的局限性，封闭性对推理法的限制也是对整个AI现有技术的限制。

二、人工智能的训练法

训练法要求首先收集一组原始数据，并对其中的每一条数据都进行人工标准，做成训练数据集。然后用训练数据集训练一个人工神经元网络，用训练好的网络回答问题。

图1是一个人工神经网络的示意图。图中每一个圆圈代表一个“神经元”，每一个带箭头的线段代表神经元之间的一个“连接”。人工神经元网络就是由大量神经元和连接组成的网络。一个连接可理解为一条信息通道，并对通道中传递的信息进行加权运算；也就是说，一条连接首先从一个神经元接受输入数值，经过加权运算，再按照箭头的指向，向下一个神经元输出加权计算的结果。图1省略了所有连接上的权值。

如图1所示，一个神经元可以有多个输入连接，从而同时接受多个输入值。一个神经元也可以有多个输出连接，从而同时向多个神经元传递输出值。每个神经元能够独立地计算一个简单函数f，即根据该神经元的所有输入值，计算得出函数f的值之后，作为输出值向所有输出通道同时发送，经过各条连接上的加权运算之后，传递给其他神经元。在图1中，是整个人工神经元网络的输入连接，具体输入值来自网络外部； 是整个人工神经元网络的输出，具体的输出值就是网络的计算结果。

图1 一个人工神经网络示意图

图1只画出了四列神经元，其他列被省略了。每一列神经元称为一个“网络层”。如果一个人工神经网络具有很多层，比如几十层、几百层甚至更多层，就称为“深层网络”，深层网络上的机器学习称为“深度学习”。

下面以著名的ImageNet图像分类比赛中的一个任务为例，说明训练法的工作过程。在比赛之前，组织者收集了一个大型图片库，包含1400多万张图片，并将其中一部分图片做了人工标注，这些带人工标注的图片作为训练数据集，参赛队可以用这些图片训练他们的神经网络。图片库中没有标注的图片作为测试集。在比赛中，要求每一个参赛的图像分类软件，针对测试集中的大量图片，自动识别这些图片中动物或物品的种类，按识别正确率的高低决定比赛名次。

这个测试集中的图片被人工分为1000类，其中每一个类用0至999中的一个数字进行标注。一个类包含几十张到一百多张图片，这些图片中的动物或物品的种类相同，所以这些图片被标注为相同的数字。这1000个类包括7种鱼，第一种鱼的所有图片标注为0，第二种鱼的所有图片标注为1，……，第七种鱼的所有图片标注为6；还包括公鸡和母鸡，公鸡和母鸡的图片分别标注为7和8；还有26种鸟的图片分别标注为9至34等等；一直到最后一类——卫生纸图片，标注为999。原始图片和人工标注的对照见表3。采集好的原始图片经过人工标注，训练集就制作完毕，可以用于人工神经元网络的训练了。

如果训练之后，一个人工神经元网络的正确识别率达到了预定的要求(比如95％以上)，就认为训练成功，可以应用了。正确识别指的是：对输入的任何一张图片，能够指认输出图片中动物或物品所对应的数字。比如输入公鸡的图片，人工神经元网络输出数字7；输入卫生纸的图片，则输出数字999。从实际效果来看，如果一个人工神经元网络达到了上述要求，就可以认为，该神经网络“学会”了识别图片中的1000类动物或物品。

训练法也受封闭性的限制，具体表现为：可以用一组固定、有限、带人工标注的代表性数据，完全描述给定的应用场景。(参见陈小平，2020年a，2020年b)所谓“代表性数据”，指的是能够代表所有其他数据的数据。例如，上面的图像分类比赛例子中，如果只用训练集中的图片训练神经网络，就可以训练出合格的网络，那么这个训练集就具有代表性，代表了图片库中所有1400多万张图片。反之，假如一个训练集不具有代表性，用它训练出的神经网络就不合格，比如正确识别率到不了预定的要求，不能实用。

普通算法通常直接计算一个函数。例如，图2中的算法计算一个自然数x是偶数还是奇数，算法规定了每一步计算过程，根据相关背景知识可以得知每一步计算的含义和作用是什么，进而判断这个算法是否正确。

通过“AI算法”与普通算法的对比发现，它们是非常不同的。具体地说，强力法中的推理法是用知识和推理解答问题，要求针对一个应用场景编写相关的知识库，然后用推理机回答问题，而不是像普通算法那样直接计算结果。训练法则要求首先采集、制作训练数据集，训练出一个合格的神经网络，然后用该网络回答问题，而网络内部的运行一般是无法解释的(至少目前如此)。

图2 计算自然数奇偶性的普通算法

由此可见，AI算法不仅更复杂，更重要的是原理不同，难以直接根据一个AI算法判断它能做什么、不能做什么、怎么做的、做得是否正确等等。为此，本文给出AI现有技术的三个特性，从而为分析AI伦理的六个议题提供技术依据。

AI现有技术的第一个特性是封闭性(具体含义如上所述)。一个应用场景如果具有封闭性，则应用AI的强力法或训练法技术，可以保证应用成功；如果不具有封闭性，则不保证应用成功(但也不一定失败)。由于大量应用场景是封闭的，或者可以被封闭化，即改造为封闭的(参见陈小平，2020年a)，所以封闭性条件对于大量实际应用成立，也为这些应用的研发提供了一个不可忽略的关键指标。

AI现有技术的第二个特性是被动性。这些技术不具备主动应用的能力，只能被动地被人应用。有人认为，AI可以自我学习，从而学会它原来不会做的事情。事实上，这样的技术确实在研究之中，但目前尚未成熟，无法投入使用，而且强行投入使用会带来极大风险。还有人认为，围棋AI程序“阿法狗”可以自学下围棋，而且通过自学战胜了人类。其实，围棋是一个封闭性问题，“阿法狗”技术只对封闭性场景有效(参见陈小平，2020年b)，而且“阿法狗”的所谓“自学”完全是它的设计者事先安排好的，与通常人的自学不是一回事。

AI现有技术的第三个特性是价值中性，也就是说，这些技术本身无所谓善恶，人对它们的应用方式决定其善恶。以推理法为例，推理机给出的回答会不会对人有害，完全取决于知识库是否包含可能隐含不良后果的知识。由于知识库是人编写的，所以是设计者决定了推理法的具体应用的善恶。也有研究者试图让AI自动寻找自己所需的知识，即具有自动获取知识的能力(例如Chen et al，2012)，但这些技术目前仍处于基础研究和实验测试阶段。

四、人工智能伦理的六个议题

议题1：AI伦理的建设目标——双重还是单一？

根据对伦理学的常识理解，伦理是人的行为准则，以及人与人之间和人对社会的义务。(参见《辞海》缩印本，第221页)因此，AI伦理要回答两方面的问题：应该让AI做什么，不应该让AI做什么。同时回答两个问题是双重目标；只回答“不应该做什么”问题是单一目标。

鉴于世界各国都将“福祉”作为AI伦理的基本原则甚至第一原则，我们将福祉原则作为AI伦理体系的指导性原则。显然，福祉的实现主要源于努力而非限制。由于AI具有被动性，AI的发展必须经过人的努力，所以AI伦理应该引导和规范这种努力，这就是双重目标的根本依据。

在双重目标下，AI伦理体系的基础架构(参见陈小平，2019年)②如图3所示。在此架构中，AI伦理有三层结构：伦理使命(福祉)、伦理准则(如安全性、公平性等)和实施细则(详见议题3)。其中，针对不同的应用场景，需要设立不同的实施细则，于是AI伦理与社会及经济发展相互紧密关联，不再是空中楼阁。在这个架构中，传统创新需要受到伦理准则的约束(这种约束过去没有充分建立起来)，从而促使传统创新更好地服务于社会需求和重大社会问题的解决。

由于传统创新并不十分适合社会重大问题的解决，所以我们提出了一种新的创新模式——公义创新(详见议题6)。公义创新和传统创新都要接受福祉原则的指导，这是不变的。同时，根据公义创新的成果可以改变现有伦理准则的内涵，也可以增加或减少伦理准则，以反映社会发展对AI伦理的反作用。在两种创新的促动下，社会需求和社会重大问题不断得到解决，推动社会进步，形成新的社会需求和重大社会问题，从而实现社会及经济的螺旋式发展。

图3 人工智能伦理体系架构

议题2：AI的安全底线——技术失控与技术误用？

在技术范围内，AI的伦理风险主要有两类：技术失控和技术误用/滥用。技术失控指的是人类无法控制AI技术，反而被AI所控制，成为奴隶或宠物。技术误用/滥用指的是AI技术的非正当使用，由此带来对用户和社会的损害，但达不到失控的严重程度。技术误用/滥用是目前存在的现实伦理问题，亟需加强治理；而技术失控是人们的最大担忧，相关影视作品的流行大大增强了这种担忧。

对于AI技术失控的可能性而言，上文总结的AI三个特性具有关键性影响。人类对封闭性或封闭化场景具有根本性乃至完全的掌控力，因此这些场景中的应用不会出现技术失控。根据被动性，AI技术应用都是由人类实施的，只要人类对不成熟、不安全的AI技术不实施应用，这些技术都无法进入应用空间，也就不会引起风险。根据价值中性，只要人类对AI技术的应用符合伦理准则，这些应用就不会对人类造成不可接受的损害。

因此，在AI三个特性成立，并且AI应用遵守伦理准则的情况下，不会出现技术失控，也不会对人类造成不可接受的损害。可是，在这三个特性不全成立，或者AI应用不遵守伦理准则的情况下，就可能出现伦理风险。例如，假如未来出现了可以在非封闭性场景中自主进化的AI技术，就无法排除各种伦理风险，甚至包括技术失控的可能性。(参见赵汀阳)再如，如果在AI技术应用中不遵守相关伦理准则，就会出现技术误用/滥用；数据安全问题、隐私问题、公平性问题等等，都属于这种情况，而且已经在一定范围内发生，亟需加强治理。这表明，针对技术误用/滥用的治理已经成为当务之急，而完整AI伦理体系的建设也必须提上议事日程。

议题3：AI功能的评价原则——“超越人”与“人接受”？

对AI技术的功能水平的传统评价原则是“超越人”，有时具体表现为“战胜人”，如阿法狗。不过在AI界，这个原则理解为AI与人的同类能力水平的对比，看谁的水平更高，而不是要在现实世界中用AI战胜人(虽然经常发生这种误解)。AI研究界和产业界往往认为，当AI的某项能力超过了人，那么就可以在产业中实现该能力的产品化；如果尚未超过，则表示AI的该项能力还不够强，难以实用化。

不过，在上述传统评价原则之外，实际上还存在着另一种评价原则，这就是“人接受、人喜爱”。在一些应用场景中，AI通过人—机器人交互提供服务，而且人—机器人交互以人机情感互动为基础，例如面向空巢群体的情感机器人、用于自闭症等人群心理干预的机器人、用于少儿娱乐教育的机器人等。在这些应用中，用户对机器人的接受度是第一重要的，否则产品的其他功能再好也难以被用户接受。

在接受原则下，相关AI产品的主要评价指标不是在某个方面比人强，而是人对AI的接受性和接受度是否满足用户的期望。例如，中国科学技术大学研发的情感交互机器人“佳佳”，其智能水平只是她的“姐姐”——“可佳”机器人(cf.Chen et al，2010，2012)的几分之一，但由于“佳佳”可以识别人(如用户)通过表情和话语呈现出的情绪，并通过机器人的表情和话语进行即时反馈，在一定程度上实现了机器人与人的情感互动，因而具有更高的用户接受度，在人机情感交互方面的性能远远超过“可佳”。

两种AI功能评价原则决定了人类对AI的两种观察角度和评判标准，所以它们绝不是单纯的技术问题，同时也决定了AI伦理对AI技术的观察角度和评判依据。因此，AI伦理应该同时从这两个角度展开自己的研究和实践。目前对第一个角度的研究较多，而第二个角度的研究基本处于空白状态。亟待加强。

议题4：AI治理责任的落实——规范性与自主性？

目前法学界倾向于认为，AI尚不具备法律主体地位。(参见刘洪华，2019年)因此，与AI相关的法律责任的主体是人，比如产品的研发、运维机构。因此，与AI技术相关的主体责任和治理责任的落实，就成为AI伦理的一个重要议题。

我们认为，由于AI现有技术的三个特性，法学界的上述判断是符合现阶段实际情况的，AI确实不应该、也不可能承担主体责任。另一方面，只要伦理规范足够具体化，以至于成为封闭性条件的一部分，那么在这种场景中，就可以利用AI现有技术，自主地执行这些规范，从而完成部分AI治理任务。对于非封闭的应用场景，或者伦理规范不能成为封闭性条件的一部分的情况下，则不能完全依靠AI技术的自主性，必须坚持人的管理和介入。总体上，人作为责任主体，绝不能放弃自己的职责。

根据以上分析可知，在伦理规范和管理体制下，让AI技术自主或半自主地实现其功能，是一种有效的责任落实方式。例如，利用AI技术，可以对消息的真伪性进行核查和推测，对通过核查的真实消息向目标用户进行分发推送，对敏感操作流程的合规性进行审核，等等。不过，由于这些应用的场景往往不是完全封闭的，所以仍然需要人工管理，但AI技术的应用能够大大减轻人工负担，显著提高工作效率，整体上明显改善管理水平。

产业部门的现行管理体制为主体责任的落实提供了一条可行路径，尤其其中的技术标准可以作为AI伦理准则的一种实施细则(见图3)。对于AI相关产品，需要与其他工业品一样，设立四个层级的技术标准：国际标准、国家标准、行业标准和企业标准，其中企业标准和行业/团体/地方标准不得与国家标准相抵触，而国家标准与国际标准之间，可以通过国际标准化合作达成协调一致。所有这些层级的技术标准都应符合AI伦理规范的要求。这样，伦理规范就通过技术标准及相关管理机制得到落实，不再是纸上谈兵的空中楼阁。

议题5：AI主体状况变迁的可能性——物、人还是“非人非物”？

上文已说明，目前AI在法律上是物，不是人。但是，由于大量应用需求的推动，以及“接受”评价原则的采纳及相关研究的深入和成果推广，AI技术的发展已形成了一种新的可能性：在不远的将来，某些AI产品或技术载体如情感交互机器人，会被部分大众接受为“非人非物、亦人亦物”的第三种存在物。

在AI发展早期，曾出现少数用户将AI误认为人的情况，比如上世纪60年代有人将一个AI对话系统误认为人。不过，这是在人与物的二分法体系之中出现的混淆，没有突破二分法的边界。而现在出现的情况是，人在与某些机器人的交互中，一方面从理智上明确认识到和自己交互的机器人不是人，同时却在情感中不将机器人视为物，而更倾向于视为某种有情感能力的新型存在物。这种情况实际上比之前的要更复杂。

出现这种现象的原因在于：与科学和哲学中的默认假设不同，人们通常并不关心机器人表现出的情绪是不是真实的人的情绪，更不去仔细区分人的情绪和机器人的情绪有什么本质区别。(参见胡珉琦)

这种现象带来三方面的可能性。第一，有助于AI在某些领域的应用推广，满足用户的大量真实需求(尤其是情感交互方面的需求)，从而带来AI研究和应用的新机遇；第二，为调整、拓展和改善人机关系开辟了新的探索空间；第三，带来一种新的伦理挑战——对自古以来从未受到怀疑的人—物二分法的挑战。虽然科学上可能不承认这种存在物的真实性，哲学上也不承认它的必要性，但如果越来越多的大众在认知和心理上接受这种存在物，就会形成一种普遍和重要的社会现象，甚至可能对人机关系和人际关系产生广泛的、震撼性的冲击和深远的影响。因此，忽视这些可能性将会造成AI伦理大厦的巨大缺口。AI伦理的双重目标要求对正、反两方面的可能性展开积极探索。

议题6：AI时代的创新模式——传统创新与公义创新？

在图3所示的AI伦理体系架构中，一个核心部分是公义创新。与传统创新(参见黄阳华)相比，公义创新的主要内涵及特点如下。

第一，传统创新主要追求经济效益的显著增长，而公义创新追求经济效益和社会效益的协同提升。传统创新带来经济效益的显著增长是有目共睹的。与此同时，诸多重大社会问题不断积累和深化，包括气候变化、环境污染、人口老化、收入不均、大规模流行病等等。甚至有人认为，正是传统创新加剧了这些问题的恶化。作为对传统创新模式的反思和超越，公义创新将以经济效益和社会效益的协同提升为基本目标，以重大社会问题的解决为重点任务，改变经济效益和社会效益相互脱节的现象。在现代社会中，公益事业与商业创新是相互分离的，科技成果相对易于进入商业创新，不易进入公益事业，公益事业与商业创新的这种分立式组合，明显不利于重大社会问题的解决。

第二，传统创新的目标对象是满足用户需求的具体产品/服务，而公义创新的目标对象是符合社会发展需要的人工/人造系统。③满用户需求、且具有显著经济利益的产品/服务这个目标对象贯穿于传统创新的全流程，是该流程一切环节的终极考核指标，因而难以避免各种损害社会效益的副作用。因此，公益创新将不再以产品/服务本身作为目标对象，而是上升到人工/人造系统(参见司马贺，第30页)层面，并且全面重构人工/人造系统的设计—实施体系，将其改造为实现经济效益和社会效益综合提升的手段。

例如，很多高新技术的应用在提高经济效益的同时，也带来人工岗位的大量减少，④并可能导致新的收入分化，这种情况在传统创新中比较普遍。而在公义创新的设计考虑中，一个人工/人造系统包含的要素有：产品/服务、制造方式、员工利益、用户利益……于是，设计方案的评价指标不仅反映经济效益，同时也反映社会效益。显然，这种人工/人造系统的设计和实施难度远远高于传统的产品设计和制造。为此，不仅需要将AI技术继续应用于产品设计环节(类似于传统创新)，更需要将“规划”(参见李德毅，第216页)、机制设计、目标优化等AI技术应用于整个人工/人造系统的设计，从而使AI技术发挥更大的作用，帮助人类发现或创造社会经济发展的更多新机遇，如新的就业岗位、新的人机合作方式、新的生产—生活协同方式以及解决重大社会问题的新途径。

第三，传统创新延续、强化工业文明传统，而公义创新探索更具包容性的文明路径。除上面提到的问题之外，传统创新通过延续、强化工业文明传统，进一步加剧了人的异化、人机对立等长期存在的难题，甚至可能产生“无用阶层”(参见巩永丹)等文明层面的重大挑战。尤为重要的是，这些挑战性问题在工业文明传统下是无解的，因此有必要探索新的化解路径。公义创新的思想来源包括三个方面：历史观——道家哲学(特别是老子的“道”)，文化观——儒家哲学(特别是孔子的“义”)，社会观——希腊哲学，如梭伦的“正义”理论。(参见廖申白)这些不同文化传统的融合、发展将构成公义创新的理论基础，并在其上构建公义创新的方法论体系，最终形成可运行的公义创新模式。在这种新模式下，对人的关注将得到根本性加强，对人和机器的认识将大幅度更新，人与机器的关系将得到重新定义，并在福祉原则的指导下，推动人、机器和环境的更具包容性的一体化发展。

显然，在现行市场规则下，公义创新面临很多困难，因此公义创新的实行要求改变市场规则和管理方式。其次，公义创新也要求设计思维、教育理念及实践的彻底变革，并带来人的观念的重大变革。事实上，公义创新的实施将为社会经济发展带来大量新机遇。

为了实现其基本使命——增进人类福祉，AI伦理要能够同时解答两方面的问题：应该让AI做什么，不应该让AI做什么，所以AI伦理具有双重目标。根据双重目标，结合AI现有技术的特性，本文认为短期内AI的主要风险是技术误用/滥用，这应成为近期AI伦理治理的重点课题。同时，本文分析了AI功能评价的两种原则——超过人和人接受，需要同时从这两个角度展开AI伦理治理。针对以上任务，本文发现，在现行产业管理及技术标准体系的基础上加以扩展，在适当条件下将AI技术引入到管理过程中，可以更加有效地实施AI伦理治理，从而形成落实AI治理责任的一条切实可行的路径。一个较长期的挑战是AI主体状况的变迁，即某些类型的AI被部分人接受为“非人非物、亦人亦物”的可能性，由此带来从技术到人机关系再到AI法制的一系列新课题。另一个更大的挑战是面向重大社会问题，以经济效益和社会效益的协调统一为基本追求的公义创新，它在人类福祉原则的指导下，广泛深入地利用AI技术，将传统的产品设计和制造升级为人工/人造系统的设计和实施，这也是双重目标下AI伦理体系建设的最大特色和最终标志。

*本文根据作者在“第二届全球视野下的人工智能伦理论坛”(杭州，2020年7月25日)上的演讲整理而成。作者在与赵汀阳、王蓉蓉关于AI伦理问题的讨论中受益良多。本文部分素材来自《人工智能伦理导引》(陈小平主编，中国科学技术大学出版社2020年)，刘贵全、顾心怡、叶斌、汪琛、王娟、侯东德、苏成慧参与了该书编著。谨向以上诸位表示感谢。

注释：

①关于封闭性具体内涵的详细描述，通俗性介绍参见陈小平，2020年a；专业性介绍参见陈小平，2020年b。

②原文引入了“伦理创新”的术语，后经王蓉蓉建议，改为“公义创新”，但内涵保持不变。

③“人工”的例子如“人工降雨”，其结果(降下来的雨)是“真的”(自然的)，而导致这个结果的过程是人为的(非自然的)；“人造”的例子如“人造卫星”，其结果(卫星)及其过程都不是“真的”。AI中的Artificial包含人工和人造两种类型，公义创新的目标对象也包括人工系统和人造系统。

④对此需要具体情况具体分析，比如目前在国内工业界，机器人替代的劳动岗位主要是工作环境恶劣、不适合人从事的工种，如喷漆、打磨等。值得重点关注的是经济效益与社会效益不一致的情况。

原文参考文献：

[1]陈小平，2019年：《人工智能伦理体系：基础架构与关键问题》，载《智能系统学报》第4期。

2020年a：《封闭性场景：人工智能的产业化路径》，载《文化纵横》第1期。

2020年b：《人工智能中的封闭性和强封闭性——现有成果的能力边界、应用条件和伦理风险》，载《智能系统学报》第1期。

[2]《辞海》(缩印本)，1979年，上海辞书出版社。

[3]巩永丹，2019年：《人工智能催生“无用阶级”吗？——赫拉利“无用阶级”断想引发的哲学审度》，载《国外理论动态》第6期。

[4]胡珉琦，2020年：《AI与情感》，载《中国科学报》7月23日。

[5]黄阳华，2016年：《熊彼特的“创新”理论》，载《光明日报》9月20日。

[6]李德毅主编，2018年：《人工智能导论》，中国科学技术出版社。

[7]廖申白，2002年：《西方正义概念：嬗变中的综合》，载《哲学研究》第1期。

[8]刘洪华，2019年：《论人工智能的法律地位》，载《政治与法律》第1期。

[9]司马贺(Herbert Simon)，1987年：《人工科学》，商务印书馆。

[10]赵汀阳，2018年：《人工智能会是一个要命的问题吗？》，载《开放时代》第6期。

[11]Chen et al,2010,"Developing High-level Cognitive Functions for Service Robots",in Proc.of 9th Int.Conf.on Autonomous Agents and Multi-agent Systems(AAMAS 2010),Toronto,Canada.

2012,Xiaoping Chen,Jiongkun Xie,Jianmin Ji,and Zhiqiang Sui,"Toward Open Knowledge Enabling for Human-Robot Interaction",in Journal of Human-Robot Interaction 1(2).

来源： 《哲学研究》

相关问答

人工智能的重要意义及作用人工智能是相对于人类智能而言的。它是指用机械和电子装置来模拟和代替人类的某些智能。人工智能也称“机器智能”或“智能模拟”。...

辛钦(1894-1959)前苏联数学家、数学教育家。现代概率论的奠基人之一,莫斯科概率学派的开创者。他最早的概率成果是伯努利试验序列的重对数律,它导源于数论,...

1:《中国土特产大全》共上下两册这本书是由马成广主编得一套书,出版于1986年8月,书里记录了我国各地有名的土特产品上千哥,并且配有彩色的图片,在哪个时候...—...

概率我们已经拥有十分强大的数学工具了,为什么我们还需要学习概率论?我们用微积分来处理变化无限小的函数,并计算它们的变化。我们使用代数来解方程,我们还...

1.社会学的概念社会学就是研究社会的学科,社会学是系统地研究社会行为与人类群体的学科,社会学是一门分析各种社会现象,研究社会中人的行为,探求如何解决社...

《方法导论》----,爱上一个人很容易爱的得法却很难,它是一门值得你花上一生的心力去学习的课题啊,往往渴望爱情的人,还看不清楚自已要什么的时候,...

小课题研究的一般步骤和方法课题就是我们要研究、解决的问题。小课题是指教师在教学实践中遇到的具体问题为课题,由教师个人或几个人合作,能在短期内取得成果...

随着世界复杂性的发现。在科学研究中兴起了建立复杂性科学的热潮。贝塔朗菲指出,现代技术和社会已变得十分复杂,传统的方法不再适用,“我们被迫在一...

【传媒书评类话题】谢邀。书评勿庸置疑属于文学评论的一种,且是最为基础和重要的一种。平面媒体的纸质呈现大多为白纸黑字,所谓的文学及评论暨书评再自然不过...

[回答]~接下来我为大家简单介绍一下我们西安建筑科技大学的艺术学院开设的专业以及研究情况专业设置:会展艺术与技术-本科、雕塑-本科、摄影-本科、工业设...