人工智能创作的艺术隐忧和伦理边界

【面面观·人工智能网络文学创作】

作者：欧阳友权（中南大学网络文学研究院院长）

编者按

近一段时间，本版发起的“人工智能网络文学创作”讨论持续引发关注，不少学者针对这一话题发来笔谈文章，阐述各自的观点和看法。本期选择刊发两篇文章，其中中南大学教授欧阳友权认为，无论人工智能进化到哪个阶段，都有无法避免的艺术局限，同时应为人工智能写作设置伦理边界，不能任由其发展为“反噬人类”的工具；青年学者马晓炎指出，人工智能写作的内容高度机械化、同质化，难以产生鲜活的现实关切，也无法在实际意义上促成一种具有真实情感、辩证思想、伦理意义的“新文学”的迭变。

人工智能在文艺创作领域的应用，正让写诗、写小说、作曲、作画、视频制作等变得轻松而惬意。艺术创作门槛降低，并且不再是人类专有。这究竟会推动艺术的进步，还是会导致审美偏离轨道？以“技术魔方”生产的“艺术”还是那个能让我们“诗意栖居”的精神家园吗？其中的艺术伦理问题亟待我们思考与解答。

1.人工智能让过去高不可攀的艺术创作变得简单轻松

20世纪50年代诞生的人工智能并非为文学艺术而生。它被用于文艺创作，不过是“技术艺术化”的功能性呈现。从实际效果看，人工智能对文艺创作的影响无疑是巨大而深远的。如果说早些年出现的如“猎户星”“稻香老农作诗机”“微软小冰”“乐府”“九歌”等诗歌创作软件，除了让人感到新奇，尚不足以“抢”诗人的饭碗，那么，生成式人工智能（简称AIGC）进入艺术创作领域后情况大不一样，颇有“未来已来，艺术变天”之势。无论是文学写作，还是艺术生产，均表现出惊人的创作潜能和量产水平。

AI小说、AI音乐、AI绘画、AI电影、AI短视频等新创作品迅速涌现，人工智能不仅让艺术话语权下沉到大众手中，还把复杂的创作过程简化为文字提示、机器生成，词生文、文生图、文生视频、“文+图”生成视频，只要给出需求信息，智能程序便会像“阿拉丁神灯”一样把人们想要的东西呈现于眉睫之前，这让昔日高度专业化的文艺创作变成人人皆可参与的轻松游戏。

不久前，文生视频大模型创作的《雨后的东京街头》震惊世人；用AI音乐生成类工具创作音乐，让一个不懂音乐的人也能将菜谱配上旋律成为朗朗上口的歌曲，还有全部由人工智能完成的90分钟影片《终结者2：审判日》在洛杉矶首映，我国首部AI全流程微短剧《中国神话》在央视频上线，用于文学创作的“大模型长篇小说创作系统”也于今年3月开始在线测试，并且创作出百万字小说《天命使徒》……笔者身边有许多朋友都在尝试用人工智能创作诗歌、人物肖像、歌曲，或生成短视频产品。忽然拉低的创作门槛，让过去高不可攀的艺术创作变得简单轻松，作品也触手可及。

人工智能素描设备通过现场拍摄画出素描图。新华社发

2.“情感虚置”和“意义缺席”将成为AI创作确证自身艺术性的巨大挑战

人工智能创作神器布局的艺术风口正呼唤一个艺术新时代的到来，而当一种智能工具从“技术手段”发展到“创作伴侣”再升级为“艺术主人”时，我们一方面为新锐技术的创作潜能而欣喜，同时也需要对人工智能带来的艺术隐忧保持清醒的认知。

譬如，AIGC作为艺术创作的“拟主体”摆脱不了“硅基生命”的先天短板：缺失意识和自我意识，没有艺术创作不可或缺的生命体验。前者使它无从获得对世界的知识性认知和理性的判断，没有目标追求的自觉性、能动性和道德自律感，无法以自主的价值立场去理解和吸纳人类积淀的历史经验，不能自主地在自身与社会、与他人、与特定语境中，形成主体与对象之间的审美关系，只能按算法概率、算力速度的训练模型连词成句、连句成段，或基于某种指令以比特像素实现图形（图像）信息的排列组合，却并不理解这些组合的意义是什么，以及为什么要提供这样的答案。

“硅基生命”则让AI创作“本体失根”，拟主体没有源自生命体实践的喜怒哀乐、爱恨情仇，没有王夫之所说的“身之所历，目之所见”的“铁门限”，艺术创作不可或缺的历史镜像、时代精神、生活阅历均无从谈起。用于AI大模型的数据不过是“二手生活”而非“肉身经验”，其表达的“知情意”来自“他者投喂”而不是自己的“生命历险”，这就颠覆了文艺创作“躬身成文”“艺以明志”的创作原则，斩断了作品和艺术家之间有关社会的、历史的、生命的有机联系，势必会抽空艺术存在的意义。因而，没有生命体验，缺少肉身感知，是AI创作的致命缺陷，其所带来的“情感虚置”和“意义缺席”将成为AI创作确证自身艺术性的巨大挑战。

基于上述两个原因，还将导致AI创作的另一个更重要的局限——缺少艺术原创力。生成式人工智能提供的答案是从已有的语料资源中依据算法逻辑匹配而来，是“借”用前人的知识产权资源而巧置选择的结果。换句话说，它所得一切均非原创，既受限于“已有”，又缺失于“未知”。尽管在许多单项技能上人工智能比人“聪明”，但没有人的感情和自主意识的计算程序最终无法形成原创能力，它可以根据人的信息“投喂”和大数据预训练，完成从“1”到“99”的拓展，却难以实现从“0”到“1”的突破，这在艺术创作中表现得更为明显。

譬如，仅靠技术智能，要产生AI莎士比亚、AI卡夫卡，不过是痴人说梦。艺术来自生活，AI艺术来自语料库；艺术家用灵魂创作，AI用程序表达；艺术的“根”源于人生与人性的生命体验，而AI创作则是冷冰冰的“无痛操作”。正因如此，如果没有历史先贤的引领，人工智能领悟不了屈原“香草美人”的象征，洞察不了《红楼梦》“好了歌”的寓意。如果用智能机器人代替阿姆斯特朗首次登上月球，它不会有任何发自内心的欣喜与自豪，从这个意义上说，这也正是“嫦娥的月亮比阿姆斯特朗的月亮更有魅力”的原因。

人工智能机械手臂进行文字创作表演。新华社发

3.人工智能要履行人类主体的艺术使命与伦理责任

值得注意的是，人工智能创作的艺术隐忧是基于当下人工智能水平的功能评判，却不是对AI艺术创作的终极伦理推定。事实上，人工智能是有层级区隔的，不同层级的功能绩效会有很大不同。研究者一般把生成式人工智能从低到高划分为三个层级，即弱人工智能、强人工智能和超人工智能。

其中，弱人工智能也叫“算法智能”，是指只能在特定领域按算法逻辑完成特定任务的程序智能，被称作“单项超人”。如AlphaGo在围棋领域打败世界顶级高手，智能导航可以在复杂空间精准定位，自动驾驶技术能实时探测环境信息并及时准确地提供最佳解决方案。强人工智能是一种“语言智能”，能根据用户的指令进行语音识别和语义理解，还能像人类一样进行思考、决策和学习，其智能水平能与人类齐平，故也称通用人工智能，或“类智人”。此时的AI已具备人的智慧和自我意识，不仅能够理解和分析复杂的问题，提出解决方案，还能遵循人类情感、伦理与道德观念不断优化和改进自身的性能。生成式人工智能便是弱人工智能向强人工智能过渡阶段的产物。

超人工智能被称为“想象智能”，是指能够在所有领域远超人类的智能，其智能水平远超人类的思维能力。超人工智能因其占据高维而能消解人类存在的意义，因而具有极端的复杂性和潜在的危险性，其运行或将产生人类无法理解或难以控制的结果。

AI艺术是由智能“拟主体”创作的，这个“拟主体”要不要履行人类主体的艺术使命与伦理责任呢？回答是肯定的。弱人工智能的创作是这样，到了强人工智能甚至超人工智能创作阶段同样应该如此。原因在于，弱人工智能用于“人—机”互动的辅助性创作，人的主导性如臂使指般操控智能程序，人的道德信仰与伦理规范、人的价值观认知与真善美判断，不仅决定大数据智能模型设计，也制约着“拟主体”创作的前置词提示。

即使发展到强人工智能或超人工智能阶段，“拟主体”化身“艺术主人”，那时，AI艺术或将以完全不同的面貌示人，它是否一定会漠视或践踏人类赋予艺术的全部“逻各斯原点”呢？人类的理性及其艺术信仰的力量让我们有理由相信，未来开发的任何智能系统最终都是为人的意志和目的服务的，是人的智能的技术化延伸。如果某种“聪明的机器”升级为反噬人类的工具，那一定是人的问题，而不是机器的问题，人应该用理性律令开发技术“闸门”或制定法律规约来锚定这一技术的发展方向，让它为人类文明和社会进步服务，而不容许它剑走偏锋伤害人类自身。

基于此，如果我们承认人工智能艺术是人的艺术创造力的技术性外化，那么就有理由为人工智能创作设置伦理边界，比如对真假、善恶、美丑的甄别，对悲悯、敬畏、同情等道德价值的认同，以及对崇高理想和诗意境界的追求等。

《光明日报》（2024年07月20日 09版）

来源： 光明网-《光明日报》

科幻小说中的人工智能伦理范式

　　从科幻小说的角度来考察人工智能伦理问题是当下跨学科研究中的新锐选题。目前，最为前沿的人工智能技术以ChatGPT为代表，主要涉及计算科学，意图模仿人类的语言和思维，进而创造出等价（甚至超越）人类智能的电脑程序。随着人工智能技术的迅猛发展和广泛应用，必然会在社会中引发一系列的伦理问题。尤其在库兹韦尔“奇点理论”的加持下，不少人甚至担忧人工智能在通过图灵测试后，很有可能在未来取代人类。有鉴于此，对人工智能相关伦理问题的研究不仅是必要的，更是迫在眉睫的。值得玩味的是，来自诸多学科领域的专家在论辩时，常常引用科幻作品来佐证自己的观点，毕竟故事里的人工智能形象更鲜活，也广为大众所熟悉。

　　与现实科技相比，科幻小说中的人工智能描写并不局限于计算科学，还拓展至机器人（Robot）、仿生人（Android）、赛博格（Cyborg）等更为宽广的领域。并且，科幻作家对“人造智能生命”的想象和书写要远远早于人工智能这个概念被明确提出的1956年（达特茅斯会议）。姑且不论代达罗斯（Daedalus）和偃师造人的神话传说，仅从现代科幻文学之母玛丽·雪莱（Mary Shelley）的《弗兰肯斯坦》（1818）算起，科幻小说对人工智能的描写就至少持续了两百年。与科技界“曲高和寡”的艰深论辩相比，科幻小说借助“思想实验”这一特殊优势，依凭作家的生花妙笔，对人工智能及相关伦理的探讨更为具象，所设定的矛盾冲突也更为激烈，能够通过引人入胜的虚构故事来潜移默化地影响读者的伦理观念。

　　综观全球的经典科幻小说，从众多涉及广义人工智能的故事中，我们可以辨析出最基本的四大伦理范式：神本主义、人类中心主义、非人类中心主义、后人类主义。细细梳理，每种范式背后都囊括了海量文本，也都有着源远流长的文化传统和理论支撑。

　　一、神本主义范式。作为肇始于西方世界的一种类型文学，科幻小说自然无法完全摆脱以基督教为代表的宗教影响，神本主义的潜意识深藏在很多作品中。例如赫尔曼·麦尔维尔（Herman Melville）的《钟楼》（1855），身为基督徒的作者拒绝接纳人工智能生命。遵照基督教的基本教义，人并不享有毫无约束的自由，在上帝面前必须保持谦卑和恭顺。然而，科幻小说中的一些科学家却妄图复制上帝造人的神迹，通过制造人工智能来挑衅上帝的权威，最终却无法控制自己的造物，无奈落入被反噬的绝境。随着时代的发展和观念的演进，如今的科幻作家能够比前人更自由地探讨人工智能的相关神学问题。例如，迈克·雷斯尼克（Mike Resnick）的《机器人的信条》（2008）分析了人工智能是否应被允许有宗教信仰的问题；佐尔坦·伊斯特万（Zoltan Istvan）的《超人类主义赌注》（2013）明确表示：耶稣拯救的是所有生物，甚至包括人工智能；丹尼尔·威尔森（Daniel Wilson）的《机器人启示录》（2011）讲述了人工智能自称神灵、创立宗教、进而统治人类的故事。可以说，此类科幻小说在特定神学领域的形而上思考，即便与经院哲学相比，亦毫不逊色。

　　二、人类中心主义范式。科幻小说中的人机伦理关系以阿西莫夫（Isaac Asimov）创设的“机器人三定律”最为流行，其背后隐藏着一条基本的等级铁律：人工智能天生为人类的奴仆。该观点在《环舞》（1942）中被首次明确提出，1950年出版的小说集《我，机器人》则对其进行了系统阐释。在阿西莫夫之后创作的科幻小说，如果不是特意将人工智能伦理作为探讨对象，大多会秉承三定律的圭臬，如魏雅华的《温柔之乡的梦》（1980）。因为这暗合了思想界及文化传统里的共识：人类作为“宇宙的精华，万物的灵长”，必然比地球上的其他物种要高级，在等级关系中理所当然地位居上层。此类观点以亚里士多德的“自然阶梯”理论、康德的“人是目的本身”律令最为著名，据此建构的伦理学必然是以人类为中心的。从这一立场来看，人工智能即便拥有生命，也没有“灵魂”，依然没有脱离“工具”的范畴，被人类役使是“天经地义”的事情。

　　三、非人类中心主义范式。在阿西莫夫的三定律广为流传的同时，不少科幻小说却反其道而行，试图用精妙的故事和严谨的情节推演来证明：人类中心主义的伦理范式在预设人机关系时有着根本缺陷，机械控制论和内隐的丛林法则是该等级关系得以确立的基石，但科技变革极有可能在未来逆转双方的强弱地位。正如黑格尔提出的“主奴关系辩证法”，主人和奴仆的身份是可能互换的。就连阿西莫夫也毫不避讳这一矛盾，因此对三定律的“诘难”成为他后期创作的重要主题。此外，一些科幻作家还不断尝试非人类中心主义的选项，借鉴亚里士多德在《尼各马可伦理学》中提出的“情感”观点，试图让人类和人工智能构建公正、友好的关系。由于人类的情感是复杂莫测的，也许一些人和人工智能朝夕相处，会产生类似亲情的感情，例如王晋康的《生命之歌》（1995）；也有一些人会和人工智能产生类似友情的感情，例如江波的《机器之道》（2015）；更有人甚至和人工智能坠入情网，并最终成婚，例如阿西莫夫的《两百岁的人》（1976）。也许局外人会觉得匪夷所思，但当事人却认为这份感情和人类之间的感情相比并无差别。从这一维度来看，当人工智能具备了情感之后，也就超越了纯粹工具的定位。人类的伦理建构也应与时俱进，尝试探索一种互惠的人机关系。

　　四、后人类主义范式。后人类是近年来广受关注的科技和科幻议题。作为一种理论思潮，它形成和发展于20世纪80年代。面对血肉之躯不断被高科技改造的趋势，以唐娜·哈拉维（Donna Haraway）为代表的一批理论家相信：人类千万年的自然演化历程终将落幕，而人工自主进化的大幕正徐徐开启，未来的后人类（或称“新人”）将全方位（包括但不限于寿命、体能、智力）超越当今的人类（《赛博格宣言》，1985）。此类科幻小说的代表有玛吉·皮尔斯（Marge Piercy）的《他、她和它》（1991）、陈楸帆的《荒潮》（2013）等。关于后人类的具体形态，因科技发展和观念演变的不确定性，目前没有人能够给出准确的预测。科幻小说中的后人类故事，最早可以追溯至爱伦·坡的《被用光的人》（1839），主要描写了作为一时风潮的义体之美。20世纪中期以后，赛博格概念开始流行，涌现了一批以赛博格为主角的科幻小说，代表作是弗雷德里克·波尔（Frederik Pohl）的《升级人》（1976）。到了电脑出现的80年代，赛博格的一种特殊形态赛博朋克（Cyberpunk）越来越多地出现在科幻小说中，主要讨论电脑与人脑的融合问题，代表作是威廉·吉伯森（William Gibson）的《神经浪游者》（1984）。在后人类主义的拥趸看来，人类要想实现“星辰大海的目标”，就必须经历从猿到后人类的存在论升级，而人工智能则是促成这一跃迁的重要推力。

　　从上述分析我们不难看出，科幻小说对人工智能伦理的描写并不拘泥于特定时代的科技水平，更侧重与人类价值观演变的深度融合，在批判工具理性、弘扬价值理性的同时，凸显着终极性的哲学思考。作为一种相对超前而又无远弗届的思想实验，诸多科幻故事聚焦在了“什么是人”这个根本的哲学问题上。回顾历史，人类对这一“斯芬克斯之谜”的思考持续了数千年，而且诸如文艺复兴、启蒙运动等每一次文化观念变革，都会引发关于“人”的定义变化。古希腊传说中的“斯芬克斯之谜”，本质上是一个将人类与野兽区隔的哲学隐喻，宣告人类脱离了茹毛饮血的蒙昧阶段，进入了文明时期。而科幻小说对于人工智能故事的不断书写，则预言了后人类时代的终将来临。毕竟，作为一种特定概念和知识类型的“人”，只能是阶段性的：既有肇始之处，也有终结之点。持此类观点的学者以福柯最为著名，他在《词与物》（1966）中决然宣告了“人之死”，认为在可预见的未来，传统概念上的人“终将被抹去，如同海边沙滩上的一张脸”。

　　综上所述，科幻小说中所描写的人工智能伦理四大范式，既有建设性的乐观憧憬，也不乏悲观拒斥的消极元素。在审阅聚讼纷纭的各家观点后，笔者对人工智能伦理的未来建构持审慎中立的态度：基于科技发展、物种演化，以及价值观念的更迭，作为创造者的人类只有摒弃“物我两分”“主客对立”的传统认知模式，将作为创造物的人工智能纳入人类自身的进化论范畴，才能规避人工智能“反客为主”的风险，进而打破人机二元割裂的难解悖论，最终从人类“自相关”的维度推导出可持续发展的蓝图。

来源：《中国社会科学报》2023年8月7日第2707期 作者：吕超

相关问答

“脑机接口”是指在人或动物脑与外部设备间建立的直接连接通路,允许脑和外部设备间进行信息交换。由马斯克与其他8人成立于2016年7月的Neuralink是专注于这一领...

要回答这个问题,首先要搞清楚什么叫伦理道德。它是指在处理人与人,人与社会相互关系时应遵循的道理和准则。是指一系列指导行为的观念,是从概念角度上对道德...

[最佳回答]着眼点放在对“科学发展”这个概念上.什么是科学发展?原子弹技术是科学发展,把原子弹往别人身上扔这个举动不属于科学发展.单纯的科学技术知识的发...

国内国外,人工智能(AI)现在非常火爆。但是人工智能也不是万能的,现在目前在是图片,声音领域,或者有大量数据积累行业对人类形成挑战,还有很长的路要走。要...

[最佳回答]用专题:分析:1、转基因生物的安全性问题:食物安全(滞后效应、过敏源、营养成分改变)、生物安全(对生物多样性的影响)、环境安全(对生态系...1、转...

人工智能共包括九项:1、核心技术板块(AI芯片、IC、计算机视觉、机器学习、自然语言处理、机器人技术、生物识别技术、人脸识别技术、语音识别、大数据处理等)...

人工智能课程报告摘要:自上世纪五十年代以来,经过了几个阶段的不断探索和发展,人工智能在模式识别、知识工程、机器人等领域已经取得重大成就,但是...

数字经济和人工智能作为当今世界经济发展的两大引擎,正在推动着各行各业的变革。虽然人工智能近期遭遇了一些挫折,但是其前景依然光明,未来仍然会成为影响人类...

说起唐太宗李世民,很多人都知道他开创的贞观之治,将唐朝的经济等方面带上了世界前列,包括毛主席在内的很多名人都对唐太宗李世民大加赞赏,但是他却有一个洗不...

我认为人工智能是当前和未来科技发展的重要领域,具有重要的战略意义首先,网络强国和数字中国战略在促进中国数字化转型和高质量发展方面发挥了积极的作用而人...