在人类历史上,近300年以来发展出了多种科学技术。这些科学技术在不断推动人类文明进步的同时,由于应用过度或者滥用,对人类、社会、自然都造成了各种危害或损失,由此产生科技伦理问题,人工智能技术也存在类似问题,它的发展也必须遵守人类的伦理规范。人工智能伦理是在近十年随着人工智能技术的飞速发展才逐渐受到重视的,因此,在概念内涵,存在的问题、应用规范以及具体理论方面还不够完善。本章从传统伦理学理论和人工智能伦理概念出发,从三方面探讨以人为中心的人工智能伦理体系。第一方面是人工智能伦理与传统伦理学的关系,人工智能伦理在其中的位置和意义;第二方面是人工智能伦理包含的主要分支内容;第三方面是以人为中心的人工智能伦理原则。前两方面构成初步的人工智能伦理体系;第三方面着重强调人工智能技术发展需要遵循的基本原则。随着人工智能技术和理论的发展,人们对人工智能伦理的认识将越来越深入,人工智能伦理观念也越来越具体化,并具备可操作性,从而指导、规范人工智能科学技术的可持续发展。

当前,越来越强大的人工智能算法为人们推荐商品、歌曲、新闻、翻译外文文字,与人们聊天。人工智能已成为一股向善的力量,不仅带来经济增长,增进社会福祉,还能促进可持续发展。与此同时,人脸识别等技术的大规模应用也引发了国内外对该技术侵犯个人隐私的争议。人工智能技术在招聘、广告投放、信贷、保险、医疗、教育、司法审判、犯罪量刑、公共服务等诸多方面的应用也伴随着公平与否的问题。自动驾驶汽车、智能医疗产品等在应用中造成的事故也面临责任区分或分担问题。机器人等智能系统或技术在生产中应用的可能取代部分手工的、重复性的劳动,给劳动者就业带来了一定冲击(李勇坚,张丽君,2019 )。 2022 年 12 月,由 OpenAI 推出的 ChatGPT 聊天机器人程序对人类语言的灵活处理和运用程度达到了前所未有的高度,是继引发人工智能新一轮高潮并挑战人类抽象思维能力的 AlphaGo 之后,又一个重大人工智能技术突破,而这次是对人类语言能力的挑战,引发了有关大语言模型伦理问题的热烈讨论。深度学习之父辛顿在近期对以大语言模型为基础的人工智能系统的安全性问题表示担忧。继 ChatGPT 之后的 GPT-4 在各种专业测试和学术基准上的表现与人类水平相当,例如它通过了模拟律师考试。大语言模型的各种威力不断爆发, ChatGPT 的职业威胁论也引发了热议。例如,Insider 编制了一份被 AI 取代风险最高的清单,包括技术工作(程序员、软件工程师等)、媒体工作(广告、内容创作等)、法律行业工作、市场分析师、教师、贸易商、会计师等,由此可能引发的社会伦理风险不容小觑。

人工智能技术与以往的基因编辑、克隆等其他科学技术的不同之处在于,它是一种可以替代人类智能的技术。随着人工智能在围棋博弈、机器视觉、语言的接连突破变为现实,这三方面分别代表人工智能对人类高级思维、视觉和语言能力的替代。因此,人工智能相较于其他科学技术,更需要伦理道德的规范。

人工智能在快速发展中产生的伦理、法律等方面的问题在近五年引起社会各界的持续关注和激烈讨论。来自人工智能、社会科学领域的专家学者及企业家纷纷呼吁重视人工智能伦理,加强人工智能治理,践行科技向善,发展安全可信、负责任的人工智能。 2019 年至今,人工智能伦理原则和伦理审查,以及人工智能算法决策、人脸识别、深度内容生成以及自动驾驶汽车、机器人、智能医疗等细分领域的监管,是全球人工智能治理的焦点话题,表明国内外对人工智能治理的持续高度重视。

人工智能技术及系统的快速发展不仅是一场结果未知的开放性的科技创新,更是人类文明史上影响深远的社会伦理试验。人类社会需要在其发展的所有阶段积极主动地考虑人工智能技术的伦理规范和社会影响。但在人工智能发展的任何阶段都必须明确的一点是:任何一项人工智能技术、方法及应用都必须符合人类的伦理和价值以及利益需要,也就是“以人为中心”。正如著名人工智能科学家李飞飞所言,要让伦理成为人工智能研究与发展的根本组成部分。鉴于目前关于人工智能伦理的问题众说纷纭,缺少统一的规范体系,本章试图从人工智能伦理与传统伦理学、人工智能伦理分支内容及人工智能伦理原则三个层次探讨“以人为中心”的人工智能伦理体系,对人工智能伦理的发展起到抛砖引玉的作用,促进人工智能伦理对于人工智能技术发展的积极保障作用。

1. 传统伦理与传统伦理学基本概念及关系

道德与伦理是指关于社会秩序以及人类个体之间特定的礼仪、交往等各种问题与关系。作为一种行为规范,道德是由社会制定或认可的。与具有强制性、约束性的法律相对,它是一种关于人们对自身或他人有利或有害的行为的非强制性规范。所谓伦理,其本意是指事物的条理,引申指向人伦道德之理(詹姆斯,斯图亚特,2009 )。

伦理概念有广义与狭义之分。狭义的伦理是主要关涉道德本身,包括人与人、人与社会、人与自身的伦理关系。广义的伦理则不仅涉及人与人、人与社会、人与自身的伦理道德关系,而且也涉及人与自然的伦理关系,还研究义务、责任、价值、正义等一系列范畴。伦理道德不仅是人类社会自古以来固有的约束、规定人与人之间的关系的规范,而且,自 19 世纪以后人类借助科学技术不断加速人类文明发展步伐以来,伦理道德也成为引导和规范科学技术更好地服务于人类的基本规范(张华夏,2010 )。

应用伦理学是伦理学的一个分支,它的研究范围包括一切具体的、有争议的道德应用问题(卢风,肖巍,2002 )。自 20 世纪六七十年代应用伦理学兴起以来,应用伦理学已拥有越来越多的专门领域,如生命伦理、动物伦理、生态伦理、环境伦理、经济伦理、企业伦理、消费伦理、政治伦理、行政伦理、科技伦理、工程技术伦理、产品伦理、媒体伦理、网络伦理、艺术伦理等。

科技伦理是指关于各种科学技术发展所引发的伦理问题,包括基因编辑、克隆、纳米、互联网以及人工智能等各种科学技术发展和应用所引发的伦理问题(陈彬,2014 )。德国哲学家马克思 1856 年 4月 14 日在伦敦《人民报》创刊纪念会上的演说中说:“在我们这个时代,每一种事物好像都有它自己的反面。我们看到机器具有减少人类劳动和使劳动更有成效的神奇力量,然而却引起了饥饿和过度的疲劳。技术的胜利,似乎是以道德的败坏为代价换来的。”

2. 人工智能伦理与传统伦理学的关系

人工智能的诞生和发展使得人类所创造的工具的属性发生了重大变化,它们从没有智能的工具开始成为具有智能性的工具。当这种智能性与人类智能的某方面相似甚至超越人类时,人类与智能工具之间的关系就开始变得复杂起来,这种复杂关系通过反映在伦理观念上,就对人类社会的传统伦理关系造成了影响和冲击。由于这种关系的复杂性,人工智能伦理分为狭义和广义两个范畴(莫宏伟,徐立芳,2022 ),它们与传统伦理道德及伦理学的关系如图 18. 1 所示。图 18. 1 中,伦理道德是伦理学的基本研究对象,传统伦理学的研究内容或对象主要指向人、社会与自然,由此发展出应用伦理及科技伦理,科技伦理实际上是应用伦理的一个分支。而人工智能技术作为一种科学技术,其引发的伦理问题属于科技伦理范畴。但是人工智能伦理的指向已经超越了传统伦理道德范畴,因为人工智能伦理问题不限于传统的人、社会与自然,而是拓展到了非自然的对象———机器。因此,人工智能伦理可以划分为广义的人工智能伦理和狭义的人工智能伦理两方面。关于人工智能伦理问题的研究也就是新兴的伦理学分支———人工智能伦理学的主要任务。人工智能伦理学从概念上还是属于应用伦理学的分支,但其内涵和外延都已经超出传统伦理学的范畴。

狭义的人工智能伦理是人工智能系统、智能机器及其使用所引发的、涉及人类的伦理道德问题。

应用人工智能技术的各个领域都涉及伦理问题,也都是狭义人工智能伦理应该考虑的问题,也是弱人工智能技术应用引发的伦理问题(莫宏伟,2018 )。

广义人工智能伦理是指人与人工智能系统、人与智能机器、人与智能社会之间的伦理关系,以及超现实的强人工智能伦理问题,包括人工智能系统与智能机器对于人类的责任、安全等范畴。广义的人工智能伦理,主要有三方面含义:第一,人工智能技术应用背景下,由于人工智能系统在社会中由于

参与、影响很多方面的工作和决策活动(杜严勇,2020 ),人与人、人与社会、人与自然的传统伦理道德关系受到影响,从而衍生出新的伦理道德关系;第二,深度学习等人工智能技术驱动的智能机器拥有了不同于人类的独特智能,从而促使人类要以前所未有的视角考虑人与这些智能机器或者这些智能机器与人之间的伦理问题;第三,也是最有趣的一方面,人们认为人工智能早晚会超越人类智能,尤其是强人工智能,可能会威胁人类(莫宏伟,2018 ),这实际上是超越现实的幻想。但是由此引发的哲学意义上的伦理问题思考具有一定的理论和思想价值,能够启发今天的人类如何开发和利用好人工智能技术。这类广义人工智能伦理可以称为“超现实人工智能伦理”(莫宏伟,徐立芳,2022 )。超现实人工智能伦理关注的是强人工智能系统、类人智能系统或智能机器与人的伦理关系。

3. 人工智能伦理学

从现代伦理学角度看(王学川,2009 ),狭义人工智能伦理属于应用伦理领域。广义人工智能伦理则已经超越应用伦理范围,这主要是因为关于智能机器、社会与人三者之间的复杂的伦理道德关系超出了传统的人类社会伦理范畴。

传统的伦理学研究对象主要以人类的道德意识现象为对象,探讨人类道德的本质、起源和发展等问题。人工智能突飞猛进的发展,对于人的自然主体性地位提出了挑战,同时也对人的道德主体性提出了挑战,使得伦理学研究的对象不再仅仅是人与人、人与社会、人类自身的伦理道德关系,而是从人类的道德扩展到了人工智能技术、人工智能系统与机器的道德。由此形成全新的伦理学分支———人工智能伦理学。

人工智能伦理学需要从理论层面建构一种人类历史上前所未有的新型伦理体系,也就是人、智能机器、社会及自然之间相互交织的伦理关系体系,包括指导智能机器行为的法则体系,即“智能机器应该怎样处理此类处境”“智能机器为什么又依据什么这样处理”,并且对其进行严格评判的法则,也包括人类对于智能机器的行为,智能机器对人类的行为,智能机器与人类社会、智能机器与自然的伦理体系(莫宏伟,徐立芳,2022 )。

与人工智能伦理相对,人工智能伦理学也分为狭义和广义的两个范畴(莫宏伟,徐立芳,2022 )。狭义的人工智能伦理学是研究关于人工智能技术、系统与机器及其使用所引发的涉及人类的伦理道德理论的科学。狭义人工智能伦理学主要关注和讨论关于人工智能技术、系统及智能机器的伦理理论。狭义的人工智能伦理学是随着人工智能的发展而产生的一门新兴的科技伦理学科。广义人工智能伦理学是研究智能机器道德的本质、发展以及人、智能机器与社会相互之间新型道德伦理关系的科学。广义人工智能伦理学需要研究智能机器(包括人机结合形成的智能机器)道德规范体系,智能机器道德水平与人工智能技术发展水平之间的关系、智能机器道德原则和道德评价的标准、智能机器道德的教育,智能机器、人与社会、自然之间形成的相互伦理道德体系及规范,以及在智能机器超越人类的背景下,人生的意义、人的存在与价值、生活态度等问题。例如,以 ChatGPT 之类的大语言模型驱动的聊天机器人系统已经衍生出虚拟网络社区、虚拟 NFT 形象,甚至驱动现实社会中的机器人聊天、执行任务。它们之间可以相互聊天,话题极为广泛,而人类成为旁观者。这类智能系统或其所驱动的智能机器的道德规范体系在其萌芽状态就应该引起人类的高度重视和研究,而不仅仅是作为旁观者欣赏。