序言

一、人工智能的发展与治理的必要性

近年来，随着具有即时性、平面化、去中心化、智能化的互联网、大数据以及人工智能（AI）技术的深入研发和广泛应用，在社会生产生活中出现了一些与此相关的新的事物、新的行为和新的社会关系现象；在社会运行和治理层面，也相应地产生了一些新的社会问题以及解决这些问题的理论思考和社会实践。概括地说，人工智能技术的研发和应用，一方面产生了极大的良性的社会效益，另一方面也带来了诸多负面的社会问题。

一方面，社会生产生活更加便利和高效，各种生产生活资源的融通整合更加快速有效，人们足不出户就可以享受到各种生活服务；在社会管理和运行上，公共信息更加透明和及时，避免了权力寻租和各种职业价值异化；社会生活民主和自由度得到极大提高；等等。可以说，无论是在微观的个体生活层面，还是在宏观的社会生产层面，互联网、大数据以及人工智能技术都给整个人类行为赋能良多，给社会生产生活带来前所未有的改变。

另一方面，在人类社会的价值理解和认知逻辑上，再强的科学技术都是一把双刃剑，其作为一种价值中性的事物能为善亦能为恶，能解决问题也能带来问题。这已经不再仅仅是一种逻辑上的推理和观念上的想象，现实生活中的信息和数据泄露造成了诸多问题，如个人隐私安全、财产安全、公共安全以及国家安全问题，平台经济中的垄断和不正当竞争问题，算法黑箱和歧视问题，社会贫富分化和失业问题，等等。

可以说，对于技术带来的好与坏两方面而言，二者的实现能力和程度不相上下，往往需要在社会发展的动态选择和较量中达成一种力量和效果上的平衡。而对于强大的新一代人工智能技术而言，如果说其仅仅是人类的一项技术而不是另一个入侵的物种，那么这种技术在社会中运用上的好与坏、善与恶，最终还是要归结为其是掌握在好人还是坏人的手里，最终还是要体现在社会主体，即人类的行为选择和责任承担上。

由此，人工智能的社会治理就是人工智能作为一项技术在人类社会发展中的必然性话语命题和现实任务；如果不单独从一种纯粹的技术研发和应用的角度，而是从人类社会行为意义上来看，人工智能技术只有完成好这个任务，人工智能才能进入人类社会并获得应用和发展。那么，这个任务是什么呢？无论是在经验上还是在逻辑上，人工智能的社会治理所指的都不是因为恐惧和担心而简单粗暴地限制或拒绝人工智能技术的研发、应用和发展，而是理性地看待人工智能技术所带来的好与坏、善与恶、问题与赋能、发展与限制等这些矛盾性的价值。在社会发展中，以上这些矛盾的方面都可以被统一概括为安全应用与风险防控，人工智能治理无疑就是人类如何对这项技术趋利避害和扬长避短，在社会生产生活中实现人工智能的安全应用与风险防控的平衡，从而给人类带来福祉。

二、人工智能治理需要面对的几个重要问题

虽然可以在基本原则和任务方向上将人工智能的治理归结为以上根本性问题，但从具体的层面上来讲，这项工作应当是一个复杂的问题知识体系和社会工作结构系统，从回应现实问题的必要性以及问题逻辑构成的应然性上来看，治理人工智能需要在如下基本问题上作出思考和探讨。

首先，如何界定人工智能以及相关技术。在逻辑上，人工智能治理首先要解决的问题是确认所要治理的对象，否则难以形成共识性的问题认识以及解决方案，即便有探讨，也无法确定争议的焦点。确认这个问题的现实必要性体现在：首先，即使在人工智能学界，对于新一代人工智能的内涵和外延的认识也并不完全一致，现实中的人工智能技术所指范围也不相同。比如，所治理的人工智能技术仅指纯粹的智能技术本身，还是包含互联网、大数据等其他技术？显而易见，不同的技术内容及范围在现实社会生产生活中所产生的问题的种类、属性以及社会效果是不同的，其相关治理价值定位和方式方法也是不同的。因此，对于人工智能这一治理对象的确定和确认是开展相关研究的基础和前提。

其次，人工智能治理如何界定。关于人工智能治理的所指，除上文所说的大的原则和方向外，在具体层面上还要回答治理对象具体指的是什么。比如说，是治理技术本身，还是治理技术所产生的社会效应、社会效果和社会问题？如何从社会治理的视角来看待人工智能的技术构成及其技术属性？人工智能治理的具体性质、属性、内涵、外延、价值定位、目标任务如何？等等。如此才能确定治理所要解决的问题、治理工作所要遵循的基本原则以及所要采用的方式方法等。

最后，如何进行人工智能的治理。无论是人工智能的界定还是对其进行治理的界定，核心的目标指向就是回答如何对人工智能进行社会治理这一问题。在以上相关界定的基础上，人工智能治理首先需要分析人工智能治理的一般性原则、基本方式方法、治理工作阶段的划分、治理道路模式的探索和构建；其次还有必要在经验层面上梳理介绍世界各个国家和地区治理工作的经验、人工智能治理的国际协作情况，探索时下在治理上问题比较突出的、现实中具有治理紧迫性的、具体社会应用领域的相关治理理论和实践。

三、具体章节的撰写工作的分配

为回应和探讨以上几个重要问题，笔者以人工智能治理的法律、公共政策以及伦理规范等相关社会行为和社会关系的规则的建立和运行为主要思考方向和工作进路，通过对相关文字资料的梳理分析、实地调研考察、座谈会议交流，确定了本书的内容构成和研究撰写分工，对相关的问题进行了尝试性的分析和探讨，具体如下：

引言：主要内容为智能社会发展与治理问题的提出，介绍了智能技术推进社会进步和发展的基本情况，同时也提出智能技术存在大量的社会安全风险，需要引起重视，一些现实问题需要在各国国家社会发展中加以解决。这一部分由刘露研究撰写完成。

第一篇：主要内容为人工智能发展的综合情况，具体包括对人工智能的基本认识与对其发展历程的概要描述，核心目标是对本书所指的治理对象即人工智能的界定。为了更好地实现这一目标，笔者还对人工智能的技术构成、典型场景、产业发展状况以及时下比较突出的相关技术产业场景及其监管治理问题作了初步的梳理和介绍。这一部分共分为三章，前两章由江溯研究撰写完成，第三章由刘露研究撰写完成。

第二篇：主要内容为世界上人工智能发展较为迅速的欧盟以及美国、日本、韩国、英国和澳大利亚等地区和国家的人工智能发展及立法与政策制定的基本状况的梳理介绍，对各个地区和国家在人工智能治理方面所采取的态度、原则、策略和方式进行了比较，对人工智能领域国际监管的政策的共性、差异以及治理上的国际合作进行了分析和总结。这一部分共分为五章，主要内容由张平研究撰写完成，刘露根据新近的发展变化情况作了补充和完善。

第三篇：主要内容为人工智能法律以及各种规则制度性治理的基本原理、基本路径和模式的探索分析。首先结合第一篇的内容分析了人工智能的社会属性、社会效应以及法律和规则治理视角下的治理上的基本问题；其次从基本原理的角度和层面探讨了人工智能治理的属性、目标、原则以及模式构成，其中阐释了对治理的方式方法以及价值功能定位的认识和选择；最后对人工智能治理的阶段、道路和规律性的认识进行了理论上的探讨和分析。这一部分共分为两章，由杨晓雷研究撰写完成。

第四篇：主要内容为对我国人工智能产业、政策的发展情况的介绍，以及对其治理与规制思路的总结、梳理和探索。首先对我国人工智能产业的发展状况以及国家和地方两个层面人工智能领域的政策法规进行了总结介绍，结合国内外人工智能产业和政策法规的发展现状，分析阐释了我国关于人工智能立法和政策制定方面的优势和不足；在此基础上，分析探讨了我国人工智能规制的价值定位、应当重视处理的重要关系；最后尝试提出了我国人工智能总体规制应当考虑的路径和具体法律规制的基本定位。这一部分共分为两章，由王成研究撰写完成。

总之，本书基于近几年来全球人工智能发展的理论和社会应用现状，尝试性地探讨了人工智能治理的如上几个基本问题。面对人工智能研发和应用的广泛的领域、丰富的内容和复杂的情况，本书所及的现象、问题，依据的信息、材料以及相关研究探讨应当是有限的。比如，鉴于本书开始策划时人工智能应用的具体场景以及暴露的具体治理上的问题的相对有限性，本书在内容上主要针对人工智能所产生的一般性社会效应和社会治理问题进行相对抽象性、概念性的思考和探讨，没有就具体的智能应用领域的法律、政策等规范规则治理问题进行聚焦探讨并给出建设性方案。另外，人工智能的治理不只是法律、政策、伦理等社会规范和社会制度上的问题，还应当包含如何通过技术切入实现智能技术的治理或者安全应用和发展的问题。对此，本书在对人工智能治理的基本属性认识和基本原理探讨上，虽然已经提出通过技术本身以及通过技术给规则和制度进行同样能力的赋能来实现人工智能的有效治理，但主要还是把技术作为一种治理对象，尚没有将其作为一种手段展开更多的研究和全面的探讨。以上这些尚未进行研究的应当是人工智能治理研究工作非常重要的组成内容和方向，随着人工智能技术的深入研发、广泛应用并在特定领域发育发展和相对成熟，法律以及规则运行方面的人工智能技术研发将能够进一步产生显著社会效应。

本书内容的研究和撰写成文要特别感谢北京大学法学院张守文教授、潘剑锋教授、郭雳教授等同事们的支持、鼓励和指导，感谢北京大学人工智能研究院人工智能治理研究中心的支持以及同事们的帮助，感谢中共中央网络安全和信息化委员会办公室负责相关工作的同志们给予的指导意见、提供的资料上的帮助，感谢北京大学出版社以及杨玉洁、靳振国编辑为本书的编辑出版工作所付出的一切努力，感谢为本书的研究和写作帮助整理资料的所有北京大学法学院的学生们。

不足之处，还请同行提出宝贵的批评和指导意见，同时也期待通过同行们的共同努力，在人工智能治理领域，能够继续深入探讨研究这些重要的理论问题，贡献相关的问题解决方案。

杨晓雷
2022年7月