1、 人工智能治理白皮书人工智能治理白皮书 中国信息通信研究院中国信息通信研究院 中国人工智能产业发展联盟中国人工智能产业发展联盟 2020年年9月月 版权声明 本白皮书版权属于中国信息通信研究院和中国人工智能产业发展联盟，并受法律保护。转载、摘编或利用其它方式使用本白皮书文字或者观点的，应注明“来源：中国信息通信研究院和中国人工智能产业发展联盟”。违反上述声明者，编者将追究其相关法律责任。前前 言言 当前，全球科技革命和产业变革孕育兴起，以深度学习、跨界融合、人机协同、群智开放、自主操控为特征的新一代人工智能不断取得突破，已成为新一轮科技革命和产业变革的重要驱动力量。在极大提升人类生产生活品质的
2、同时，新一代人工智能具有的通用目的性、算法黑箱性以及数据依赖性等技术特性，引发了社会、企业、个人等不同维度的风险和挑战，从而对治理提出了专业化、多元化、敏捷化、全球化的迫切需要。因此，人工智能治理这一概念应运而生，成为国际社会广泛关注和研究的方向。人工智能治理是一项复杂的系统工程，既需要明确治理原则、目标以及厘清治理主体，又需要提出切实有效的治理措施。全球正在逐步构建起人工智能治理框架，以坚持科技造福人类，平衡创新发展与有效治理的关系作为治理目标，采用多元主体参与、协同共治的治理机制，通过制定伦理原则、设计技术标准、确立法律法规等综合治理手段，推动人工智能健康有序发展。人工智能的治理体系需要“
3、柔性的伦理”和“硬性的法律”的共同构建。一方面，以伦理为导向的社会规范体系，可以为人工智能技术层面的开发和应用提供价值判断标准，约束和指导各方对人工智能进行协同治理。众多国际组织、国家和企业选择从伦理角度入手，试图确立人工智能的基本伦理规范，探索清晰的道德边界，并积极构建人工智能伦理的落地机制和体系。另一方面，以法律为保障的风险防控体系，依靠国家强制力划定底线，可以防范和应对人工智能技术带来的诸多风险。整体来看，人工智能相关立法正从慌乱走向理性，从源头治理走向综合治理，从粗放治理走向精细治理。同时，在自动驾驶、深度伪造、智能金融、智能医疗等场景下，人工智能立法取得率先突破，积累了一定的监管经验
4、。本白皮书从人工智能第三次浪潮开辟的治理新需要出发，结合当前人工智能发展阶段，分析了全球目前的人工智能治理机制，重点介绍了两项主要的治理举措，即以伦理为导向的社会约束体系和以法律为保障的风险防控体系，最后对人工智能治理的未来发展方向进行了展望，期待为社会各方提供有益参考。目目 录录 一、人工智能开辟治理新需要.1（一）人工智能时代的兴起.1 1.人工智能驱动新一轮科技革命.2 2.人工智能打造经济发展新引擎.2 3.人工智能显著提升社会生活质量.3（二）人工智能的技术特性.4 1.通用目的性，导致风险更为普遍.4 2.算法黑箱性，导致过程更难解释.5 3.数据依赖性，导致结果更不可控.5（三）
5、人工智能引发不同维度的风险.6 1.社会维度：影响社会稳定.6 2.企业维度：加大合规难度.7 3.个人维度：侵犯基本权益.9（四）人工智能治理的新挑战.10 1.治理专业化的需要.11 2.治理多元化的需要.11 3.治理敏捷化的需要.12 4.治理全球化的需要.12 二、全球构建人工智能治理机制.14（一）治理目标：坚持科技造福人类，平衡创新发展与有效治理.14 1.不断释放人工智能带来的技术红利和价值.15 2.精准防范并应对人工智能可能带来的风险.16（二）治理模式：打造多元主体参与、协同共治的模式.17 1.国家政府是执行治理规则的核心主体.17 2.政府间国际组织是引导治理方向的重
6、要力量.20 3.行业组织是协调多方治理的积极推动者.20 4.企业是践行行业自律自治的中坚力量.22 5.公众是监督治理效果的重要参与者.23（三）治理手段：实施多层次、多样化的治理举措.23 1.伦理约束.24 2.技术应对.25 3.规范立法.25 三、以伦理为导向的社会规范体系.27（一）国际层面：开始制定全球性伦理倡议.28（二）国家层面：各国伦理关注点各有侧重.31 1.美国借助伦理规范保障国家安全.31 2.欧盟推广可信人工智能伦理框架.32 3.德国率先提出自动驾驶伦理准则.33 4.中国倡导发展负责任的人工智能.33（三）企业层面：践行伦理的自我规制之道.37 1.制定企业伦
7、理原则.37 2.开展内部机构建设.38 3.构建企业实践机制.39（四）总结：人工智能伦理规制从伦理原则走向伦理体系.43 1.第一阶段已形成共识性伦理原则.43 2.第二阶段逐步探索伦理体系构建.50 四、以法律为保障的风险防控体系.53（一）全球人工智能立法整体趋势.53 1.数据和算法规制成为人工智能立法的首要命题.54 2.人工智能立法渐趋理性，更尊重技术规律和法律安定性.57 3.普遍体现以风险为导向的分级分类治理思路.60（二）人工智能的场景化规制.63 1.助力自动驾驶落地.63 2.防止深度伪造滥用.69 3.规范智能金融产品.74 4.促进智能医疗发展.77 五、人工智能治
8、理展望.81（一）坚持包容、弹性的治理理念.81（二）构建不同阶段的治理路径.83 1.近期应加快制定产品和服务标准，利用“数据治理”推动人工智能治理问题的解决.84 2.中远期应调整责任法律制度，实现法律与伦理相衔接.87（三）打造多元共治的治理机制.89 图图 目目 录录 图 1 深度学习与传统机器学习的差别图.5 图 2 人工智能治理机制图.14 图 3 人工智能伦理文件类型图.28 图 4 人工智能伦理体系图.50 表表 目目 录录 表 1 各国人工智能管理机构.18 表 2 各国人工智能标准文件.21 表 3 各国人工智能伦理文件.34 表 4 科技企业人工智能伦理文件.40 表 5
9、 人工智能伦理原则、解释说明以及举例.45 表 6 各国对于自动驾驶的立法规制.67 表 7 各国对于深度伪造的立法规制.72 表 8 各国对于智能金融产品的规制.76 表 9 各国对于智能医疗的规制.80 人工智能治理白皮书 1 一、人工智能开辟治理新需要 人工智能是指，用机器模拟、实现或延伸人类的感知、思考、行动等智力与行为能力的科学与技术。作为引领未来的战略性技术，人工智能是新一轮科技革命和产业变革的重要驱动力量，已经成为国际竞争的新焦点、经济发展的新引擎。人工智能在极大提升人类生产水平和生活品质的同时，也带来了新风险、引发了新问题，对一个国家治理能力的法治化、智能化、专业化水平提出全新
10、要求。目前，国际社会纷纷呼吁加强人工智能治理，发展安全可信、负责任的人工智能。（一）人工智能时代的兴起（一）人工智能时代的兴起 人工智能概念的提出，始于 1956 年美国达特茅斯会议。人工智能至今已有 60 多年的发展历程，从诞生至今经历了三次发展浪潮。前两次浪潮中，由于算法的阶段性突破而达到高潮，之后又由于理论方法缺陷、产业基础不足、场景应用受限等原因而没有达到人们最初的预期，并导致了政策支持和社会资本投入的大幅缩减，从而两次从高潮陷入低谷。近年来，在移动互联网、大数据、超级计算、传感网、脑科学等新理论新技术以及经济社会发展强烈需求的共同驱动下，以人工智能治理白皮书 2 深度学习、跨界融合、
11、人机协同、群智开放、自主操控为特征的新一代人工智能技术不断取得新突破，迎来了人工智能的第三次发展浪潮。1.人工智能驱动新一轮科技革命 人工智能是当前科技革命的制高点，以智能化的方式广泛联结各领域知识与技术能力，释放科技革命和产业变革积蓄的巨大能量，成为全球科技战的争夺焦点。世界主要发达国家纷纷把发展人工智能作为提升国家竞争力的主要抓手，努力在新一轮国际科技竞争中掌握主导权，围绕基础研发、资源开放、人才培养、公司合作等方面强化部署。例如，美国为人工智能研发投入大量资金，确保其人工智能在全球的领先地位；英国利用其在计算技术领域的积累，致力于建设世界级人工智能创新中心；日本以建设超智能社会 5.0
12、为引领，旨在强化其在汽车、机器人等领域全球领先优势。2.人工智能打造经济发展新引擎 当前，以智能家居、智能网联汽车、智能机器人等为代表的人工智能新兴产业加速发展，经济规模不断扩大，正成为带动经济增长的重要引擎。普华永道提出，人工智能将显著提升全球经济，到 2030人工智能治理白皮书 3 年，人工智能将促使全球生产总值增长 14%，为世界经济贡献 15.7万亿美元产值。一方面，人工智能驱动产业智能化变革，在数字化、网络化基础上，重塑生产组织方式，优化产业结构，促进传统领域智能化变革，引领产业向价值链高端迈进，全面提升经济发展质量和效益。另一方面，人工智能的普及将推动多行业的创新，大幅提升现有劳动
13、生产率，开辟崭新的经济增长空间。据埃森哲预测，2035 年人工智能将推动我国劳动生产率提高 27%，经济总增加值提升 7.1 万亿美元。3.人工智能显著提升社会生活质量 人工智能在教育、医疗、养老等民生服务领域应用广泛，推动服务模式不断创新，服务产品日益优化，创新型智能服务体系逐步形成。在医疗方面，人工智能不断提升医疗水平，特别是在新冠肺炎疫情期间，人工智能在疫情监测、疾病诊断、药物研发等方面发挥了重要作用。在教育方面，人工智能的应用加快了开放灵活的教育体系的建设工作，能够实现因材施教，推动个性化教育发展，进一步促进教育公平和提升教育质量。在养老方面，人工智能在助残养老领域的应用不人工智能治理
14、白皮书 4 断丰富和创新，在帮助残疾人和老人提升生活自理能力和尊严感方面发挥重要作用。例如，护理型机器人通过与照护对象进行交互性治疗，可以降低老年人的孤独感，极大改善老年人的生活。（二）人工智能的技术特性（二）人工智能的技术特性 人类正处于一个前所未有的时期，互联网、移动通信、物联网、云计算、大数据、人工智能等信息技术正在推动社会逐步进入智能化时代。相较于其他领域的新技术，由于新一代人工智能具有的技术特性，使其更为复杂、更不可控、更难预测。1.通用目的性，导致风险更为普遍 人工智能作为一项通用目的技术，可以应用到自动驾驶、智能制造、智慧城市、智慧医疗等诸多领域场景中，并且能够与大数据、云计算等
15、数字技术互补互促使用，有着极强的技术溢出效应，对经济社会高质量发展显现出强劲的引领带动作用。但与此同时，人工智能技术风险发生的范围会随着应用场景的日趋广泛而逐步扩大，问题发生的可能性也会随着其应用频次的增长而持续提高，若不及时有效治理，将会严重影响人类生产生活。人工智能治理白皮书 5 2.算法黑箱性，导致过程更难解释 目前，以深度学习算法为核心的人工智能算法模型被普遍应用，但由于其算法结构中存在多个“隐层”，导致输入数据和输出结果之间的因果逻辑关系难以清楚解释，用户只能被动接受由算法带来的结果而无法洞悉其运行过程，从而形成一种技术“黑箱”。此外，人工智能算法模型还具有自适应、自学习等特性，导致
16、其极易偏离人类预设的目标，其复杂程度愈发超出人类理解范畴。来源：资料整理 图 1 深度学习与传统机器学习的差别图 3.数据依赖性，导致结果更不可控 数据是人工智能模型训练及优化的“燃料”，是人工智能算法做出正确、公平、合理决策的基础保障。输入数据的数量规模、准确性、人工智能治理白皮书 6 通用性、包容性、全面性等质量因素将直接决定训练得到的模型的质量。同时，数据本质上是社会价值观的缩影与映射，因此也会包含一些落后的价值观与社会偏见。若未能对数据质量进行有效把控，人工智能算法模型便很可能习得数据中的偏见谬误，并将其反映到训练结果中，致使人工智能系统的功能行为及其影响变得更不可控。（三）人工智能引发不同维度的风险（三）人工智能引发不同维度的风险 作为引领未来的战略性技术，人工智能在打造经济发展新引擎、推动人类文明迈上新台阶的同时，也给社会、企业和个人带来了不同维度的风险挑战。1.社会维度：影响社会稳定 一是冲击就业格局，加剧财富分化。智能的算法、机器对传统人工的替代在解放人力劳动者的同时，直接带来了对就业的冲击。从事重复性、机械性等工作的劳动者更容易被人工智能替代工作。据麦肯锡报告推测，到
