1、0引言2016年以来，世界各国研究机构就什么样的政策与治理方案能够促进人工智能（AI）的社会效益开发与使用并有助于减轻任何相关社会风险而展开相关讨论。经合组织称，在2020年初，“全球至少有50个国家（包括欧盟）已经制定或正在制定相关的国家人工智能战略。”并且 人工智能道德准则的全球前景也确定了84条关于人工智能的道德与伦理准则。这些政策文件与伦理准则是适应人工智能发展新态势、发挥自身规范性力量优势做出的重要战略回应，在此基础上，人工智能被进一步定义为“通过分析环境与采取行动来展示智能行为的系统。”欧盟一直在积极讨论如何促进人工智能的发展与使用，在未来希望发展什么样的人工智能，以及如何为全球人
2、工智能发展做出贡献。最初，欧盟的主要担忧之一是其本身的人工智能研发与应用会落后于北美和亚洲。自20世纪50年代早期以来，技术与创新一直是欧洲科学研究及技术政策一体化的主要驱动力，这同时也体现在2000年启动的欧洲研究区发展战略与计划，2010年制定的欧洲2020年可持续与包容性的智能发展战略。这种对全球竞争力的聚焦与关注一方面有助于实现资源的优化配置，但另一方面也受到了质疑与批评，保罗.克鲁格曼（Paul Krugman）在其19 9 4 年 颇具影响力的文章竞争力：一种危险的痴迷（Competitive:A Hazardous Equisition）中认为，“国家不能像企业那样竞争，并且国际
3、经济也不是零和游戏。”为了明确欧盟人工智能战略框架及伦理准则的规划背景、特征与模式，本文尝试从比较视角分析欧盟人工智能的相应政策文件，通过考察欧盟作为全球行动者的权力基础，使用“规范力量的欧洲（Normative Power Europe）”与“市场力量的欧洲（Market Power Europe）”两个概念来研究欧盟制定其人工智能政策的过程，并重点探讨以下两个问题：其一，从主要参与者及其理念出发，欧盟是如何制定其人工智能政策的？其二，相对于其他大国，欧盟是如何定位其人工智能政策的？1人工智能：欧盟政策中的定义与期望人 工智能有 很多定 义。欧盟广泛使用的人工智能定义来自欧盟人工智能的政策、
4、伦理准则及规制路径研究 文 郭佳楠摘要：本文在简要梳理欧盟人工智能战略框架的基础上，从比较的视角具体阐释了欧盟人工智能伦理准则及规制路径的核心内涵，运用“规范力量”与“市场力量”两个概念，分析了其相关政策出台动因及欧盟在全球人工智能竞争与合作中的地位。结合欧盟在此方面的举措，本文进一步思考了其对中国人工智能发展的相关启示，提出我国应保持相对优势，并在竞争环境中立足国情，加快人工智能伦理治理实践，积极推动人工智能治理的跨学科参与和国际合作。关键词：人工智能；规范力量；市场力量；伦理准则；欧盟发展战略26China Internet互联网天地行业研究Industry Research2018年人工
5、智能战略，该战略对人工智能的定义如下：人工智能（AI）是指通过分析环境并采取行动（具有一定程度的自主性）以实现特定目标来展示其智能行为的系统。基于人工智能的系统可以完全依赖于软件，在虚拟世界中运行（例如语音助手、图像分析软件、搜索引擎、语音和人脸识别系统），或者也可以嵌入硬件设备中（例如高级机器人、自动驾驶汽车、无人机或物联网应用程序）。这一定义在欧盟后续的人工智能政策中得到进一步引用与扩展。通常，人工智能包括方法与技术，例如，机器学习、机器推理和机器人技术等，而构成人工智能的主要元素是数据与算法。一般而言，人们会进行“狭义人工智能”与“广义人工智能”的区分。当前人工智能开发的阶段被描述为“狭
6、义人工智能”，即人工智能系统能够执行一个或仅几个特定的任务。在未来，预计将开发出能够执行大多数人类任务或活动的“广义人工智能”。欧盟政策文件中对人工智能的定义阐述表明，人们对人工智能作为一种具有广泛影响的变革性技术抱有很高的期望。虽然欧盟内外的政策制定者和其他行动者极为重视人工智能技术的变革潜力，但人工智能专家认为，目前，人工智能的雄心壮志与现实能力之间仍存在巨大差距。2欧盟人工智能政策的演变：面向欧洲的人工智能规制路径一直以 来，许多欧 盟 成 员国和机构都参与欧盟人工智能政策的制定。如表1所示，2017年-2021年，欧盟委员会先后发布了六份紧扣人工智能主题的战略与政策文件。欧盟各实施机构
7、、专家、利益相关者的报告与指导性意见促成欧盟内部对人工智能规制的深入讨论。同时，欧盟人工智能的发展涉及许多政策领域，其中包括数字市场、内部市场以及研究与创新政策。在制定人工智能政策过程中，欧盟受到了其他国家和地区人工智能的发展以及以往欧洲一体化成功案例的启发。例如，欧盟委员会早期的人工智能政策研讨会的报告概述了来自中国、美国、日本、英国、德国和阿拉伯联合酋长国关于人工智能治理的国际倡议。3欧洲议会：机器人的法律地位2017年初，欧洲议会通过了关于机器人技术民法规则的决议，这不仅是第一份关于人工智能的欧盟政策文件，也是全球第一份人工智能政策文件。这份文件是在关于人工智能的公开辩论的早期阶段编写的
8、，其要点是讨论媒体关注的公众人物斯蒂芬.霍金和埃隆.马斯克对人工智能威胁发表的观点。在公众辩论的早期阶段，该会议文件围绕着人工智能的一些令人震惊及科幻情绪展开集中论述，并以玛丽.雪莱（Mary Shelley）的弗兰肯表1 欧盟关于人工智能的关键性政策文件年表日期文件名称2017年2月关于机器人技术民法规则的决议2018年4月为了欧洲的人工智能2018年12月人工智能协调计划2019年4月欧盟委员会成立的人工智能独立高级别专家组制定的“可信的人工智能伦理准则”2020年2月人工智能白皮书通往卓越和信任的欧洲路径2021年4月促进欧洲人工智能的发展路径：监管提案与修订的协调计划来源：作者个人整理
9、欧盟政策文件中对人工智能的定义阐述表明，人们对人工智能作为一种具有广泛影响的变革性技术抱有很高的期望。272023.1互联网天地行业研究Industry Research斯坦的怪物和卡雷尔.卡佩克（Karel Capek）的机器人为开头，之后又援引了艾萨克.阿西莫夫（Isaac Asimov）1943年短篇小说绕跑中的机器人三定律来对人工智能设定一套法律准则和评估标准，这些法律“被视为机器人的设计者、生产者和操作员所必须遵守的规制。”在该决议中，欧洲议会要求委员会根据议会的建议提交一份关于机器人民法规则指令的提案。这个建议是：从长远来看，应为机器人创造一个特定的法律地位，以便至少能够创建一种最
10、复杂的自主机器人，使其具有负责修复它们可能造成的任何损害的电子人的地位，并可能将电子人格应用于机器人自主决策或与第三方独立交互的情况。该建议发布后，不仅使得机器人的法律地位的确立颇具争议性，而且也受到人工智能专家与利益相关者的大量批评。一封由200多名人工智能和机器人研究人员、行业领袖以及法律与道德专家签署的致欧盟委员会的公开信称，“创造电子人 的法律地位将是意识形态化的、荒谬的和非务实的。”公开信的作者们强调，从技术角度来看，本建议是基于“对最先进机器人的实际能力的高估”和“被科幻小说及最近一些耸人听闻的新闻公告扭曲的机器人认知，”并且从法律与伦理角度来看，为机器人创建法律人格也是不合适的。
11、应这一要求，欧盟委员会向议会作出回应，强调它将制定一项全面的人工智能战略，其中还将包括对现有立法的评估。应该说，这项议会决议强调的许多关于道德、就业与监管需求的观点都成为随后欧盟人工智能政策的一部分，并且该决议在很大程度上对欧盟人工智能自身发展而言具有重大意义，因为它提出了一项极具争议的关于为机器人创造法律地位的建议。另外，它同时包含了上文中提到的规范力量的欧洲与市场力量的欧洲的要素。决议根据欧洲联盟条约 欧盟基本权利宪章制定的原则和价值观建立一个道德框架，这表明了对规范力量的强烈依赖。与此同时，该文件还强调了监管的必要性，这是市场力量的一个关键因素。它还关注其他与市场相关的政策，如投资和就业
12、。4在全球竞争中的欧洲人工智能战略2017年7月，塔林数字峰会讨论了有影响力的麦肯锡全球研究所的报告，即欧盟在人工智能投资方面落后于美国和中国的相关内容，欧洲理事会邀请委员会提出欧洲人工智能的发展战略。为回应理事会的邀请和议会的决议，欧盟委员会于2018年4月开始制定欧盟的人工智能战略。这个战略提出了三个总体目标，进而成为欧盟人工智能政策的关键支柱。首先，它旨在提高欧盟的技术与工业能力，以及私营和公共部门在整个经济中对人工智能的研发与利用。具体包括：增加投资、加强研究与创新的科研投入以及数据共享，创建欧盟共同数据空间。该战略设定的目标是，在接下来的十年中，公共（欧盟及其成员国）和私人对人工智能
13、的投资总额将达到每年200亿欧元以上。其次，该战略还旨在为人工智能带来的社会经济变革做好准备。这一目标直接解决了人工智能、自动化和机器人的主要问题之一，即它们对就业的影响。虽然这个战略提到了一些积极的方面，例如机器人做的工作可能是重复的，甚至是危险的，以及人工智能带来的新工作，但主要关注的还是如何应对失业问题并“不让任何人掉队”。具体的行动措施包括：推进教育培训系统现代化、预测劳动力市场的变化、支持劳动力市场转型、及时调整社会保障体系。最后，它致力于确保建立一个基于欧盟价值观的适当的道德与法律框架，并符合欧盟基本权利宪章。其中涉及到关于监管的指导，尤其是在安全与责任、利益相关者的合作和人工智能
14、道德准则的制定等领域。该战略强调的一个总体理念是，欧洲应该倡导“一种造福人类和整个社会的人工智能发展方向”和具体 的 行 动措施包括：推进 教 育培 训系统现代化、预 测 劳 动力市场的变化、支 持 劳 动力市场转型、及时 调 整 社 会保障体系。28China Internet互联网天地行业研究Industry Research“让人工智能的力量为人类进步服务。”值得注意的是，该战略也包含了与规范力量基本相同的要素，例如需要根据欧盟基本权利条约和宪章制定的欧盟价值观，以及市场力量的特征，包括监管、投资和劳动力市场政策的需要，来共同制定一个指导性的道德框架。5“欧洲制造”的人工智能：成员国之间
15、的合作与协调在欧盟开始制定其整体的人工智能战略时，相关成员国已经或即将发布自己关于人工智能的国家战略。欧盟的人工智能战略参鉴了法国、德国和芬兰的政策举措。该战略强调成员国联合起来帮助整个欧盟在全球竞争与防止单一市场分裂的重要性。为了实现这一目标，欧盟委员会在以成员国最近的一项关于人工智能方面进行合作的宣言为基础，承诺与成员国合作制定一项关于人工智能的协调计划，该计划的确立进一步拓展了人工智能战略。在这一总体目标的基础上，这项计划还提出八项具体动议，以使成员国和欧盟委员会之间的合作更加紧密与高效，将国家和区域层面的行动措施与该计划中概述的欧盟层面的行动措施相结合。总体而言，该计划在关键领域提出了
16、大约70项联合行动，这些领域包括科学研究、投资、市场占有、技能培训和人才培养、数据共享及国际合作等，并承诺将定期监测和更新该计划，而该计划也已于2021年进行了第一次更新与评估。此处定义的欧洲人工智能战略汇集了之前欧盟人工智能政策文件的不同元素，并突出了规范力量与市场力量特征之间的密切联系。投资政策和监管措施通常既与市场力量相关，也与作为规范力量一部分的道德和价值观密切相连，因为对人工智能的投资有望解决欧洲面临的社会问题与挑战，而监管旨在保护价值观并实施相应的伦理准则。协调计划中的以下引述总结了市场与规范要素之间的相互关系，这也是欧洲人工智能战略的主要特征：一个适当和可预测的道德与监管框架依赖于有效的保障措施来保护人们的基本权利与自由，这对于公民信任人工智能以及需要投资安全的公司抓住新的商业机会至关重要。引领道德风尚，同时促进创新，有可能成为欧洲企业在全球市场上的竞争优势。6可信的人工智能伦理准则在新兴技术领域，欧 盟 历来重视伦理准则的制定，希望以高标准的伦理和规制政策来重构全球新技术的发展模式。2018年，欧盟委员会成立了一个独立的人工智能的高级别专家组（High-Level Ex