1、收稿日期:2022-10-09 修回日期:2022-11-06基金项目:国家社会科学基金重点项目“人工智能商业化应用的社会影响与治理体系研究”(编号:22AZD135);国家社会科学基金青年项目“人工智能应用背景下政府数据开放能力提升路径研究”(编号:20CZZ034);深圳市哲学社会科学重点规划课题“深圳民生七有研究”(编号:SZ2021A007);安徽省高校人文社会科学重点项目“突发公共卫生事件下府际合作研究”(编号:SK2020A0177)的研究成果。作者简介:汤志伟,男,1969 年生,博士,教授,博士生导师,研究方向:数字治理与算法治理;方 錄,男,1998 年生,硕士研究生,研究方
2、向:算法治理;韩 啸,男,1988 年生,博士,副教授,硕士生导师,研究方向:数字治理;邓明磊,男,1997 年生,硕士研究生,研究方向:政府监管。通信作者:方 錄 基于委托代理视角的算法治理问题研究*汤志伟1 方 錄1 韩 啸1 邓明磊2(1.电子科技大学公共管理学院 成都 611731;2.中南财经政法大学公共管理学院 武汉 430073)摘 要:研究目的为进一步发挥算法对经济社会发展的正外部性作用,解决存在的算法歧视、算法偏见、隐私侵害、数据泄露等负外部性问题。研究方法以委托代理理论为基础,总结归纳算法治理中存在的委托代理关系,并分析委托代理问题的产生机制,进而从对话机制、约束机制和激励
3、机制提出解决之策。研究结论算法治理中存在官僚与企业、企业管理层与专家、企业和消费者、专家与算法、官僚与算法以及企业与算法之间的委托代理关系。发现总体性体制,行政组织和官僚的政治、行政双重属性,企业的市场参与性和技术研发优势,技术专家的专业性,公众的素养限制性以及广泛沟通缺乏和算法自身复杂性以及自主运行造成信息不对称;各主体的经济人理性造成主体间利益冲突;生产力快速变化使得经济社会快速发展和处于弱人工智能时代算法自我约束能力弱,导致敏捷治理能力弱。最后,提出了建立对话交流机制、加大对政府算法权力监管、健全算法公开制度、构建算法全主体监管体系、加大算法创新技术研发力度和建立完善算法使用机制的政策建
4、议。关键词:算法治理;委托代理;信息不对称;主体间利益冲突中图分类号:F49;D630 文献标识码:A 文章编号:1002-1965(2023)07-0170-08引用格式:汤志伟,方 錄,韩 啸.基于委托代理视角的算法治理问题研究J.情报杂志,2023,42(7):170-177.DOI:10.3969/j.issn.1002-1965.2023.07.024Algorithmic Governance Issues:From a Principal-Agent PerspectiveTang Zhiwei1 Fang Lu1 Han Xiao1 Deng Minglei2(1.School
5、 of Public Administration,University of Electronic Science and Technology of China,Chengdu 611731;2.School of Public Administration,Zhongnan University of Economics and Law,Wuhan 430073)Abstract:Research purpose This study aims to further exert the positive externalities of algorithms on economic an
6、d social develop-ment,and solve the negative externalities such as algorithm discrimination,algorithm bias,privacy violation,and data leakage.Re-search purposeBased on the principal-agent theory,it summarizes the principal-agent relationship in algorithm governance,analyzes thegeneration mechanism o
7、f principal-agent problems,and then proposes solutions from the dialogue mechanism,constraint mechanism andincentive mechanism.Research conclusion In algorithm governance,there are principal-agent relationships between bureaucrats andenterprises,enterprise management and experts,enterprises and cons
8、umers,experts and algorithms,bureaucrats and algorithms,and enter-prises and algorithms.It is found that the dual attributes of the overall system,administrative organization and bureaucracy,the marketparticipation and technological research and development advantages of enterprises,the professional
9、ism of technical experts,the limitationof the publics literacy and the lack of extensive communication,the complexity of the algorithm itself and its independent operation causeinformation asymmetry;The economic human rationality of each subject causes the conflict of interests among subjects;The ra
10、pid changeof productivity has led to the rapid development of economy and society and the weak self-discipline of algorithms in the era of weak artifi-cial intelligence,resulting in weak agile governance.Finally,policy suggestions are put forward to establish a dialogue and exchangemechanism,increas
11、e the supervision of government algorithm power,improve the algorithm disclosure system,build a full body algorithm第 42 卷 第 7 期2023 年 7 月 情 报 杂 志JOURNAL OF INTELLIGENCE Vol.42 No.7July 2023supervision system,increase the research and development of algorithm innovation technology,and establish and i
12、mprove the algorithm ap-plication mechanism.Key words:algorithmic governance;principal-agent;information asymmetry;inter-subject interest conflict 近年来伴随着新一代信息技术的快速发展,形成了一大批例如阿里、腾讯、百度、美团等互联网金融企业,中国数字经济与平台经济取得重大成就,为实现数字化转型奠定技术、资金、人才基础,营造良好氛围,在这之间算法扮演着重要角色。算法是人机(人与机器)交互的决策,即人类通过代码设置、数据运算与机器自动化判断进行决策的一套
13、机制,无论从狭义抑或广义角度,算法简单来说就是程序或者步骤1,其核心是按照设定程序运行以期获得理想结果的一套指令,通过输入信息到特定算法以获得输出结果2。算法极大提升了政府治理能力与效率,便捷了公民生活办事,形成了一网通办、一网统管、集成套餐以及掌上通办等政府平台服务,促进了数字政府的建设与发展。但是算法技术在推动人类社会智能化革命的同时也催生了一系列技术风险和社会问题3,与之而来的是算法“黑箱”、算法歧视、算法失控、隐私侵害、数据泄露、算法利维坦等现实风险与威胁,在这一现实背景之下,算法治理显得愈发重要。算法治理包括“用算法治理”和“对算法治理”两个维度416,近年来随着算法使用暴露的问题愈
14、发突出,对算法进行治理也愈发引起关注。由于算法应用过程之中出现了众多问题,迫切需要对算法进行治理,因此文章以委托代理理论分析用算法治理这一维度,剖析其存在的委托代理关系和内在问题,进而提出对算法进行治理之策。近些年来,学界对算法暴露的问题针对性地开展研究,形成了系列成果,得到了包括算法问责、算法公开、算法审计等一系列治理措施,对算法治理的现实实践起到了相关指导作用。然而,近期国家通报的阿里“二选一”垄断、“滴滴出行”网络安全审查、美团外卖“二选一”等依据算法优势以追求自身垄断地位以及经济利益最大化行为被查处事件,仍显示出算法治理任重道远。与此同时国家层面对算法治理显示出最新导向,2021 年
15、9 月国家互联网信息办公室等九部委下发的关于加强互联网信息服务算法综合治理的指导意见在明确肯定了算法在“加速互联网信息传播、繁荣数字经济、促进社会发展等方面发挥了重要作用”的同时,也指出“算法不合理应用也影响了正常的传播秩序、市场秩序和社会秩序,给维护意识形态安全、社会公平公正和网民合法权益带来挑战”,并从“健全算法安全治理机制、构建算法安全监管体系、促进算法生态规范发展”提出具体要求5。更进一步,党的二十大报告指出“推动战略性新兴产业融合集群发展,构建以人工智能等为代表的一批新的增长引擎”,以全国党代会报告的形式对推动人工智能健康发展,发挥人工智能的正外部性予以明确规定。现有的有关人工智能挑
16、战的研究还存在碎片化和笼统性,精准性和系统性不足等问题69,与党和国家对人工智能的新要求、人工智能发展面临的新问题存在不匹配现象,为此需要进一步整体性、精确性认识算法问题。算法难以治理,主要由于算法的非技术性、非中立性和拟人化特征,其具有自我演化和学习的特点,因此亟需将算法作为一个行动主体看待,同时在算法治理中存在政府、企业、研发者以及个体使用者等多个主体,不同主体具有经济人理性、彼此之间存在信息不对称问题,加剧了算法治理难度。基于主体广泛、信息不对称,文章提出从委托代理视角切入算法治理,总结提炼算法治理中存在的委托代理关系,审视算法治理中存在的问题,为算法治理的实践提供积极指导,为理论研究提供新的视角,同时在相关政策文件和实践活动基础上进一步提出对策建议。因而文章作出了三方面的贡献:一是进一步丰富完善了已有的算法治理中的委托代理关系;二是阐述了算法治理中委托代理问题的产生机制;三是提出了更为具体的对策建议。1 理论基础 1.1 委托代理理论及其适用性委托代理理论兴起于 20 世纪 60 年代末,是反对企业“黑箱”理论,以深入研究企业内部信息不对称和激励问题而产生,其核心是在研究利益相