1、郑世林等：ChatGPT 新一代人工智能技术发展的经济和社会影响 5 ChatGPT 新一代人工智能技术发展的经济和社会影响新一代人工智能技术发展的经济和社会影响 郑世林 姚守宇 王春峰*摘 要：ChatGPT 作为新一代人工智能技术，将深刻地影响人类的经济和社会发展。本文分析了 ChatGPT 在人工智能产业、劳动力与就业、教育以及科学研究和科技伦理等多个领域的发展机遇与挑战。研究认为，ChatGPT 加速了生成式 AI 布局、劳动力市场结构演进和教育体系重塑，但与此同时也带来了科技与学术伦理、价值渗透、信息泄露等问题。此外，ChatGPT 也存在着潜在威胁，其快速产业应用或将给传统产业带来
2、了难以估量的调整成本，相应的认知污染可能会引发知识和价值观偏差。为充分利用好 ChatGPT 带来的发展红利，加速各种应用场景落地，并防范其可能引发诸多冲击和风险，本文最后提出了系列政策建议。关键词：ChatGPT；人工智能；技术冲击；社会变革；政府监管 DOI：10.19313/10-1223/f.20230310.002 一、引 言 自 2010 年起，社会技术革新进程日益加快，人工智能领域呈现出飞速发展和逐步广泛应用的态势（何哲，2016）。以新一代信息技术为支撑的人工智能正逐渐成为新时代产业革命与社会经济发展的新型支撑力量。学界已有大量研究表明人工智能对经济增长、生产率与技术创新、劳动
3、力市场、收入分配、市场结构与产业组织、法律规则与法律秩序等诸多方面产生影响（Autor 等，2003；Acemoglu&Restrepo，2020；Acemoglu 等，2022；Fumagalli 等，2022；吴汉东，2017；曹静和周亚林，2018；陈彦斌等，2019）。2022 年 11 月 30 日，美国人工智能公司 OpenAI 发布的 ChatGPT以其“对话式”的直接互动方式及“人性化”的语言文本服务让人们进一步感受到人工智能的魅力，打破了对于生成式人工智能技术的传统认知。仅在发布短短两个月后，ChatGPT 的月活跃用户数已达一亿，成为史上用户数增长最快的消费者应用。Chat
4、GPT 的出现掀起了人工智能技术投资与发展的浪潮，改变了现有的产业格局，给传统产业带来了强烈的冲击和重大的发展机遇。那么，ChatGPT作为一种广泛影响人类经济生活的新一代人工智能技术，应该采取何种政策加以规范和引导正逐渐成为重要的研究问题。从现有研究成果来看，国内外学者已经就 ChatGPT 对科学研究方面的影响进行了探究。Bert Gordijn 等（2023）认为 ChatGPT 的发明可能会提升科研人员的工作效率。例如，当学者们文思枯竭时可以将 ChatGPT 作为一种工具或一种搜索引擎，甚至可以让 ChatGPT 作为讨论者加入这场头脑风暴，在碰撞中产生新的思想火花，提升科研工作效率
5、。进一步，Eva 等（2023）发现已有研究人员使用这种对话式的人工智能来进行统计分析、总结文献内容以及撰写论文和演讲内容，加速了*郑 世 林，中 国 社 会 科 学 院 数 量 经 济 与 技 术 经 济 研 究 所，研 究 员，中 国 社 会 科 学 院 大 学 应 用 经 济 学 院，教 授Email:；姚守宇，天津大学管理与经济学部，讲师；王春峰，天津大学管理与经济学部，教授。通信作者：姚守宇，E-mail:。本论文在完成过程中也要特别感谢李珈、郭宗颖、刘云翔、温露露、王博、霍雨欣、谢美辰及李珂垚的助研工作，感谢国家自然科学基金面上项目（71573272）的资助，本文是中国社会科学院重
6、大创新项目（2023YZD010 和 2023YZD017）的阶段性成果。产业经济评论 2023 年第 3 期 6 创新进程，缩短发表时间，帮助人们更流畅地写作。然而，ChatGPT 带来机遇的同时，也使人类暴露于诸多危险与挑战中。ChatGPT 作为“非人类”，无法拥有人的思考能力以及道德伦理观念，它所需要的是源源不断大数据的滋养，进而消化吸收，在不断读取数据的过程中训练其深度学习的能力。一方面，ChatGPT 所生成的文本内容容易出错。例如，它可能会编造并不存在的文献，且输出内容冗长重复（Gordijn&Have，2023），这会降低研究的质量以及透明度，从根本上改变科研人员的自主性（Ev
7、a 等，2023），使得科学研究结果不再可靠。另一方面，ChatGPT 输出的文本内容又很难被识别。研究人员将 ChatGPT 所生成的摘要送去评审时，仅有 63%的内容被审稿人识别（Thorp，2023），这必然会影响所发文章的科学性与公正性。同时，ChatGPT 在引用文章回答用户问题时，是否会侵犯被引用文章作者的权利？ChatGPT 能否作为文章写作的工具？倘若作者使用ChatGPT 是否需要将生成内容标注？这些都是需要进一步深刻思考的问题。此外，ChatGPT 的“爆红”有极大可能改变甚至颠覆人们的生存与交往方式，重新塑造社会的资源分配方式。然而，由于ChatGPT 推出时间较短，目前
8、鲜有研究系统剖析 ChatGPT 对经济和社会发展的影响，更未系统讨论 ChatGPT 的潜在威胁，以及政府应采取的监管对策。在上述背景下，本文以 ChatGPT 技术冲击为切入点，从传统人工智能产业、劳动力与就业、教育以及科学研究与科技伦理四个方面进行探讨，探究新一代人工智能技术发展对经济与社会的影响。本文研究认为，ChatGPT 加速了生成式 AI 布局的同时也可能对传统人工智能产业的生存造成打击并引发伦理与安全挑战。在劳动力与就业方面，ChatGPT 的出现对不同技能劳动者的影响是不同的，中等技能劳动者受到影响较大，而高等和低等技能劳动者受到影响相对较小。在教育方面，ChatGPT 对教
9、育体系的冲击加速了人们对教育方式、教育侧重点和教育评价的思考。在科学研究与科技伦理方面，由于 ChatGPT 生成的学术研究不满足严谨性和科学性，从而助长了虚假信息传播和剽窃抄袭等行为并影响了整个学术生态。同时，ChatGPT 创建者所在的大型企业利用技术的垄断也带来了科技伦理问题和价值渗透问题。最后，本文也分析了 ChatGPT 对社会运行机制、社会安全和社会主体层面的潜在威胁，展望了 ChatGPT 自身技术的完善和应用场景的落地，并提出了相应的监管政策建议。与国内外既有文献相比，本文的主要贡献体现如下：一方面，开拓了 ChatGPT 对经济和社会等方面影响的探索。已有文献主要集中在 Ch
10、atGPT 对科学研究的影响方面，而本文则从人工智能产业、劳动力与就业、教育以及科学研究等诸多方面分析了 ChatGPT 所带来的影响，讨论 AI 行业中科技哲学及伦理问题，分析了 ChatGPT 对于经济和社会潜在的威胁及未来发展趋势，并就这种潜在的颠覆性技术的影响讨论应对策略。另一方面，以 ChatGPT 为研究对象，本文拓展了人工智能领域对经济和社会影响的研究视角。ChatGPT 作为新一代生成式人工智能产品，对它的研究将会进一步丰富人工智能领域的相关文献，从而对新一代人工智能领域所带来的产业发展空间具有启发意义，对人工智能监管模式变革具有政策参考价值。本文余下部分的结构安排为：第二部分
11、对 ChatGPT 的概念及其发展脉络进行梳理；第三部分在总结前人的观点的基础上，从传统人工智能行业、劳动力与就业、教育行业等方面探讨 ChatGPT带来的机遇，以及可能造成的产业冲击；第四部分则进一步分析了 ChatGPT 的潜在威胁与未来发展趋势；第五部分在上述论述基础上，结合以往的相关政策文件，提出针对类似 ChatGPT 的人工智能监管的可行性建议。二、ChatGPT 的概念与主要特征 ChatGPT（Chat Generative Pre-trained Transformer）的中文全称为生成型预训练变换模型。它是郑世林等：ChatGPT 新一代人工智能技术发展的经济和社会影响 7
12、 美国人工智能研究实验室 OpenAI 于 2022 年 11 月 30 日发布研发的聊天机器人程序，使用了Transformer 神经网络架构（GPT-3.5 架构）。ChatGPT 是一款人工智能技术驱动的自然语言处理工具，通过海量数据存储和高效设计架构理解和解读用户请求，可以以近乎人类自然语言的方式生成具有“较高复杂度的回应文本”，甚至能完成撰写、视频脚本、文案、机器翻译、分类、代码生成、对话 AI 等任务。ChatGPT 的原理是在 GPT3.5 的基础上增加了人类反馈强化模型，使用人类偏好作为奖励信号来微调模型，并引入“人工标注数据+强化学习”来反复训练（令小雄等，2023）。特别地
13、，由 OpenAI 团队近期最新发布的新一代多模态预训练大模型 GPT-4，相较于上一代模型而言，更是在输入限制、识别能力以及内容生成准确性和多样性等多个方面实现了飞跃式的提升，并在各种专业测试和学术基准上有着人类水平的表现。与传统人工智能技术相比，ChatGPT 及其迭代更新代表了未来人工智能的发展趋势，它可以基于大数据集自己生成内容，在语言能力、语言风格、论证效力及思想深度上赋予了新一代人工智能技术的鲜明特征。第一，在语言能力方面，ChatGPT 的可互动性是基于 OpenAI 公司开发的 GPT-3 架构的大型语言模型 LLM（Large Language Model）。通过在大量的文本
14、数据上进行预训练，ChatGPT 可以实现出色的语言理解能力，生成更自然、更流畅的文本。同时，基于人类反馈的强化学习模型和微调技术，ChatGPT 能够有效记忆所有历史对话，从而可以显著提升连续多轮对话的能力。普通人工智能机器人大多使用的是基于规则的模型或基于机器学习的模型。基于规则的模型通常需要手动编写大量的规则，对特定的问题和回答进行匹配，因此训练效率低、准确率差、连续对话能力弱。在普通的人工智能对话系统中，经多轮对话后，话题的一致性难以保障。相对比而言，ChatGPT 在理解准确度、用户意图有效捕捉、连续对话能力等核心功能上有显著提升，并敢于质疑人类提问的不正确及承认回答中的错误。作为人
15、机互动的辅助工具，ChatGPT 具有更高的适应性，其语言理解和生成水平的便捷性能够更快更好地回答客户问题，能够广泛应用于业界和客户服务，在教育、医疗、媒介、法律等领域发挥重要作用。第二，在语言风格方面，ChatGPT 基于强大的自然语言生成式模型，其训练的“自然语言处理”（NLP）模型使 ChatGPT 具有拟人化风格，为提供各种灵活性话术、更人性化风格的语言文本服务赋能（令小雄等，2023）。普通的人工智能机器人语言表达方面具有“非自然语言生成式”特点，其语言风格呈现出明显的僵硬化和机械化，不便于同人类的交流与合作。相比于普通的人工智能，ChatGPT 克服了以往人工智能语言非人化的缺点，
16、能够提供更加自然、人性化的对话体验，被称为“有史以来向公众发布的最好的人工智能聊天机器人”。但是，ChatGPT 在涉及人类情感细微之处的理解或措辞的使用方面还不太准确，整体语言风格也缺乏个性化，更像是多种混合的中性风格。ChatGPT 表现的语言趋同化或同质化将对语言伦理产生影响。第三，在论证效力方面，ChatGPT 在以往大语言模型的基础上，其语料库中构建了逻辑模型或数理模型。通过使用更高的计算资源，ChatGPT 在回答逻辑推理相关的问题时能够展示出较详细的逻辑推理步骤和推理结果。普通人工智能论证能力的实现，本质上是通过大量参数模型对海量数据进行拟合，按照固定的程序运行，其严重依赖于数据。如果训练集中尚未存在某种情况，普通的人工智能很难对此展现出逻辑思考能力。因此，ChatGPT 获得了比普通人工智能更高的计算能力、准确性和逻辑上的连贯性。但由于技术盲区限制，ChatGPT 目前仍然是深度学习模型，仅仅学会了推理的表面逻辑，不具备较强的逻辑推理能力和因果关系的数理运算能力。ChatGPT 只能依靠语料库驱动中的概率匹配，在相近数据中得出一个估计值。因此，在基本的四则运算中Chat
