8月29日，2019世界人工智能大会在上海举行。外交部原副部长、清华大学战略与安全研究中心主任傅莹在世界人工智能大会治理论坛上发表“人工智能的治理与国际合作”为题的讲话。以下为演讲全文：

（文/傅莹）

傅莹

一、关于人工智能治理面临的挑战。

进入21世纪的第二个十年，人工智能技术的应用进入快速发展的阶段，随着AlphaGo为代表的深度学习算法的成熟，人工智能技术出现大面积应用的趋势。我最近访问了一些企业，昨天在上海还看了三家企业，可以明显地感受到我国人工智能产业所呈现出来的蓬勃发展态势。可以期待，未来人类的生产和生活方式将发生更大的变化，生活将变得更加舒适和便利。

今年7月，我们在清华大学的世界和平论坛期间举办了三场论坛，邀请70多位国内外专家学者和企业家围绕人工智能的风险和治理进行研讨。大家比较一致的看法是，人工智能技术是一把“双刃剑”，一方面带来科技革命和产业升级的重要机会，另一方面，也带来新的安全风险，在治理上人类将面临与以往完全不同的难题。

例如，在立法上需要有新的思维。传统的法律是要以社会基本共识为基础的，因此往往要滞后于社会实践。但是在人工智能技术上，我们恐怕没有这样奢侈的时间条件，因为这项技术的应用影响之快、之大，远不同于传统技术，治理的需求与技术的应用几乎同步出现。

再比如，传统立法者关注的是人与人之间的关系。而人工智能作为“非人行为体”，未来会越来越广泛地参与人类活动，那么，在人机共存，甚至人机冲突的情况下，如何面对和处置人类与机器的矛盾呢？“机器代替人”做决策的情况已经不是想象中的事，波音737-MAX的空难就是一个重要的警示。

人工智能的到来对就业模式的快速冲击也是前所未有的。清华大学战略与安全研究中心人工智能项目组的于洋老师牵头做的《中国青年视角下的人工智能技术（AI）风险和治理》调查项目中，超过50%青年人表达的头等关切是失业风险。如同以往的技术革命，人工智能将取代大量程式化的工作岗位，同时也会创造出新型岗位和就业机会。挑战在于，如何才能让人才结构的调整跑赢技术的更新迭代和产业结构的跃升？

不能忽视的还有在伦理规范方面的新问题。例如国际上讨论比较多的人群歧视和对个人隐私的尊重和保护等问题。有外国人对我说，中国人不需要隐私保护，我认为这是偏见。我国立法高度重视对个人权利的维护。在本月全国人大常委会审议的民法典人格权编草案稿中，针对收集、处理自然人个人信息有明确规定，要求必须“征得该自然人或者其监护人同意”等，而且把个人生物识别信息也纳入保护的范围。

二、我国在创新制度和手段、推进人工智能治理方面加快部署。

习近平总书记明确要求，“要加强人工智能发展的潜在风险研判和防范”，“要确保人工智能安全、可靠、可控”，“要整合多学科力量，加强人工智能相关法律、伦理、社会问题研究，建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。”

总书记的要求是我们推进人工智能治理的重要指导方针。党中央和国务院对人工智能的部署采取的是发展和治理同步推进的方针。今年2月科技部牵头组建了中国国家新一代人工智能治理专业委员会，6月该委员会发布了新一代人工智能治理8条原则，强调发展负责任的人工智能。工信部在2017年就颁布了《促进新一代人工智能健康发展三年行动计划（2018-2020）》，其中也对治理提出要求。现在的重要任务是如何让这些规则和要求落地，形成有利于我国人工智能健康成长的良性环境。上海在人工智能的研发和应用方面走在全国的前列，积极探索治理路径，重视推进国际合作。在科技部和工信部的支持下，上海推动建立了国家人工智能创新应用先导区和国家新一代人工智能创新发展试验区。可以期待，上海在人工智能治理的规则与制度的创新、开展国际合作方面也将走在全国的前列。

考虑到这个新兴领域自身独特的性质，我们一方面要加快对立规和立法的研究，另一方面也要依靠科学界和企业界采取负责任的态度和行为。如果科学家在每一项新技术的研发中都能思考其负面风险，如果制造商在每一个新技术的应用中同步构建风险管理的解决办法，那么，对这方面的挑战就不难找到应对办法，其立法和规范也就不难走出新的路径。

目前很多人工智能企业希望有法律责任和范围的清晰界定，认为这样更有利于企业的发展，他们在采取一些自律措施的同时，也期待国内整体规则环境和基础条件更快得到完善。