10月31日，中共中央政治局就人工智能发展现状和趋势举行第九次集体学习。习近平总书记强调，要加强人工智能同社会治理的结合，开发适用于政府服务和决策的人工智能系统，运用人工智能提高公共服务和社会治理水平。落实总书记的重要讲话精神，就需要我们抓住人工智能的风口，在社会治理中学会用人工智能、敢于用人工智能、善于用人工智能，这是我国对标最高标准、最好水平，实现高质量发展、高品质生活的要求，同时也是实现治理体系和治理能力现代化的题中应有之义。

人工智能对政府治理能力提出挑战

人工智能的本质是通过大数据感知和深度学习，让机器能像人一样思考并应对复杂问题。人工智能的发展会对政府的治理模式和绩效逻辑产生颠覆性影响。人工智能时代的政府要有更善的伦理能力、更广的协同能力、更新的技术能力和更稳的安全能力。

人工智能对政府提出了更善的伦理能力要求。人类社会现有的行政伦理要求任何人类的权力行使和决策都必须由人组成的组织来决定，也即从未有过非人类主体能够裁决人类主体的行为。也正是因为这个原因，人类社会迄今为止的信息技术应用对行政流程的改造都还停留在辅助的层面，即由计算机系统提供相应的证据，并做出初步的信息整合与分析，而最终的决策都要有人类来完成。但人工智能时代的到来对此将构成挑战，并由此产生了两个基本的问题。一是即便是未来的社会治理模式变成了人工智能给出方案和行动计划，最终的决定由人类拍板，但这种体现机器意志而非人的多元可选择性的“科学方案”是否已经偏离了人类已有的行政伦理？二是更进一步地讲，由人工智能做出的决策或解决方案，假如在执行中出现问题，那么谁要对这一严重后果负责任？其权威性与合法性又当如何处置？

人工智能对政府提出了更广的协同能力要求。大数据是人工智能的底层支撑和初级阶段，但受政府内部“条块体制”的影响，人工智能时代的底层协同还面临着不小障碍。在政府内部协同层面，由于各个部门在数据库构建和运作中缺乏统一的标准和规范，各个部门的数据资源和信息系统均由自身监管和操作，相互之间无论是在操作系统、网络协议、语义表达、数据库类型甚至硬件管理平台上都存在诸多差异，信息流通和数据共享的障碍严重限制了人工智能在社会治理中的能力充分发挥。与此同时，低层级政府人工智能系统“遍地开花”，也对上一层级政府人工智能系统的统筹提出了挑战。在政府与企业关系层面，政府与人工智能企业合作的缺乏较为成熟的模式。现有政府与人工智能企业的合作多采用服务外包或合作建设方式进行，即要么是政府将人工智能业务外包给相关企业通盘负责，要么是相关企业采用派人到政府部门支持人工智能建设，而这两种模式又都存在稳定性和安全性的风险。

人工智能对政府提出了更新的技术能力要求。随着人工智能作为跨学科研究的前沿并在实际应用中快速推进，人工智能在技术能力层面上对社会治理的新要求主要集中在两个方面。一是当前的人工智能开发企业仍然不足。虽然我国目前已有阿里、腾讯、华为等领头企业，且人工智能企业数已达到1040家，居全球第二，但在基础理论、核心算法以及关键设备等方面仍同发达国家有较大差距，具有国际影响力的人工智能完整生态圈尚未形成，不能满足我国各层级政府巨大的人工智能技术需求。二是我国政府内部人工智能人才严重短缺。这也意味着政府不仅无法自身开发人工智能系统，更重要的是政府也会失去对人工智能在社会治理领域应用的辨别能力和监督能力，并进而导致相关的效能风险。

人工智能对政府提出了更稳的安全能力要求。人工智能时代的到来将掀起一场比互联网更为剧烈的变革，必将给政府的信息安全带来更大的考验。一方面，人工智能让政府机构系统遭遇恶意攻击的可能性增大，人工智能技术所使用的学习算法虽然为其普及带来了巨大的便利性，但同时也有其“笨拙”的一面，如果系统瘫痪，会给严重依赖人工智能运作的社会系统带来混乱。另一方面，人工智能时代的重要设施管理和关键程序管理将面临更大的压力，如果黑客绕过防火墙而恶意攻击甚至篡改人工智能程序，对重要设施发起攻击，那后果可能是灾难性的。

人工智能时代如何提升社会治理效能

人工智能时代是一个看似遥远但实际已经逐渐迫近的新纪元，在新的技术环境下，政府可以从转变理念、确定路线、找准抓手和创新评估这四个方面入手，提升社会治理效能。

一是转变观念，创新行动理念。理念是行动的先导，人工智能能否在社会治理层面上发挥更大功效，首先取决于治理主体对其的认知态度。虽然当前的人工智能技术在某些层面和维度接近、达到甚至超越了人类智能，但其作为人类创造物的工具性色彩依旧没变。

从人与技术的关系看，人工智能在本质上仍然是属人的。这也意味着，我们应当转变观念，创新行动理念，树立正确的“认知观”，即通过提升各级政府和政府各部门的人工智能治理理念，将人工智能发展看作是提升治理效能和精细化水平的推动力量，同时主动制定相应的政策，通过政府购买公共服务等方式，鼓励人工智能在社会治理中应用，推动人工智能在社会治理领域的发展。此外，人工智能的推进也要树立起正确的“群众观”，即在智能化时代，社会公众从被动参与开始转变为主动参与，从间接参与变为直接参与，每个个体都成了数字世界里的副本，都是一个“准代码”。通过人工智能技术，深度学习提取群体特征，政府可在预判人民群众需求、提供精准服务方面有更大的作为。

二是确定路线，把握推进节奏。人工智能的应用离不开政府流程的重塑。结合党和政府在治理中发挥主导作用的实际情况，人工智能在社会治理领域的应用可按照三阶段来走：

——技术导向的1.0阶段，即政府同相关企业合作，借助于人工智能手段，向公众提供基本公共服务，公众则通过人工智能平台向政府反馈服务情况，由此实现服务的无缝隙和规范化。

——统合主义的2.0阶段，即政府与企业合作运作的人工智能平台在积累了一定的知识库之后，可以主动向社会公众提供个性化的公共服务，而政府作为公共服务的责任主体，则通过与技术公司合作的方式，将技术与社会公众需求统合起来，实现治理的统合效应。

——价值引导的3.0阶段，即人工智能发挥到超强水平之后，政府已经探索出一条治理和技术有效结合的新路径，政府可以通过开放式治理，发挥治理的价值引导和问责监督作用，让人工智能在社会治理和公共服务中选择“自主创业”，实现高度自治式治理。

三是找准抓手，创新治理模式。在人工智能时代，以提升治理效能为核心的智慧治理模式创新要在技术上下狠功夫。

一方面，政府可以从人工智能在社会治理应用中的关键要素入手，找准人工智能应用的“痛点”“难点”和“堵点”，并通过智能办公系统的技术改造，实现对政府监管对象和服务对象的自动感知、智能识别，并有针对性地提出技术性解决方案。另一方面，人工智能时代的社会治理要有社会治理的智能化集成系统。也即政府机构要实现由现代通讯、计算机网络、融媒体和智能控制技术汇集而成的职能应用集合，通过强化对社会治理的数据挖掘系统和数据存储系统的建设力度，以此推动政府对各类非数值型、非结构化数据的有效整合与动态管理，并通过有选择性地引入语音识别技术、自然语言处理技术等，以在人机交换过程中形成治理模式的知识库、推理机和解释器，为创新治理模式提供数据和技术支撑。

四是创新评估，实现安全可持续改进。人工智能时代的社会治理绩效评估应紧紧抓住人类主体地位和风险控制两个关键。

在评估框架设定上，要坚持人的主体地位，也即人工智能政务系统的评估是由人设计的评估方案，评估的参与主体是人，评估的过程应注重人的感受，评估的改进也以人的满意为标准。既要注重技术的价值，又要注重人的自治能力和控制能力提升，以此尽可能地构建起以人为本的、可持续改进的人工智能政务系统。在评估过程中，以人工智能应用到社会治理过程中的风险控制为核心，通过委托第三方专业机构的模式，对人工智能的数据存储系统、机器学习系统、自然语言处理系统和损失函数等方面做出全面评估，并以此作为修复并完善相关机制的重要参考，尽可能地将人工智能的系统漏洞尽早解决，从而确保人工智能政务系统的安全和稳定。

（作者单位：上海社会科学院政治与公共管理研究所）

来源：上观新闻-思想汇，2018年11月2日