随着人工智能技术的飞速发展，特别是行业多模态大模型和机器视觉等新一代人工智能技术的应用，政府能够摆脱繁杂的算法、算力和数据整合等基础工作，更高效地应用于国家治理的各领域。本文从对数字政务服务产生颠覆性影响的六项技术出发，分析人工智能技术应用于政务服务可能出现的问题与挑战。当务之急需从治理结构、治理模式和防控机制等方面，加强最新数字技术应用的发展与监管，以提高政府工作效率，提升服务质量，增强决策的科学性，进一步释放新质生产力。
将对数字政务服务产生颠覆性影响的六项技术
2024年9月21日，Gartner公司发布了将在五年内对数字政务服务产生颠覆性影响的六项技术：数字员工体验、AI代码助手、生成式人工智能、生成式设计AI、政务预测性分析以及工作方式分析，这些技术将帮助政府弥合数字创新目标与战略目标执行之间的差距，满足公民日益增长的期望，并最终改善政府的政务成果。
图1 2024年数字政务服务技术成熟度曲线
资料来源：Gartner（2024 年 9 月）
1.数字员工体验
Gartner预估到2027年，由业务和技术角色共同组成的数字工作场所多学科团队，取得积极成果的可能性将比完全由IT人员组成的团队高出50%。数字员工体验通过数字化方式，让员工贯彻体验使用，提高数字敏捷性并帮助员工实现业务成果。如埃森哲为72.1万名员工定制数字化体验，如内部电子员工网站每月2.4万访问量、数字化平台每月访问量110万、在线视频每月380万分钟增加沟通与交流，整个公司的员工都在使用可用的资源，让他们的工作变得自动化，自己寻找解决方案，提高生产力。
2.AI代码助手
开发者工具中集成的AI代码助手以预训练模型为基础，使用自然语言和代码片段与软件开发人员进行交互，可进行代码生成、分析、调试、修复和重构、文档创建以及代码语言转换。最近由微软、麻省理工学院、普林斯顿大学和宾夕法尼亚大学沃顿商学院的研究人员联合发表了一项引人注目的研究，表明使用GitHub Copilot AI代码助手，开发人员的生产力提高了26%。Gartner预测，到2028年，使用AI代码助手的企业软件工程师比例，将从2023年初的不足10%增加到75%。
3.生成式人工智能
目前，多数生成式人工智能实施局限于风险较低的内部用例。随着生产力工具和AI治理实践的快速发展，企业机构会将生成式人工智能用于更关键的垂直行业和科学发现用例。长远来看，生成式人工智能驱动的对话式界面将促进技术的商业化，推动AI等技术的普及和全民化。此技术现已被多国政府采用使用中，如客服机器人、公文撰写、政策解读等。
4.生成式设计AI
生成式设计AI利用AI技术，根据用户设定的参数和限制条件自主生成设计方案。AI利用算法生成大量变体并快速迭代，在达成既定目标（通常是政务服务的关键组成部分）的同时，优化设计、生成最佳结果，并提高整个设计过程的效率。该技术已被用于为用户体验设计师和前端开发人员提供功能层面的支持，如提供智能设计建议等，并将快速演变为完整的数字产品设计和前端开发能力。如美国波士顿正在利用生成式AI规划自行车友好的城市环境。MIT的研究团队通过AI模拟，将哥本哈根的自行车基础设施“移植”到波士顿，帮助市民直观感受城市改造的可能效果。
5.政务预测性分析
政务预测性分析使用机器学习、建模和仿真技术，利用内外部数据为公共政策的制定提供依据、优化政务流程并改进实时决策。在对公众进行服务中，结合大语言模型等生成式人工智能技术，可提供实时的公共政策建议、民意分析以及社会经济预测。这可以帮助政府在应对突发、应急等重大事件发生时，如疫情暴发或自然灾害，能够迅速做出反应，帮助相关部门合理调配资源，从而有效应对公共卫生危机。
6.工作方式分析
到2027年，使数字工作场所的投资与当前及未来期望达到的数字成熟度、总体数字化目标相匹配的IT领导者，将能够减少50%因时机不当和不适宜的工作活动造成的浪费。此技术通过综合与员工工作方式相关的IT、人力资源和业务数据，了解并优化技术投资、员工体验与业务成果之间的复杂关系。
新技术在政府服务中应用存在的挑战
由于AI代码助手、生成式人工智能、生成式设计AI、政务预测性分析等数字技术都与AI密切相关，在政府服务应用中不可避免会面临一些挑战。然而，数字员工体验及工作方式分析通过渗透方式融入员工的工作流程，旨在优化工作方式及提升效率，暂未有明显的风险与挑战
1.安全与隐私风险双重挑战将更加严峻
AI代码助手的应用，在通过自动化编程任务提高开发效率的同时也可能引入安全漏洞，黑客可能利用这些漏洞窃取敏感数据，甚至变身成为强大的钓鱼攻击工具。生成式AI等技术在处理大量敏感数据时，也可能会引发数据泄露和隐私保护问题，一旦被攻击，后果严重。如2024年3月，法国劳动局发生大规模数据泄露事件，高达4300万公民横跨20年的信息遭到窃取，包括姓名、出生日期、社会保障号码、法国劳动局标识符、电子邮件地址、邮政地址和电话号码等敏感数据，给各国政府信息安全保障给予了警示。
2.过度技术依赖导致“去技能化”风险加剧
过度依赖AI生成的代码和设计方案可能导致开发人员和设计师的技能退化，削弱他们的创新能力和解决问题的能力。同时，对AI技术的过度依赖也可能使政府组织在技术更新换代或出现技术故障时变得脆弱。因此，需要平衡AI技术的应用与人类专家的参与，确保技术与人类技能的协同发展。如长期依赖AI生成的代码，开发人员可能会逐渐失去自主编写和优化代码的能力，甚至可能导致开发人员忽视代码审查的重要性，从而引入难以察觉的漏洞和错误。
3.技术适配与治理模式兼容性融合难度加大
新技术的引入可能会与现有的政府组织结构和治理模式不兼容，导致技术实施困难和治理挑战。例如，2020年，英国公共卫生部（PHE）引入了一套自动化系统，用于统计和报告新冠病毒感染病例。该系统依赖于微软Excel电子表格来管理和传输新冠病毒检测结果。由于Excel的列数限制，部分数据未能被正确处理和上报，导致近16000例新冠病毒病例未被上报。这是一起典型的现有治理模式和数据管理流程未能有效应对新技术带来的挑战，缺乏对数据处理流程的全面审查和风险评估，导致数据遗漏问题未能及时发现和解决的案例。这在新冠流行时可能引发公共安全危险、政府信任危机及治理危机。此外，AI技术在政府人工智能建设中意味着将关键基础信息的使用和处理权全权交予数字平台处置，政府与企业合作、技术与规则融合等难度都在无形中因为技术加载而大。
4.合规性与伦理风险随着应用增加而升级
人工智能通过分析大量的数据，政府能够更准确地预测社会趋势，制定更有效的政策。还可以在提升政府透明度和公共服务质量方面发挥重要作用，例如通过智能分析工具，提高政府决策的透明度和公众参与度等。AI技术的应用可能会引发知识产权、隐私泄露和虚假信息等问题。例如，AI换脸就会引发隐私争议，不合理的用户协议可能导致个人数据保护条例和人工智能伦理原则的违背。此外，AI技术在辅助政府治理过程中可能冲击传统人性选择和道德冲突，导致社会价值观的冲突与误导。随着人工智能在数字技术中应用的不断增强，伴随可能产生的合规性及伦理风险也将逐渐升级。
新技术在政府服务中的应用展望
数字技术在政府服务中的应用，不仅可以提升内部决策的科学性和行政流程的效率，还极大地优化了对外公共服务的质量和响应效率。在政府内部，数据分析和智能决策支持系统提高了政策制定的精准度和资源配置的合理性，同时数字技术的使用也提升了内部人员的工作效率，并促进了跨部门的协作。对外，通过生成式人工智能客服和自动化审批等手段，政府能够提供了24小时不间断的服务，简化了民众的办事流程，提升了服务的可及性和便捷性。新技术在政府服务中的应用已势不可挡，建议从以下几个方面着手：
1.创新行政管理和服务方式，形成新的治理结构
数字技术的应用将为国家治理中的上下互动、相互协调等提供重要工具，引发治理结构变革。例如以智能化、一体化的政务服务平台已开始构建起新的治理结构，拉通上下各层，实现数据信息融通，结合数字员工体验及工作方式分析技术，对现有行政管理及服务的方式进行升级与积极探索，逐步积累经验，构建适应新技术新趋势的治理体系，整体提升治理效能。
2.构建发展与安全协同的治理模式
一是完善人工智能监管制度体系建设，特别是涉及政府领域的基础知识库、数据库、资源库，AI相关算法偏见及质量问题，都应出台相应法律法规防止国家秘密泄露和维护国家安全，统筹技术发展和规范的关系应对新兴技术带来的挑战。二是依法保障开发和利用人工智能创新成果，在法治框架下开展技术治理和社会治理的协同工作。三是加快成立负责任数字技术的职能管理机构，规划推动新技术的发展与应用，协调不同部门间的合作，制定统一的标准和规范，监测和评估最新数字技术的使用，促进数字技术的健康安全发展。
3.建设常态化数字技术治理风险预警和防控机制
一是前瞻性布局数字技术风险防御技术体系，实现全生命周期的安全保障，从设计阶段就考虑安全性和伦理性，确保技术的安全可控，并在投入使用前进行严格的安全评估和测试。二是构建人工智能伦理框架，确保技术的负责任使用，遵循伦理原则，保护个人隐私，确保技术的公正性和透明性。建立科技伦理审查和监管制度，强化对人工智能算法和模型的审计监管，提升系统安全性测试评估能力。三是加强在算法安全、数据安全、模型安全、程序安全等方面的核心技术的自主研发，夯实数字基础设施、提高数字技术的自主水平，保证技术安全及应用安全。
参考资料
[1] Gartner发布2024年数字政务服务技术成熟度曲线： 六项技术将在五年内产生颠覆性影响
https://www.gartner.com/cn/newsroom/press-releases/2024-goverment-hc
[2]德勤《2024年政府发展趋势报告》
https://www2.deloitte.com/cn/zh/pages/public-sector/articles/government-trends-unleashing-productivity.html
[3]《新一代人工智能赋能国家治理：新机遇与新挑战》，《国家治理》2023年7月上
