随着大模型等人工智能技术的快速发展,数字政府建设也正被深刻重塑,龙讯在国内较早地开始探索人工智能在数字政府领域的运用落地,并取得了一定的成果。12月19日,龙讯董事长贺良震受邀参加在京举行的2024数字政府评估大会,并作“AI+政务——大模型赋能数字政府的探索与实践”的主题演讲。

随着大模型技术的迅猛发展,各行各业的软件和服务都将面临重塑,然而在数字政府领域,大模型应用的真正落地却面临着诸多挑战。近年来,龙讯一直在这方面深耕细作,有一些成果和心得,借此机会与大家交流探讨。
聚焦于政府网站这一特定领域。政府网站,是网上政府的重要窗口,运行于互联网,服务于社会大众。业务涉及到信息发布、解读回应、网上办事、互动交流等多个方面,其重要性不言而喻。那么,政府网站的智能问答,功能虽小,但业务要远远比一般行业的应用复杂,并且安全责任重大,也是数字政府提升服务效能的重要一环。在此,以这一小场景为切入点,来与大家探讨大模型的应用。

首先,来看相关的一些政策,国办在2017年印发的《发展指引》,其中提到了“通过自然语言处理等技术自动解答和咨询”;国务院在2022年印发了《加强数字政府建设的意见》,其中提到“紧贴群众需求,畅通互动渠道”;今年初,也印发了《高效办成一件事的意见》,提到了“探索应用自然语言大模型的技术,提升线上智能客服的意图识别和精准回答能力”;我们也注意到中国软件评测中心,在今年的绩效评估指标当中,也着重加大了人工智能技术应用的指标权重。
那么,问答在网站中是一个什么样的功能定位?站在网民的需求侧,我们将网站的功能分为“看、查、问、办”这四大类。在问这个环节,智能问答是唯一的一个实时咨询的渠道。刚才北大的马教授就讲到,相关办事的指南非常复杂,有的可能有100多页,那么在办事之前可能就需要去咨询,显然,政府网站就提供了这种渠道。当前,几乎所有地方的政府门户网站都设计了这一功能,可以说是网站功能的一个标配。

但其服务的成效到底如何?通过前期的调研,发现普遍存在“问而不答”和“答非所问”的现象。我们来看两个示例:一个是,哪些人可以享受特困养老补贴?回答是“抱歉,我还没学会”,这是典型的问而不答的现象。另一个是,我想开个饭店需要办理什么手续?回答是“找到以下相关事项,一、公路工程质量监督手续批复;二、某某饭店重大坍塌事故调查报告”,这显然是通过传统的分词检索技术,给用户提供两个毫不相关的链接,这个是典型的答非所问的现象。究其根本原因,是传统的技术对于自然语言的处理能力较弱所导致。当然,我们也看到了,目前有一些地方政府已经开始探索人工智能技术的应用。

有了大模型的赋能,问答可以变得更加智能,能够做到“能理解、会思考、有效答”。大模型在赋能的同时也带来了新的挑战,例如,大模型自身的短板。一是,幻觉问题。即回答看似合理,实则违背常理,也就是经常讲的一本正经地胡说八道。二是,多样性问题。即多样性使大模型更加富有创新性,但同时也带来了回答变化多样,不易控制的问题;三是,可解释性问题。回答依据,不易溯源;四是,有效性问题。大模型的知识是源自于训练,无论是预训练方式还是微调训练方式,都很难解决专门领域知识的完整性,实效性和准确性问题,最终所带来的结果就是回答无效。

互联网用户的提问有万千可能,有的可能与业务相关,比如问办事、问政策,有的可能跟业务无关,闲聊、发牢骚,以及其他的一些诉求,例如投诉举报,寻求帮助。甚至是暴力测试、恶意引导、人工投毒,或者是意图不明的情况,这就是基于自然语言应用的特点。那么,哪些问题不该答?哪些该答?该如何作答?我们讲,服务边界的控制与业务流程的设计也是巨大的挑战。
守住安全底线。在11月的世界互联网大会上,国家主席习近平在致贺当中,提到把“创新作为第一动力,把安全作为底线要求”。线上平台实际的一些用户提问,涉及主要领导、违法犯罪、国家主权、偏见歧视、政治话题、隐秘陷阱、意识形态、暴力测试等等。平台没有办法去限制或限定用户的提问,唯一能做的是,筑牢安全防线来守住安全底线。

在应用新技术进行创新的同时,如果不能很好的处理上述的一些问题,很可能会带来内容安全上的问题,例如边界不清、知识过期、幻觉、回答不当,甚至是意识形态,从而影响政府的公信力。

基于大模型,基于自然语言理解的应用该如何设计?我认为应该遵循以下三大原则:安全,风险可防,安全可控;有效,控制精确,回答有效;友好,态度友好,语气亲和。
安全原则。首先要有合规检测,对于用户的提问还有答案的输出,要做双向的检测,结合传统词库技术和自然语音技术进行双重校验,并且系统要有安全规则,一旦用户触发了规则,就可以弹窗警告,结束会话,甚至是禁止会话的操作。对于一些高危的操作,还可以做到预警通知到管理人员的手机端,短信、即时通讯都可以。安全,既要有技防,也要有人防,还要配备相关的监管措施,例如日志审计、行为分析、撤回重答等等。

有效原则。智能问答业务,和无人驾驶的业务非常相似,所以这里做一个对比,以更加形象地来了解问答的业务。无人驾驶,首先要有明确的目的地,这个不难,用户选择就行,其次,要有地图,当然地图技术也已经非常的成熟,再者的就是精确的智架控制系统,来应对各种的复杂路况,这一块目前仍然在探索之中,最终是将用户成功送达。再来看智能问答,首先要有明确的用户提问,其次要有准确的知识,再者就是精确的业务控制来应对用户的复杂提问,实现有效回答的目的。如同无人驾驶要有地图,问答,要有自己的知识库。政府网站的智能问答,一定是基于自己发布的知识库来回答用户的提问,而非模型训练的知识。通常会采用RAG检索增强生成的方式,也就是结合用户的提问去知识库当中去匹配关键的知识,再送给模型去增强它的生成。相同点,都是三个环节,不同点,是问答的三个环节,任何一个环节想要做好都不那么容易。例如用户提问,你没有办法去要求他必须提得很明确,即便是用户提的很明确,业务控制也很精确,但网站的知识库当中也未必就一定有用户每个问题的答案,所以,将有效作为回答的目标,要相对的严谨或合理一些。
具体来看这三个环节,首先,是提问环节。要能结合用户对话的上下文来分析评估他当前的提问是不是明确,如果不明确,要给他进行引导,引导他把问题提清楚才能回答。当然,在对话的过程中,也要保证这种对话的流畅性。其次,知识库环节。网站的知识更新的非常快,政策文件随时可能会新发布,办事的要素随时也可能会变更,我们要能感受到这种更新,并且能够做到自动入库。数据入库了,是不是就变成知识了呢?当然不是。一定要经过治理,举个例子,比如我们政府工作报告通常会大量的出现去年、今年、本市、我市、全市等这一类的表述。这就需要把它改成2023年、2024年、某某市这种精确描述,才能够很好地应对后续的知识匹配和回答环节,不至于带来幻觉,也就是说,数据要经过治理才会变成知识。因此,需要有长效的治理机制,因为网站的更新非常快,信息量也很大,在治理层面要有辅助治理加人工复核相结合,提供智能比对、指代消解、表格转换、标题增强等等一些技术手段。第三,控制环节。首先要能精准地识别用户的意图,就是他到底想问什么?问政策?问办事?还是问其他?甚至还要去做到二级意图识别,甚至多级意图识别。比如问领导,是问领导的简介?还是问领导的活动?因为不同的意图,业务的处理逻辑是不相同的。知识匹配环节,要解决知识冲突问题,避免知识的混淆,还要去过滤无效的知识。因为我们政策文件有国家级、省级、地方级,一个文件会在细节上存在差异,如果处理不好会带来冲突,知识混淆,因为办事服务的事项一般是延伸到基层的,在一个区域内会有很多同名的事项,就是名称相同要素不同,甚至还有一些名称相近的事项,如果处理不好,很容易带来混淆。网站的政策文件,有的发布了,可能还没有到施行日期,有的会随着时间的推移会慢慢失效。那么,平台就要做到,生效的文件自动入库,失效的文件自动清理,以避免这种无效知识的干扰。要能控制模型,使用提供的知识去回答,而不是它训练的知识,从而抑制模型的幻觉,通过不断的微调训练等方式来提升模型的这种分析力,增强记忆力,从而减少回答的多样性,另外,尽可能针对每一个回答附上原文链接,参考知识的链接,来增强回答的这种科解释性。以上都是控制环节当中的关键点,只有“提问明确了、知识准确了、控制精确了”,才有可能带来有效的回答。

友好原则。无论用户如何去提问,都需要保持一个友好的沟通氛围。在实际情况当中,很多时候有的用户会提出超出范围的问题,超出业务范围、超出地域范围、超出知识范围,或者是一些闲聊,都要能够给予友好的回答,或者是拒答。
以上,就是我讲的三大原则,安全,有效和友好。那么,通过不断的产品迭代,龙讯目前已经打造了八大场景,问办事、问政策、问概况、问领导、问数据、问机构、问旅游、问搜融合以及27项服务能力,包括多模态融合展现、高效办成一件事的卡片等等。

接下来,来看几个具体的示例。通过对十余万用户提问的数据进行统计,我们发现大约50%的用户提问跟办事服务相关,因此,办事服务类问题的回答有效性非常的关键。

这是武汉市的一个案例,“我是宁安社区的居民,社保怎么办理?有没有咨询电话?”这个用户的提问非常的明确,有区域,有事项,也有办事要素,那么根据用户的语义,精准地定位到了江夏区纸坊街道宁安社居委的这个城乡居民参保中心的事项,综合事项的八要素来回答了用户的提问,并且还可以直接点击在线办理。武汉市大约有17万办事项目,其中城乡居民参保登记这个事项就有3325条,如果处理的不好的话,就很容易会带来误导的问题,不但不是给公众带来便捷,反而会带来不便。当然,如果说宁安社区用户的提问不在武汉市区域内,那么平台会识别出它超出范围。

“小孩户口在哪里上?要带哪些材料?”根据语义识别出,是新生儿登记这个事项!但是,新生儿登记的在武汉市分为七种情况,并列了七个事项:婚生,非婚生或者是境外出生等等。显然,七种情况所带的资料不同,这里就需要做主动询问,是哪一种情况,由用户来选,避免误答,而问题当中也没有提区域,要让用户选择区域,选完过以后,平台精准地命中到了硚口区长丰街道的这个事项,结合要素给予有效的回答。真正要做到“主动询问、细致引导、确认再答、直达办理”。如果没有主动询问和引导的环节,能不能答呢?当然,如果把这个问题送给模型,把这些知识都给他,一定能答,但是答成什么样就不好说了。所以我也经常对我们的产品经理和测试人员说,针对这种自然语言的应用测试,一定要看清楚问题,仔细的去甄别答案,还要对照相关的政策或者办事项的原文去分析他是否真的有效。

再来看一个示例,“请将过去五年的人口数据生成折线图,GDP数据生成柱状图。”这是刚刚上线的南京市的案例,根据语义,识别出了过去五年是哪五年,然后在政府网站的已发布的统计数据当中,去读取人口以及GDP里的地区生产总值的数据,根据用户的需求,生成了两张图表。

多模态,大家并不陌生,现在大模型里有生成文本的,生成视频的,也有生成图像的,而我们进行了一个融合的展现,这是滁州市的案例,琅琊山的醉翁亭是欧阳修命名的吗?平台找到知识并结合知识,给予了这种富文本格式的输出。

这是黄山市的案例,“本周末准备去黄山玩两天,请结合天气,推荐一下景点和行程。”首先,要能知道本周末是哪两天?然后通过智能体,调用天气查询的接口把天气查好,再结合网站发布的旅游资源,让模型给出一个行程建议:第一天上午上黄山,下午到西海大峡谷,晚上住在山顶酒店,第二天早上看日出,下午泡温泉,还给出了气温较低,注意保暖的友情提示。

最后看一个示例,“慢性病就医可能异地结算?”口语化的表达,“怎么办?有没有咨询电话?”这个问题实际上包含三小问,平台分别逐一进行解答。强调一下,这个问题的回答,实际上它是综合了网站的答问知识库的知识,办事服务事项的知识,以及政策文件的知识。其实,网民的这种需求还是比较常见的,在去办事之前,当然想去做一些咨询与了解,然后可能要了解具体怎么办?过去,在政府网站中,可能需要到各个栏目去找,或者是通过智能搜索去搜,把问题转换成关键词,然后去找。且不说能不能找到这种信息,即便是找到了,还要从中去寻求答案。而现在,在问答平台中直接问就可以了。所以,从原来的四处找,到现在的直接问;从过去的一框搜,到现在的一窗问;从原来的给链接,到现在的直接给答案。智能问答,其实就是网上政府的一个无人服务窗口,给网民提供一体化的服务。能够真正实现,也是今天大会的主题,为公众带来更好的服务体验。有了AI的赋能,政府网站也将迎来新的变革机遇。

在我们调研的过程当中,很多用户都特别关心我们用的是什么大模型?当然,大模型作为新型基础设施,为我们的应用系统赋予了强大的自然语言理解能力,就如同我们生活中的水电气一样不可或缺。而我想说的是,作为业务系统的设计,更为重要的是如何用好大模型为业务赋能,如何用好大模型实现业务系统的精确控制。至于选择什么大模型,我们的答案是“多路接入,按需使用”。我们的问答,从问题的输入到最终答案的输出,中间多达几十个环节,那么每一个环节对于模型这种需求都是不相同的,例如性能稳定性、总结与分析,每一个模型都有自己的优劣,所以,我们是按需使用。同时,我们还要做到,关键环节要使用不同的模型进行双重校验,避免误判。因为大模型有多样性,也就是我们经常讲的叫“用大模型去解决大模型的问题”。对于突发故障,还要能做到主备模型自动补位。

最后是几点思考,基于大模型的应用,当前仍然在不断的探索之中,仍然没有办法回答好用户的每一个问题,因此,可以无人驾驶,但不能无人管控。在关注通用大模型发展的同时,我认为应该更加重视如何用好大模型为数字政府赋能。在大模型赋能的同时也给我们带来新的挑战,过去是网络层、系统层,今天是内容层,大量的非结构化数据,传统技术很难加以利用,那么大模型可以借助语义去做分类标注、统计分析,来辅助决策,从而发挥数据的更大价值。AI+政务,是大模型赋能数字政府的一个探索,也是政府网站迈向智能化的一个起点。
信息来源:龙讯科技