首页 > 最新动态 > DeepSeek模型在行政事业单位内部控制中的应用风险及路径
最新动态
DeepSeek模型在行政事业单位内部控制中的应用风险及路径
2025-08-061

2025年初,国产AI大模型DeepSeek应运而生,凭借其性能卓越、部署轻量化和开源的特性,已开始接入政务系统。行政事业单位的运行资金大部分来源于财政拨款,在内部控制上更强调合法合规性、资金资产安全和使用绩效,业务流程规范,审批环节多,层级管理严。DeepSeek模型功能强大,程序性控制能力突出,能够有效弥补行政事业单位内部控制力量不足、系统性分析不足的缺点,但由于其对数据开放性、完整性要求高,数据安全问题同时凸显,如何在实现管理效能提升的同时防范安全风险,对行政事业单位内部控制提出了新命题、新挑战。


DEEPSEEK
未标题-1.png

行政事业单位内部控制应用DeepSeek模型,其核心目标应包括以下方面。一是规范权力合规运行。结合单位自身业务活动特点,借助DeepSeek模型的辅助分析,实现流程固化、权限控制和业务留痕,防止预算审批、收支业务、政府采购、资产管理、大额资金审批等关键环节舞弊行为和腐败现象的发生,保证单位经济活动合法合规。二是保障资金安全绩效。在大宗物资采购等业务领域,依托DeepSeek模型强大的搜索功能,对采购物资分类统计分析,搜寻价廉物美的物资、诚实守信的供应商信息,进行决策参考,全面提升采购业务的效率、降低成本且防范风险,提高资金使用效益。三是提升管理水平和服务质量。通过DeepSeek模型优化单位内部控制流程,做到智能预警、实时审核,减少人为干预,缩短审批周期,显著提升公共服务的质量和效率。


DEEPSEEK


未标题-1.png

DeepSeek模型通过人工智能技术赋能,推动行政事业单位实现从“人工防控”到“智能防控”,为提升治理现代化水平提供关键技术支撑,但也面临诸多风险和挑战。这些风险既与DeepSeek模型技术特性密切相关,也与行政事业单位内部控制的管理特点相伴相生。


DEEPSEEK


(一)

主要创新点

在风险预警方面,DeepSeek模型可实时捕捉预算执行、资金流动中的异常行为,实现毫秒级预警、全流程寻根溯源,提升单位整体风险识别和防范能力。在降本增效方面,DeepSeek模型可糅合不同行政事业单位的政策制度和组织特性,精准识别业务堵点和痛点,推动部门多跨协同,打破信息孤岛,实现数据互通共享,推动业务流程优化、成本降低、效率提升。


(二)

主要风险类型及原因分析


01
技术应用层面风险

一是数据安全性风险。行政事业单位数据涉及公共资金、公民个人信息、政府决策等敏感信息,DeepSeek模型即便经过本地化部署也难以排除因接入云端服务、数据保护措施不完善或员工操作不当等带来的数据泄露、算法攻击等网络安全隐患。

二是数据完备性风险。当前数据仍集中于通用领域,对特定行业的场景应用支持有限,针对性和适用性存在不足。如不同行政事业单位之间存在数据割裂,训练数据不完整,依此算法将会造成决策偏差。

三是应用成熟度风险。DeepSeek模型开发应用时间不长,应用还不够广泛,接入政务系统不可避免会存在兼容性和稳定性问题。

02
组织管理层面风险

一方面,行政事业单位普遍缺少精通内部控制和AI技术的复合型人才,对新技术存在适应性障碍。应用DeepSeek模型后,由于对改造后的流程研究不够充分,使用人员易形成技术依赖,弱化对风险的专业判断能力。

另一方面,在缺乏完善的管理制度和操作规范的情况下,传统岗位职责与AI辅助决策的边界也容易交叉模糊,易出现权责界定不清、相互推诿的情况。

03
外部环境风险

一是技术壁垒风险。DeepSeek模型技术供应商为达成长期合作,可能通过技术壁垒形成事实垄断,造成“技术绑架”现象。

二是成本投入风险。单位内部控制系统应用DeepSeek模型,其工作量目前难以考量,建设和运维费用尚缺乏明确的标准,存在财政支出成本风险,且易造成闲置浪费。

三是监管滞后风险。现行《行政事业单位内部控制规范》尚未明确AI大模型应用标准,制度和操作上均存在监管盲区,造成工作评价困难,如对于自动化系统生成的电子数据的证据效力,尚未有明确的法律规定。现有技术和管理手段尚无法保障电子数据在收集、传输和存储过程中不被篡改或损坏,增加了证据认定的难度。

未标题-1.png

行政事业单位接入DeepSeek等AI大模型是大势所趋,能够实现内部控制风险防控、效率提升、合规管理三大目标,构建形成“制度—技术—组织”三位一体的治理体系。因此,需要从不同维度加快建立健全管理制度,完善多跨协同机制,提升人员能力素质,推动内部控制人机和谐交互,实现方案最优解、效用最大化。


DEEPSEEK


(一)

强化顶层设计,健全管理制度

从宏观管理维度,一是要完善相关法律法规,既要为行政事业单位应用AI大模型创造条件,确保公共数据得到有效利用,更好提升工作质效;又要对公共数据安全进行严格管控,明确相关主管部门职责,加强对数据使用、算法模型等的监管要求,做到有法可依、有据可查。二是要加快研究制定行政事业单位内部控制应用AI大模型的通用工作指引。根据行政事业单位内部控制特点,明确数据管理使用、算法模型优化更新、电子凭证管理、电子证据效力认定等技术标准和全流程管理要求,确保应用DeepSeek模型后职责清晰、流程规范、数据安全、风险可控。在此基础上,各类行政事业单位可结合工作实际,再研究制定相应领域AI大模型应用环境下的内部控制专用指引。


(二)

再造内控流程,优化机构职能

从使用单位维度,一是与技术开发单位合作,共同对应用DeepSeek模型后引起的内部控制需求和流程变化情况进行系统分析,按照安全高效的原则开展流程再造。AI大模型应用的核心是数据和算法,在内部控制流程中,必须对数据来源、数据使用、数据分析(包括算法模型)、结果运用进行全周期管理和监督,高度重视数据的真实性、完整性、安全性,防范数据泄露导致的安全风险,数据不全或算法不准确造成的决策依据错误风险,做到人机协同职能清晰、各个环节安全可控、使用痕迹全程可追溯。二是根据改造后的内部控制流程,做好原有机构调整和人员优化,以适应DeepSeek模型应用情况下的高效管理要求。有条件的单位可设立数字内控中心,整合原先分散在办公室、财务、业务等机构中的内部控制职能,实现“申请—审批—处置”闭环管理。同时,要重视培养和储备既熟悉单位业务管理,又掌握AI大模型技术的复合型人才:既能与技术开发单位进行专业对话,有效沟通,共同开发契合单位管理特点的DeepSeek模型,又能增强自身话语权,防范被技术开发单位“技术劫持”的风险。此外,研究制订供应商退出预案,确保核心数据可迁移、系统功能可替代,明确数据主权归属及泄露赔偿责任。


(三)

做好风险评估,审慎稳妥推进

在内部控制中应用DeepSeek模型后,行政事业单位应定期对相关业务流程进行风险评估,及时优化节点流程,做好技术升级,并从组织、流程、技术三个层面构建防御体系,实现风险事前预防、事中监控和事后处置。基于DeepSeek模型的复杂性和安全风险,可先选择部分典型业务流程先行试点,验证工具效果,开展业务流程与系统功能的匹配性测试,排除决策错误和数据安全风险,提高内部控制智能化管理水平。如在费用报销环节,可利用DeepSeek模型对报销内容进行智能审核、异常校验、合理性比对,并完成费用智能归集。在政府采购环节,可利用DeepSeek模型自动解析库存数据、智能生成需求和发起采购,自动匹配历史合作供应商、潜在供应商,采购人员可以根据供应商历史报价趋势、市场基准价以及供应商的涉诉或违规信息等进行筛选。在对上述相应业务进行试用并积累一定实践经验后,再逐步推广至全业务领域,从而实现规范管理、规避风险、降低成本、提高效率的目的。

同时,为确保实现业务目标,满足资产安全、数据完整以及合规性要求,行政事业单位在应用DeepSeek模型过程中应注重人机协同推进,不可完全依赖人工智能技术,避免出现AI幻觉、机器欺骗等造成的决策缺陷。如在相应审批环节应实施人工终审与机器预审的协同组合,建立“AI预审+人工复核”的双层决策机制,保留关键环节的人工否决权。

当前,人工智能技术发展日新月异,行政事业单位应用DeepSeek模型加强内部控制后,仍需持续关注其发展趋势和监管要求,并根据业务需要,定期复盘持续优化,实现“风险防


文章摘自《中国内部审计》杂志2025年第5期

作者:龚瑛鸽

单位:浙江省人力资源和社会保障信息中心


编辑:孙哲


目前180000+人已关注我们,您还等什么?
图片


图片
“阅读原文”一起来充电!

点我访问原文链接