近日,2023金融科技安全与创新大会在济南召开。会上,由金融信息化研究所牵头,腾讯云主编,30余家金融机构和科技企业参加编制的《大模型金融应用实践及发展建议》正式发布。

报告详细分析了大模型工程应用的七大关键环节,包括数据构建、模型算法、模型训练、模型压缩与加速、模型评测、模型运营和安全可信。同时,报告追踪了国内外大模型产品的参数量和开源状态。

报告重点关注了大模型在金融领域的应用与实践情况,总结了三种常见的技术选型路线,即开源模型应用、产学研联合研发和商用产品采购。也强调了私有化部署在金融机构中仍然是主要的选择方式,以及模型微调作为提高模型准确性的有效手段。

报告认为,金融机构和科技企业正在积极探索大模型在金融领域的应用,包括智能客服、智能办公、智能研发和智能投研等多个领域。这进一步推动了金融服务的数字化改造,加速了AI技术对金融业务的提质增效。

与此同时,报告也指出了大模型在金融领域应用的挑战,如规范与指南的不完善、应用场景的缺乏范式、数据和算力支持的问题。就此,报告提出相关建议,以促进大模型在金融领域的快速应用,并为整个行业提供指导和借鉴,以推动金融领域的大模型应用。

本次报告中,腾讯云多个实践案例成功入选。在股份制银行的日常业务中,大量的回单、交易发票、申请书等数据需要处理,传统的人工处理方法效率低下、成本高昂。同时,传统OCR深度学习模型在应对多样化的单据处理中也表现不佳。因此,腾讯云的TI-OCR大模型应运而生,旨在解决这一问题。

TI-OCR提供多种识别模式,包括智能结构化、固定版式结构化、检测/识别、智能分拣。其先进的技术架构采用分布式体系结构,支持多个Worker节点,提高系统吞吐量。数据存储方面采用MySQL存储元数据,普通硬盘用于存储图像和模型数据。TI-OCR大模型具备原生大模型支持、通过prompt设计支持复杂任务、多模态技术提高召回率的特点。

某股份制银行通过应用TI-OCR大模型,实现了自动化的数据处理和高度结构化,将数据识别准确率提高至95%以上。这一应用降低了高重复手工劳动,减少了运营成本,实现了多元业务数据处理的标准化、线上化和自动化。

在智能客服方面,传统银行客服面临知识维护、问答覆盖率和服务效率等挑战。为了提升客户服务质量,腾讯云的金融大模型被用于构建智能客服系统,以满足客户不断增长的需求。

某股份制银行充分利用腾讯云金融大模型能力,构建了专属的金融客服大模型,并进行了私有化部署。通过语音识别、语音合成、人脸识别等AI技术,结合NLP技术和知识库,实现了智能语音导航、智能问答、智能外呼、智能质检以及客服助手等功能。

腾讯云的金融大模型为该股份制银行提供了智能咨询、辅助分析和决策服务,为多个核心业务的智能化发展提供了支持。智能客服机器人通过多个渠道提供问答服务,大幅减少了人工成本,同时提升了客户交互体验。

目前,腾讯云行业大模型已经为20多个行业提供了超过50个解决方案,为金融等行业客户提供了一站式MaaS服务,支持金融机构构建自己的专属大模型。此外,腾讯云还与头部金融机构合作,共建了近百个定制化风险控制模型。

不断为千行百业输送行业大模型解决方案的同时,腾讯云一直以来都在积极参与大模型标准建设。此前,腾讯云作为推动行业大模型发展的核心单位,联合信通院正式发布国内首个金融行业大模型标准,为金融行业智能化的高质量发展提供了重要支撑,为全面促进大模型安全合规和可信发展提供了重要保障;2020年,腾讯被选举为全国信标委人工智能分委会委员兼副秘书长单位,作为核心成员,承担了更多标准制定工作以及技术引领作用。

未来,腾讯云将继续积极推动行业大模型标准制定,加速金融行业应用落地,为金融行业的数字化转型提供有力支持。