10月19日,2023恒生金融技术大会在杭州举行。会上,恒生电子发布了金融大模型LightGPT最新的能力升级成果,以及基于LightGPT打造的多款光子系列大模型应用产品,并宣布正式开放产品公测。
恒生电子董事长刘曙峰表示,当前金融行业对于大模型技术的关注度和参与度很高,但在大模型实际落地过程中主要存在模型选择难、算力供应不足、应用成熟度不足等问题。我们建议机构可以通过选择合适的金融大模型,采用大模型“私有化+MaaS服务”混合部署,基于场景驱动的金融垂直应用开发和积累数据资产、构建数据飞轮、提升应用成熟度等工作,实现金融行业大模型更好地应用落地。
大模型时代会产生很多新物种。ChatGPT可能是通用大模型的第一个原生应用,已成为史上实现1亿月活用户用时最短的App。随着金融大模型的落地,行业也在呼唤新一代原生应用的诞生。
更重要的是,大模型技术的突破,未来在金融领域很可能会带来体系化的重构,重新定义人机交互方式和专业应用程序,重构金融机构原有的基础设施以及管理体系。对此,刘曙峰认为,针对大模型技术的发展需求,机构需要完成从原有的云原生数字化架构向大模型原生数字化架构的演进升级。
围绕金融专属业务场景,LightGPT重磅升级
作为一款专为金融领域打造的大语言模型,LightGPT基于海量金融数据训练而来,对金融相关问题的理解和金融任务的处理,比通用大模型更有优势。本次发布会,恒生电子首席科学家、大模型产品总监白硕公布了LightGPT自6月底发布以来的升级成果,并就安全合规、投顾服务等场景进行了现场演示。
据白硕介绍,目前LightGPT在整体模型效果上提升15%,安全合规性上提升13%,推理速度上提升50%,并面向金融机构实现LightGPT-7B的开源,推理和训练全面适配华为昇腾系列。
为了系统地评估金融大模型的能力表现,恒生电子结合自身应用实践,与中国信通院共同编写了金融大模型评测标准,包含“L0-L1-L2”三层能力评测,为促进金融大模型的可信发展提供了重要保障。其中,通用能力L0层包括基础常识、语义理解、数学计算以及在金融领域尤为重要的多轮对话能力、表格处理能力和安全能力、Json识别能力等。金融领域能力L1层包括金融法律法规遵循、金融百科问答和实体识别。金融场景能力L2层包含投顾、投研、运营、合规和其他五大场景80种金融专属任务评测。
对于金融行业而言,安全合规是重中之重。针对生成内容的可控问题,LightGPT构建了包括语料安全、模型安全、模型评估等在内完善的安全机制,从八大评价维度确保大模型生成内容的安全合规,符合中国金融市场的监管要求。
发布会上,白硕以投顾、投研两大核心金融场景为例,具体阐释了LightGPT在金融专业领域的能力优势。在投顾场景中, LightGPT通过增加1200多万tokens专业投顾语料,减少财经大V版权语料和日常语料以及12类任务指令微调,应对金融术语口语众多、知识幻觉、监管严格等挑战,在安抚话术生成、客户意图识别、实体识别、Json识别能力等方面平均超出国内通用大模型13%。
在投研场景中,LightGPT通过使用基于位置编码改进的transformer模型,超200亿tokens的金融信息语料和8类任务指令微调,解决超长文本处理、图表文字混合排布、投研术语众多等问题,在研报观点抽取、舆情事件识别和抽取、资讯摘要、表格处理、公司实体识别等方面平均超出国内通用大模型12%。
光子赋能,智能产品生态全面进化
基于金融行业的大模型应用需求,恒生电子于6月底率先推出金融智能助手光子,定位金融应用对接大模型的“中控”部位,串联了“通用工具链+金融插件工具+金融数据+金融业务场景”,旨在解决大模型和实际应用之间的连接问题,打通金融领域AI应用的“最后一公里”。
会上,白硕发布了恒生电子基于光子打造的多款大模型应用产品。他表示,目前光子赋能下的智能产品可以分为重塑和嵌入两种模式。重塑是指基于大模型能力重构应用,重塑业务流程和服务模式;嵌入是指通过光子将数据、应用、知识库等资源组装成各类插件,将大模型能力无缝集成到原有程序和应用中,为业务系统注入AI力量。
在重塑模式产品方面,本次正式发布了四款大模型应用,分别为光子·文曲、光子·方圆、光子·善策和光子·慧营。其中,光子·文曲是面向投资顾问的一站式内容创作平台,通过丰富创作模版、智能文摘生成、AI问答助手、一键发布导出、图表自动生成等功能,帮助投顾快速完成报告素材搜集、内容生成以及审核发布。
光子·方圆聚焦金融机构投资合规领域,通过法规检索和文件标签化管理、智能投资合规问答、系统指标逻辑解答、一键生成合规设置等功能为合规和业务人员提供服务,提升合规管理质量和效率。
光子·善策聚焦投顾咨询场景,通过会话意图理解、智能服务匹配、智能话术生成、智能工单创建等功能,赋能投顾会话,为投资顾问精准定位客户标签,洞察客户意图,生成专业话术。
光子·慧营定位资管与托管产品运营助手,通过文档智能分片、要素智能提取、文字内容智能匹配、文件内容智能审核、文件内容溯源定位等功能,帮助运营人员提供参数提取、投监规则匹配、审计报告内容抽取等的智能辅助解决方案。
在嵌入模式产品方面,一些传统应用可以不用修改代码,通过光子插件能力与业务系统交互,即可为传统应用现有业务流程注AI能力。目前光子可以提供金融数据插件、知识库问答插件、Agent智能体插件、文档问答插件等各类金融特色插件,用户也可以根据需求自定义业务插件。完成插件集成后,用户可以在原有系统界面上唤起“光子”,与光子形成自然语言交互。
如在投顾创作台中,用户可以通过光子完成投顾内容改写分析、询问板块行情、查询研报观点等工作;在PB系统中,光子可以辅助风控管理、资金调整复核、资产查询等操作;在CRM系统中,光子则可以帮助员工完成拜访日报智能化填写等工作。
白硕表示,接下来恒生电子将进一步完善光子智能生态,基于光子持续构建智能产品矩阵。一方面,持续发布和公测大模型应用新品,如面向金融业务岗前仿真培训的光子·问学,面向业务数据智能管理的光子·数见,面向会议语音内容生成行动AP的光子·会悟等;另一方面,加快恒生原有业务系统的光子插件嵌入,让光子成为真正的业务智能助手。
WarrenQ:持续加强金融垂域“搜读算写”
发布会上,恒生电子旗下子公司恒生聚源也带来了智能投研平台WarrenQ最新的产品升级以及落地实践分享。
恒生聚源副总经理、WarrenQ产品经理白雪表示,继6月底推出WarrenQ-Chat和ChatMiner两款大模型工具后, WarrenQ上新了 AI写作、语音速记、小程序、招股书/公告深度问答四款新功能,并持续深入私有知识库问答、智能投顾/投研chat助手等金融业务场景。
据白雪介绍,恒生聚源参与共建了工银瑞信最新大模型创新成果FundGPT,为项目提供并部署了WarrenQ-Chat和Chatminer产品,以向量数据库的方式对接工银内部知识库,可以chat聚源数据库庞大的金融资讯数据,构建了一个覆盖投研、财富、投教的大模型问答系统。
此外,WarrenQ大模型还服务于数家证券公司,覆盖券商投研、财富、投行、固收等业务系统,为业务人员提供智能化的数据分析和交互技术,提升业务人员工作效率。
接下来,WarrenQ也将持续探索更多深度场景化、大模型真正嵌入到日常工作流程中的应用案例,同时结合Data Science的数据分布算法推荐,持续加强大模型加持下的金融垂域“搜读算写”能力,成为投研人员的AI小助理。
“判断一个创新技术是否实现有效落地,可以从是否实质性改善用户体验、是否数量级提高业务效率,以及是否追求盈利而非追求流量三个角度来判断。”刘曙峰在发布会上表示,相信随着“数据+算法+算力”大模型新范式三大基本要素的不断提升,大模型作为一种创新技术,也将完成对于财富资管领域业务形态和逻辑范式的革新。
作为国内领先的金融科技公司,恒生电子也将持续投入金融行业大模型生态建设,推动金融大模型和金融垂直智能应用的创新与实践,助力金融行业数智化转型升级。