7月4日-7月7日,以“以共商促共享 以善治促善智”为主题的2024世界人工智能大会(简称“WAIC 2024”)在上海举行。本次大会期间,恒生电子董事长刘曙峰受邀出席由交通银行主办的“智能向善 开放共治”论坛,同时恒生电子金融大模型最新成果亮相两大主题论坛,充分展现公司在大模型算力底座自主创新和金融行业大模型应用方面的合作与实践。
能力领先,大模型创新落地仍需行业持续探索
在7月5日下午的“智能向善 开放共治”论坛上,恒生电子董事长刘曙峰受邀与来自中国银行业协会、华为、微众银行、蚂蚁集团等机构的领导专家,就“大模型在金融行业的战略布局与技术路径”话题展开讨论。
刘曙峰表示,就目前对大模型的能力评测结果来看,当下主流大模型虽然在不同的能力维度有不同的表现,但基本都可以达成行业应用标准。而在投顾、投研等具体的业务场景中,我们也很高兴地看到,基于大模型技术打造的智能应用,在意图理解、任务执行等方面的能力,甚至超越了人工表现,极大地提升了金融业务效率。但大模型应用是否可以真正地大规模落地,还涉及到安全合规、数据准备、服务可持续等问题,这不仅仅是模型本身的技术问题,更是一个工程化的问题,需要行业持续探索。
而针对AI Agent如何在金融行业实现落地,刘曙峰表示,AI Agent是对大模型前端应用能力的进一步提升。要实现Agent在金融领域的广泛应用,需要满足大模型能力、下游工具插件的成熟度与原子化、资源的标准化三个关键条件。恒生电子打造的“光子”,作为金融应用对接大模型的“中控”部位,可以有效提升金融各场景下的AI Agent能力,帮助大模型应用更好地理解用户需求、处理复杂任务和提供个性化体验,推动应用的创新与升级,为用户提供更加智能和高效的服务体验,也将进一步促进未来大模型应用生态的多样化。
联合昇腾,打造安全可靠的大模型底座
7月5日上午,昇腾人工智能产业高峰论坛聚焦大模型推理和客户伙伴优秀实践,发布了众多昇腾AI生态合作成果。作为昇腾AI在金融领域重要的生态合作伙伴,恒生电子与昇腾的两大合作成果在本次论坛上发布。
LightGPT大模型推理一体机,基于昇腾AI基础软硬件平台,旨在为金融行业客户提供开箱即用、性能领先、安全可控的大模型一体机解决方案。
图片1.png
LightGPT大模型一体机解决方案发布
作为自主创新的软硬一体解决方案,一体机充分发挥LightGPT的能力优势,使用2000多亿中文tokens和40多个精调数据集训练微调,在金融业务方面表现出极高的专业水准,显著超越通用大模型。此外,一体机预置“推理工具链+特色模型+行业应用”,支持天级快速POC、天级快速交付,同时经过全链路软硬件调优,实现模型性能业内领先。目前,LightGPT大模型推理一体机可以面向投顾咨询、投资研究、运营管理等金融业务场景实现规模应用,支撑AI应用的快速开发与交付,帮助金融客户实现数智化升级。
此外,论坛上还发布了恒生电子基于昇腾AI的大模型原生开发成果LightGPTs。LightGPTs是恒生电子研发的一款金融大模型和插件的一体化解决方案,已基于昇腾AI平台完成了原生适配。
图片2.png
昇腾AI伙伴大模型原生开发成果发布
其核心组件“光子”,作为金融应用对接大模型的“中控”部位,串联了“金融插件工具+金融数据+金融业务场景”,旨在解决大模型与实际应用之间的连接问题,主要包括金融RAG、抽取、审核、问答等组件,可减少大模型幻觉、提升时效性,并实现大模型应用的快速迭代。目前,LightGPTs能够为投顾、投研、运营、客服、风控、合规等多种金融业务场景提供安全可靠的底层AI能力支持。
示范案例,树立金融大模型应用标杆
7月5日下午,“迈向AGI:大模型焕新与产业赋能”论坛深度聚焦大模型行业应用落地、终端智能、大模型安全等前沿热点话题。
本次论坛发布了《2024大模型典型示范应用案例集》,旨在以产业化为导向,展现大模型行业具有先进性、引领性、示范性的典型应用实践案例。恒生电子旗下面向资管运营和智能客服的两款金融大模型应用成功入选。
其中,慧营是一款基于大模型技术打造的运营智能助手。产品基于恒生电子在金融领域深厚的业务洞察和丰富的数据资产,借助 LLM Function call、RAG 等核心技术,为资管运营和托管运营提供知识库问答、智能菜单路由、业务自动化办理等功能,简化了复杂操作流程,通过统一的对话界面辅助运营人员高效执行业务操作。慧营不仅是一个工具,更是一个公司级的超级业务助手,助力金融机构提升在资产管理、估值清算等关键运营环节的效率,助力实现运营流程的智能化和业务的持续创新。
另一款入选的示范应用则是善策面向客服运营领域推出的一款大模型智能客服产品。产品由恒生电子金融大模型 LightGPT赋能打造,通过将大模型的自然语言理解、生成式对话融合Agent自动任务规划及RAG检索增强生成技术,应用到客服问答机器人、智能知识库、客服质检、智能陪练等场景中,大幅提升传统智能客服的能力,让金融机构客服运营更智能、更便捷,辅助客服人员提升业务效率,推动金融行业客户服务专业化、标准化发展。
此外,在7月6日的“语料主题论坛”上,恒生电子子公司恒生聚源成功入选“2024语料风云榜”TOP10。在语料数据处理方面,恒生聚源依托全面的金融行业数据积累和先进的数据处理技术,形成金融预训练语料库,有力支撑智能投研、财富管理、AI标注等智能应用落地。
图片3.png
恒生聚源入选“2024语料风云榜”TOP10
当下,以大模型为代表的人工智能技术正加速与各行各业深度融合,深刻改变产业生产模式和经济形态,展现出强大的赋能效应。作为国内的金融科技公司,恒生电子也将持续投入金融行业大模型技术研发和生态建设,为金融行业带来更便捷、更安全的大模型解决方案和具有创新性的大模型业务应用,探索大模型驱动金融行业数智化转型和新质生产力发展的巨大潜能。