使AI从“使用”到“有意义”,火山引擎的大型金融模式是如何炼成的?

05-22 23:50

5月15日,火山引擎升级并正式发布了火山引擎金融行业大模型解决方案,以与多位客户的实际合作案例为重点,聚焦金融行业大模型应用。


目前,以大模型为代表的AI技术正在全球掀起新一轮的产业技术变革。金融业已经成为引领时代潮流的中坚力量,因为它对时代潮流的敏感洞察和对新技术的快速接受。如今,金融业的创新火炬已经传递到大模型技术手中。如何赋能金融技术正成为大模型的重要使命。


大型模型如何赋能金融业?


AI模型正在加速千行百业的升级,金融业同时掀起了一股热潮,因为它被认为是一个更好的落地场景。根据清华大学经济管理学院最近发布的一份研究报告,生成式AI正在席卷金融业,释放新的生产力,以前所未有的方式重塑全球金融业的格局。


“一般认为,数字金融是金融企业适应数字经济的金融创新,既包括自身高质量的数字化转型,也包括为数字经济建设提供高质量服务。”火山引擎金融行业总经理刘俊如在本次活动的开场演讲中提到。


从匹配度来看,金融业是一个典型的需求场景复杂、数据密集的行业,大模型技术最突出的特点之一就是数据分析和理解能力强,可以提高数据创造价值的效率。如果把大模型的能力放在金融行业,解决一些原有的任务,会对很多工作产生质量提升和效率提升的效果。


从市场需求反馈来看,目前国内外金融行业对大模型表现出开放的态度,各机构都在积极拥抱大模型。


根据国际数据公司IDC的一项调查,超过一半的金融企业在2023年投资生成人工智能技术。包括BloombergGPT在内的一系列金融模型已经出现在海外。当前,我国已有6家上市银行公开发布大型技术开发与应用信息。


在实际使用场景中,目前大型金融模型的应用已经涉及到风险控制、客户服务、投资决策、反欺诈等诸多领域。大型金融机构和科技公司也积极布局或应用大型模型技术来提高业务水平。


火山引擎金融行业总经理刘俊


对火山引擎而言,刘俊提到,根据不同的服务对象,火山引擎的金融大模型应用可以归为BCDE四大场景,即Business公共账户、Customer对客、Developer对开发者、Employee对企业经理和员工。火山发动机正在与金融机构共同探索“情景” 模型 “计算率”的落地方式,促进了金融业大模型技术的应用。


情景 模型 算率 有助于释放大规模金融模型的价值


火山机相应的技术业务,常年在金融行业提供服务,如今已有深厚的积累。


官方数据显示,近四年来,火山发动机为200多家金融机构提供了技术支持和创新解决方案,形成了“行业-增长-云”的数字金融解决方案体系,即根据银行、资产管理、保险、泛金融细分等领域的业务特点,打造行业情景解决方案;内容、数据、算法、音视频等智能技术的灵活运用,构建体验创新和数据驱动的增长计划;以自主创新、云原生结构、开放解耦的敏捷底座,构建云底座方案。


火山引擎凭借体验创新、数据驱动、敏捷迭代的12字价值核心,不仅帮助金融企业加快数字化转型,也提高了金融服务的质量和效率。


火山引擎金融行业总经理刘俊


现在,进入大模型时代,不仅要考验模型能力,还要考验对业务的理解和整体工程化能力,让大模型大规模应用于金融行业,这也对厂商提出了更高的要求。


对此,火山引擎金融行业解决方案负责人王建军认为,最好的方法是找到与业务应用相结合的大型飞轮,即以模型-应用-数据为核心,以计算率为基础,即模型驱动飞轮启动,并应用于需求场景。业务生成新数据,反馈模型迭代。三者相互作用,释放效果强化的飞轮效应,而底层则由稳定安全的计算能力平台增加动力支撑。


火山引擎在这方面已经找到了自己的解决办法。


在计算率方面,火山发动机新发布了混合云 veStack 智能版,拥有万卡集群网络,3.2T 高性能无损网络的超大规模优势;端到端工程支撑的终极性能可以发现和自愈97.78%的训练加速比和分钟级故障;具有多种异构能力,可适应十余种 GPU,支持主流产业化 GPU。


在模型方面,火山引擎结合行业属性,升级为“1” 1 N“模型生态。公共云上,字节跳动自主研发豆包大模型已正式提供服务。在私有化部署方面,与合作伙伴智能谱AI联合打造的火山引擎——智能谱AI金融行业大模型,可以满足对数据安全要求较高的私有化场景;此外,火山引擎还以开放的态度,生态支持和对接更多的开源和商业模式,以满足金融企业的个性化需求。


应用方面,在发布会当天,火山引擎分享了展业助手、智能信贷管理、智能客户服务、智能体构建、代码生成、ChatBI、员工服务等7个已与客户共建的应用示例,重点介绍了新一代AI应用开发平台的纽扣和企业专属AI应用创新平台HiAgent,在不同布局环境下满足客户构建低代码智能体的需求。


王建军火山引擎金融行业解决方案负责人


目前,火山引擎已与招商银行、华泰证券、海尔黄金等多家机构进行情景探索和实践。未来,它将继续以大规模落地为核心,与金融企业合作伙伴AI携手。 创新。


在大模型时代做好数字原力工作。


在火山引擎的每一个合作伙伴中,招商银行、华泰证券、海尔黄金作为金融行业三大细分赛道的代表,是大模型应用的三大经典案例。


招商银行作为金融行业AI转型的实践者,正在寻找数百家智能外呼、数字人、智能数据助手等。 AI 探索和投入服务场景。招商局数字金融发展办公室主任高旭磊表示,大型模型将为银行全链业务带来改造与优化。与火山引擎携手,双方将共同打造大型应用领域和高性能基础设施,对当前系统和商品进行改造,催生大量产品。 AI 智能体应用是核心应用。


以华泰证券为例。之前建立的证券客服系统存在产品形态独立、意图识别泛化不足、缺乏多轮对话理解能力等问题,客户体验需要加强。如今,华泰证券正在利用AI模型优化财富管理助手。新一代财富管理助手通过引进大模型技术,结合传统模型算法和业务交易流程,解决了传统技术无法准确识别意图、无法与客户进行多轮互动的问题。


通过观察华泰证券财富管理助手从思考到产品打磨的过程,我们可以发现,很多企业都有大量的用户场景,知识壁垒很强。引进先进技术的前提之一是方案必须优化到相对成熟的阶段。其中,关键是统一应用架构、新一代知识库等。面向不同场景的大模型。作为技术提供商,火山引擎提供了云计算能力、安全沙盒等多种模型调用、灵活可观测的能力支持。火山引擎在模型应用阶段采用“1” 1 N“模型能力矩阵,提供国内更好的模型组合,防止硬决策压力,保证模型选择的竞争力,同时实现模型调用的观察能力和模型版本的平滑升级,保证模型访问的升级、回滚和观察。


海尔黄金消费者首席信息官梁树峰表示,引入大模型后,实际落地效果非常显著,最典型的是海尔黄金消费者的贷后管理。此外,在客服领域,自动识别客户意图,可以更准确地理解客户意图,便于以后管理客户。


在信贷管理业务中,客服代理人通常需要与客户沟通,以识别客户的还款能力和还款行动计划。为了更好地为客户提供服务和贷款后的管理,客户的信息需要在整个互动过程中人工介入,这实际上需要很高的人工成本。


梁树峰表示,在信贷管理场景中,通过与火山发动机的合作,可以引入大模型能力。即使在目前的初始应用阶段,整个业务的产能也可以提高15-20%。海尔消费金融代理助理不仅解决了摘录过程中95%的质量问题,每天节省专员1-3个小时,还提高了智能问答系统的答案准确性。


当然,任何技术都是一把双刃剑。作为金融行业的一线从业者,梁树峰还提到了信息安全、模型差异化等大型技术在应用中面临的一些挑战。


大模型技术的应用就像硬币的正反两面。正面是技术应用将信息处理和智能决策带入新时代。背面是一系列可能存在的问题,如大模型训练和微调面临的数据问题、合规性和法律法规,以及大模型固有的“幻觉”问题。


与其他行业相比,金融行业对数据安全、隐私合规、时效性和准确性有更严格的要求,这决定了金融大模型的应用实践面临更复杂的约束。


本次活动当天,国家金融与发展实验室副主任杨涛认为,大型模型在金融行业有着广泛的应用,但其合规应用需要面对诸多风险。应该引导金融机构根据自己的资源优势选择多元化的技术路线,防止他们一哄而上。


但是,无论如何,属于大模型的时代已经到来,这项技术正以前所未有的深度和广度重塑千行百业。对于金融行业来说,大模型一切都是方兴未艾的。随着技术的不断发展和场景的不断拓展,相关应用将更加广泛和深入,不仅将进一步提高金融服务的质量和效率,还将在防范金融风险、促进经济结构调整、促进社会公平正义等方面发挥不可估量的作用。


刘俊表示,“火山引擎将不断深化模型、应用和场景整合能力,促进金融机构大模型技术的大规模应用,增强价值获取感,共同撰写金融行业新篇章。”继续滚动,看下一篇原文。


财联社向上滑动,看下一个


原题:“让AI从“使用”到“有意义”,火山引擎的金融大模型是怎样炼成的?”


阅读原文


本文仅代表作者观点,版权归原创者所有,如需转载请在文中注明来源及作者名字。

免责声明:本文系转载编辑文章,仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布,请及时与我们联系进行审核处理或删除,您可以发送材料至邮箱:service@tojoy.com