大模型想要赚钱,首先要经过这七个难题。
大型落地,谁先集齐七颗龙珠召唤神龙?
近日,中关村科金CTO李智伟博士发现,大型商业闭环正在被提及一个非常重要的位置。
与过去20年中国IT产业的发展不同,烧钱可以快速积累客户,通过估值和广告实现商业变现;在大型时代,投资市场更加理性,迫使行业加快商业闭环。
不久前,在华为HDC开发者大会上,云军团CEO在华为主机上。、尚海峰混合云总裁强调,加快商业闭环,是使用大模型最关键的一点。,最终,市场要回归理性,只有真正为用户创造价值,实现商业闭环,才能有更长远的未来。
经过几个月的探索,业内也有一些方法论可以引导客户从试点探索走向大规模支付,加快商业闭环。
01价值共识,如何解决1000客户1千哈姆雷特?
"以前买软件,有什么功能,给个清单,顾客一眼就知道了;但是大模型时代不同,顾客对这件事的认识也不统一,可能有1000人有1000人有哈姆雷特。”中关村科金李智伟告诉数智前线,当你需要与客户沟通时,有一套方法论来正确地引导客户的价值。。
归根结底,在模型落地这件事上,期望值过高或过低,都会对企业应用闭环的形成产生很大的影响。快递100总经理陈登坤说:“大型模型基于Transformer,我们自己也成为了Transformer,是一个看得见、摸得着的应用转换器。
"为降低沟通成本,如今,我们所有的产品都在公共云上有试用版。。"李智伟介绍,这样一个小小的原型系统,有利于顾客快速了解大模型可以使用。实现什么效果,界限在哪里?,这样可以加快从前期讨论到PoC,再到落地部署的推进。
此外,帮助企业计算ROI(投资收益率),也是加速落地的一种常见做法。。中国工业互联网董事长智振表示,这不仅包括短期ROI,还包括长期ROI,如大模型后能提高多少效率,节省多少人,从多方面减少对关键人员的依赖,降低人为错误的概率。
它还使他们在与客户沟通时,最核心的工作之一,就是引导用户在整个价值链中找到最痛苦、最珍贵的点。。比如设备的运维场景往往与知识管理密切相关。如果一个设计文档出了问题,通常可能会造成几百万元的损失。但是,原本是手动检查的。如果漏检的概率需要两个小时或者千分之一,大模型可以在十分钟内手动完成,漏检率降低90%。
“我们先给他做这样的场景。”智振说,这对企业建立对大模型的信心非常有帮助,包括实施更多更深层次的场景。
02 实施期限为3-6个月?
在过去的一年里,客户和行业探索了很多场景,但并不是每一个场景都能真正从PoC走向商业闭环。
面临着这一波大模型掀起的新变化,也很少有企业愿意在一开始就花上千万、几年的时间去做。
“一年可以退货,客户很容易认可;三五年后,客户要注意考虑;七年后,政策必须硬性要求。”智振说:“目前大家普遍可以接受的价格范围是50万到200万,实施周期一般限制在3~6个月。。“有些大型项目虽然会跨年,但通常会分成几个月作为一期进行观察。
有些小项目,上架时间可以更短。“正如我们一样。”它还为一些电子商务用户提供售前和售后的大型技术服务。它的决策周期和试用周期很短,甚至每月收费。。”智振说。
“我们现在所有的项目都是以‘稳定、准确、无情’的方式实施的,这将帮助客户把大需求切成相对较小的点,一点一点地尝试和犯错,一点一点地突破。与以前的软件不同,只有一个项目做了一年半,客户才能看到效果。”新软件副总经理曹玺告诉数智一线。
就场景而言,与大语言模型相关的知识场景,成为企业选择的首选闭环方向。
泰康科技公司人工智能部AI架构师朱兴杰介绍,上半年,他们首先通过知识助手、销售助手等方式,努力加工重塑知识,赋能代理人,形成初步效果。后续将提高理赔等场景的风险识别能力。
中国工商银行软件开发中心大数据与人工智能实验室副主任夏知渊在华为HDC大会相关大模型混合云论坛上公布了工行“1” X"在工程化解决方案中,除了1指代的是智能体,X类解决方案也大多与知识类情景有关,比如多模式的知识搜索,互动的智能搜索等等。基于这些能力,工行在远程银行的场景构成了大模型的全过程赋能,降低了10%的通话时间和18%的员工座位效率。
03 大型中台,防止“散称战斗”
为加快各行各业大模型的应用,各大主流大模型厂商纷纷强调模型“最佳性价比”,轻量化模型,MoE、价格战轮番上阵。再加上开源武林的不断繁荣,企业对模型的选择越来越多样化。。
泰康科技朱兴杰告诉数智前线:“各种大型开闭源模型,只要我们能够安排推理,我们就会尝试,看到效果。泰康科技支持整个集团的数千个应用,集团各部门可以根据不同的场景选择不同的模型。,辨别一条最好的路径。
不可否认,开源比闭源更受欢迎,出于成本考虑。比如在行政执法领域,北京可以通过开源模式为政府用户提供私有部署,为高科技信息技术有限公司。在金融领域,中关村科金首席执行官李智伟观察到,开源是关闭的,源代码是开放的。还有“源代码” 在开源三种模式中,银行客户更希望第三种模式。
除了开合源,业内一个很大的共识就是混合大小模型正在成为常态。比如中关村科金的混合模型质检平台,让小模型负责声音、图片等数据的质检,高频易检场景,低频难检内容的大模型,为质检结果提供判断原因,帮助人工快速审核,帮助某头部金融企业完成了1000倍的检测效率,大大降低了人工检测成本。
李智伟说:“这就像一家公司有分工才能更有效地运作。
而且更深一层,一些企业已开始建立统一的大模型中台,N个大小模型,以及安全、知识注入、工具、服务分配等。“这能有效防止散称战斗造成资源浪费。,泰康科技朱兴杰表示,这也有利于后续迭代升级。
大型模型也在成为企业的基础。智振透露,他们目前已经向客户提出了“三个平台”的思路,即基于大型模型基础做数据平台、业务平台、知识平台。过去,工业互联网平台主要处理数据不连接和业务不畅的痛点,但很难解决知识难以沉淀的问题。大模型很可能会带来很大的改进。
智振看到了,现在包含大型底座 平台项目,基本上是百万元量级。。然而,企业不会在第一阶段完成整个建设,也不会完全推翻旧系统,而是由浅入深。“比如现在知识平台好,我就先去知识平台,和相关的业务系统打通。如果使用得当,我会逐渐更换其他系统。”
04 数据飞轮,是难点也是胜利点。
数据作为大模型三要素中的关键环节,无疑是影响大模型商业闭环形成的一个重要因素。
特别是缺乏过程数据,是我们在落地过程中遇到的最大障碍。北京可以告诉创始人曾明,除了金融、电子商务等数字化进程相对成熟的行业,大量行业企业都存在数据相关问题。
比如在法律领域,有大量的案例公开数据,但大部分只是简单的案例描述。“如果在一个案例中,正常的思维过程是从A到B。、b到c……x到y、y到z,那个大模型只学a到z,是不能学的。”曾明说,他说:“目前最缺乏的是b到y的过程数据。。”
“如果数据只是缺乏知识之间的相关性,我们可以用大模型自己的知识结构来弥补。但如果是事实数据不足,只能通过传统方式收集。”中关村科金李智伟告诉数智一线。
曾明透露,他们目前正在通过数据清理和数据标注来帮助企业补充历史存量数据,并在大模型落地过程中加快收集增量数据,同时填补数据空白。
大型厂商也在从工具链入手,帮助企业加快数据治理,建立自己的数据飞轮。事实上,在很多人眼里,越往后走,越不能只盯着模型本身的练习。在加速大型商业闭环的过程中,工具链的建设将占据越来越重要的地位。
李智伟告诉数智前线,不仅在数据方面,在模型布局、安装、运维、日常优化调整等方面,都可以通过工具链进行改进。所以,今年他们推出了PowerAgent平台,大型模型的部署效率可提高2~3倍。
05 计算率选择,混合云最经济?
在加速大模型落地和商业闭环的过程中,计算率是另一个引人注目的问题。“基于对数据安全、开发成本和训练效率的综合要求,目前,混合云已成为越来越多市企的首选。。“华为尚海峰在HDC期间大模型混合云论坛上强调,它是目前最合规、最经济的方法之一。。
在此之前,《深度用云展望2025》白皮书也曾指出,2025年,75%AI大模型将被公司使用,基于混合云的AI大模型比例将达到38%。
举例来说,在华为HDC开发者大会上,广州市政务服务与数据管理局副局梁文谦介绍,为兼顾数据不出域和大模型训练的需要,它们构建了人工智能公共算率中心,公共云和政务云混合在一起。,其中,100P部署在政务云中,提供良好的培训或精调模型,应用于人力资源和社会保障部门、城市管理部门等。此外,200P公共云被用作培训应用。
在金融、汽车等领域,许多企业也采用了公共云和私有云的协同结构。泰康科技公司人工智能部AI架构师朱兴杰告诉数智一线,这是出于成本考虑。“我们评价私有算率是几千万的投资,这样才能取得好的效果。”。另外,业界普遍认为,国产计算率仍然需要在规模、性能、底层生态等方面进行完善。
“对核心商业知识,必须要求私有云,所以我们现在会有少量的本地私有化集群,同时也会调整公共云服务,进行混合布局。”朱兴杰说,每个人的普遍做法是,利用公有云的高弹性和高可扩展性,可以灵活租赁计算率,在AI场景创新中尝试多种场景,然后在验证一个场景的价值后通过私有云进行部署。,快速实现本地安全数据不出域。"下一步,一旦我们看到效果,我们就可以建立一个很大的私人计算率"。
除了混合云,公司还可以选择“公有云私有化”的方式,即在公有云上开设私有化环境,达到降低成本的目的。目前,许多企业选择了这种模式,用于零售、酒店和文化旅游等数据控制不那么严格的行业。
中关村科金CTO李智伟建议,中央国有企业带头建立专有云,可以使大模型的计算效率和成本更加经济。”例如某一区域形成一家能源产业链主公司,提供公有云,服务区域内所有能源企业。”
06 定制化,“老大难”有新的解决方案
在To B市场,定制化一直是一个不可避免的问题,也是影响商业闭环形成速度的重要因素之一。
业界观察,在过去的30年里,信息化和智能化的整个发展过程,也是一个定制化的简化过程。以人工智能为例。在上一个AI时代,AI技术的泛化能力很差,甚至有产品面向同一个场景,不能直接在同一家银行的不同部门重用。定制已经成为必然。在大模型时代,我们发现它的泛化性在一定程度上解决了定制化问题。
但是,随着大模型的真实落地,行业发现定制化的需求仍然很大,“甚至在某种意义上得到了加强。”李智伟告诉中关村科金CTO数智前线,特别体现在多样化的客户需求和尚未稳定或收敛的技术阶段。。对他来说,拥抱这种需求比避免定制更好。
“我们正在做许多工具化和配置化工作,百度智能云知识管理产品部总经理宋勋超说:“让这些大模型所依赖的定制产品的基础设施更高效,实施成本更低。
中关村科金李智伟告诉数智一线,一方面需要产品经理对客户情况有更好的了解,产品标准能力要尽可能多地满足项目需求,即提高产品满意度。另一方面,在产品交付过程中,我们还应该提供服务/咨询能力,与客户一起,赋能客户成长。这在行业应用领域非常重要。
中国工业互联网董事长智振举例说,定制企业就像定制西装一样。量身定制的效果肯定会更好,但是成本和时间会更多。如果你想降低定制的成本和时间,你必须增加标准化的比例,即标准化产品和更标准化的服务流程。
"从今年开始,我们已经把过去一年探索出来的所有方向都实用化了。。“智振说。这不仅有利于公司在大模型应用过程中更快地获得能力的交付,还能加快服务商大模型落地能力的推广和复制速度。智振透露,他们目前不仅为客户提供产品 整个服务计划,也将标准产品卖给合作伙伴,然后由合作伙伴向顾客提出计划。
07 操作维护,让投资不打水漂。
“许多人往往忽视了大型运行和维护,但我认为它和大型运行一样重要,值得我们长期投资。,不然你根本用不上。”华为主机上云军团CEO、混合云总裁尚海峰表示,这包括系统建设、AI培训、技术运营、场景运营、生态运营、市场推广、门户运营等待多个环节。
举例来说,鄂尔多斯市政府和华为联合打造了以行业AI大模型为核心的工业互联网平台,选择了“前店后厂”的方式。鄂尔多斯创新投资集团有限公司副总经理廉咏梅表示,在这种模式下,“后厂”不断汇聚生态合作伙伴,拓展新场景,开发新的大模型应用产品。同时,“前店”还可以通过网上应用商城实现商业实现,实现成果转化和商业闭环。
但是,另一方面,这也对公司和服务提供商提出了新的要求。
对企业而言,必须尽快通过服务商提供的AI赋能、AI培训等模式,打造落地大模式的内生能力。
对于服务商来说,也更需要长期的服务和陪伴能力。“to B企业软件领域的一个逻辑是,如果每年不更新,就会失去15%的能力。”智振告诉数智前线。
显然,在当今大模型时代,技术的变化和优化更快。这也意味着公司和大模型服务提供商都需要更频繁地总结和更新经验和方法论。
本文来自微信微信官方账号“数智前线”(ID:作者:周享玥,编辑:赵艳秋,36氪经授权发布,szqx1991)。
本文仅代表作者观点,版权归原创者所有,如需转载请在文中注明来源及作者名字。
免责声明:本文系转载编辑文章,仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布,请及时与我们联系进行审核处理或删除,您可以发送材料至邮箱:service@tojoy.com