火山发动机发布高速训练引擎,实现高性价比模型训练

2023-05-20

近日,2023年火山发动机春季FORCE原动力大会在上海外滩落下帷幕。会上,火山发动机发布了“智能推荐-高速培训发动机”。火山发动机总裁谭待表示,希望通过这款新产品,实现高性价比模型培训,大力支持公司在云上的智能创新。


谭待介绍,推荐是移动互联网时代内容分发的核心因素。早在2016年,火山引擎就开始为手机制造商和其他用户提供内容推荐服务。


随着客户数据的沉淀越来越多,算法模型需要快速迭代,越来越多的企业面临着无法满足稀疏模型培训速度要求的问题,导致模型更新缓慢影响线上效果。火山发动机发布的“智能推荐-高速培训发动机”完美提高了模型培训推理的效率,让更多企业可以通过云服务享受与字节推荐相同的智能推荐基础设施。


他指出,火山发动机最新推出的“智能推荐-高速训练发动机”,可以为合作伙伴提供快速训练,实现软硬兼施,快速训练100GB-10TB。 超大型模型;基于PS-Worker架构,在服务发现的基础上,“智能推荐-高速训练引擎”也具有可扩展性,支持 PS、Chief、Worker 全方位容错;在高速、通用的基础上,“智能推荐-高速训练引擎也保证了数据的安全性,节省了成本。“智能推荐-高速训练引擎”仅传输高度脱敏后的训练样本,采用不可逆哈希技术,保证数据安全,提供多种模型瘦身技术,提供多种GPU方法,改进大量算法,大大提高训练和推理性能。基于字节内部实践,综合成本可降低25%~67%。




与此同时,谭待还指出,目前只有做好云创新,才能实现云价值。火山发动机大力支持大模型发展。目前,火山发动机已经支持包括MiniMax在内的、许多企业,如智谱,在模型领域发展迅速。


谭待认为,未来大模型将在各行各业不断兴起,行业专属、公司专属的大模型将百花齐放。火山引擎也将大力支持“多云多模型”的未来结构,让更多的企业在模型领域的发展中获得更好的算率保障。(作者:张绍)


本文属于原创文章。如果转载,请注明来源:火山引擎发布高速训练引擎,实现高性价比模型训练https。://news.zol.com.cn/816/8163712.html


https://news.zol.com.cn/816/8163712.html news.zol.com.cn true 中关村在线 https://news.zol.com.cn/816/8163712.html report 1481 近日,FORCE原动力大会在2023火山发动机春季在上海外滩落下帷幕。会议上,火山引擎发布了“智能推荐-高速训练引擎”。会上,火山发动机发布了“智能推荐-高速培训发动机”。火山发动机总裁谭待表示,希望通过这款新产品,实现高性价比模型培训,大力支持公司在云上的智能创新。谭待介绍,推荐是移动互联网时代做好内容分发的核心。...

本文仅代表作者观点,版权归原创者所有,如需转载请在文中注明来源及作者名字。

免责声明:本文系转载编辑文章,仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布,请及时与我们联系进行审核处理或删除,您可以发送材料至邮箱:service@tojoy.com