AI 后PC时代:再一次了解大型模型的最佳媒体
假如从人机交互变化的角度来想象,AI PC的变化可以算是人机交互史上的又一次“颠覆”。在元宇宙时代,是苹果把AI放进了Vision。 Pro里;所以,在当今的AI时代,谁将是AI? PC完全照进现实?最终的赢家是谁?
世界上第一台电脑埃尼亚克ENIAC是由二战期间六名女性主导编程的。当时,包括她们在内的所有女性都不允许进入ENIAC房间。从当今社会回顾历史,当时女性地位处于极端状态——这六个女性的名字在过去很长一段时间都不能出现在“功劳簿”上,尽管她们对现代编程具有重要意义。
The ENIAC,来源:history.com
而且这是历史上第一次出现人机交互。
在接下来的半个多世纪里,历史上的每一次人机交互变化,从施乐引领的“图形用户界面”变革,到苹果引领的“触摸交互界面”变革,都在全球PC市场掀起了波澜。除了给用户带来实用性、趣味性和便利性之外,这种进化过程还承载着数字版的“乌托邦”世界。
今天的“AI变革”就是让这种想象在未来的某一天成为现实的载体。比如现在的电脑只是一个工具,未来的电脑可以是一个超级助手。它可以代替客户完成基本工作,甚至通过存储用户操作电脑的个人习惯和知识来创造性工作。更重要的是,这台AI电脑的私密性不再是问题。
但是,在这种乌托邦式的“AI计算机”到来之前,有几个值得探讨的问题:如何将AI放入个人计算机?个人计算机如何进行大规模的AI计算?这对芯片等硬件有什么要求?除了硬件,软件层还会有哪些变化?
伴随着AI主导的人机交互变革,PC市场再次爆发,一系列问题也逐渐成为PC舞台的焦点。
端侧大模型到底成了什么样的颜色?
每一个输入输出点,从手机摄像头到智能穿戴设备,从汽车到智能家居,都有可能成为AI拳脚的舞台。
在巴塞罗那举行的MWC世界移动通信大会上,2023年初,荣耀发布了法术OS。 8.0、Magic6大法术模型 Pro手机等商品;高通和联发科展示了更多AI能力的芯片。三星、三星、vivo、OPPO、荣耀、华为、小米等手机厂商开始在手机产品上运用大模型能力,AI一键加速渗透。
从那以后,终端上发生的一场AI变革正式拉响。首先是手机,然后是智能可穿戴设备,然后是汽车和智能家居。似乎所有的终端都可以和AI“加”。
所以,为什么各种终端场景都与AI结合?
从大模型的落地发展趋势来看,从云向终端推进是当前大力发展的方向之一。如果所有的部署方法都是云,则需要通过终端浏览云。虽然这种方法可以保证足够的参数和计算率,但显然没有轻量化、低延迟任务的优势。
而且端边AI的关键在于,它能快速响应客户需求,处理当地数据,保护用户隐私,而不依赖云服务器。
但是在端边部署大型模型仍然存在一些挑战。最为明显的难题是,如何保证端边大型模型有足够的算率支撑?
就目前市场上的端侧大模型而言,一个合理的规律是:设备端面越大(功能越多),其端面大模型的参数就越大。
面壁智能联合清华NLP实验室于2024年2月发布,开源端侧大型面壁MiniCPM,参数规模20亿;
小米AI大模型于2023年9月亮相,参数13亿;
荣耀发布端平台级AI大模型-法术大模型于2023年1月,参数规模70亿。
以上是部署在手机上的大模型,可以看出其参数规模无法与国内外第一梯队的大模型相媲美。对于功能更有限的智能可穿戴设备,只要端侧大模型的参数值规模小于手机。但值得注意的是,荣耀骁龙8搭载了一个拥有70亿参数的神奇大模型。
在过去与媒体的对话中,荣耀R&D管理部总裁邓斌也透露,“由于计算率、带宽、功耗等影响,端侧运行70亿参数模型达到了极限。”
然而,在最近的2024北京车展上,商汤的“每日新5.0”可以说是一枚重磅炸弹。它采用了混合专家结构(MOE),它是中国第一个全面对标甚至超越GPT-4 Turbo的大模型,参数达到6000亿。而且这是一个端侧大模型,更适合车端部署。
实际上,不管是荣耀的魔法大模型,还是商汤的日新月异,端侧大模型都有一个特点,也就是说,参数大的大模型部署在端侧,必然会通过“蒸馏”技术将大模型压缩,然后封装到端侧。
虽然随着参数的不断增加,大模型将开始“出现”,并呈现Scaling。 Law(规模效应),这也是现在大家都在拼参数的重要原因;但是从模型应用的角度来看,模型参数越大越好。最理想的状态应该是:尽可能少的参数来达到最好的效果。
所以,包装到端侧的大型模型都要进行“蒸馏”处理。例如,通过知识蒸馏等技术,Google的MobileBERT模型大大减少了模型参数,使其更适合在移动设备上进行布局。
此外,除了“蒸馏”处理,从手机到PC的演变也需要能够保证端大模型正常运行的芯片。事实上,在过去的一年半时间里,许多芯片制造商已经推出了AI应用程序。 PC芯片。
2023年10月,高通在骁龙峰会期间推出了一种全新的Arm体系结构Cpu。:骁龙X Elite;
英特尔于2023年12月14日发布Meteor 酷睿UltraCpuLake是一款集人工智能加速发动机NPUCPU于一体的CPU。;
AMD于2024年4月推出AI芯片-锐龙PRO处理器,适用于商用笔记本电脑和台式机。
不只是芯片,自去年10月以来,英特尔发布了“AI 到目前为止,PC加速计划已经显示出整个产业链的生态。从单独的硬件供应商到单独的软件供应商。(ISV),在底层芯片和上层AI之间 PC“各就各位”,一些软硬件兼容性问题也将加速解决。
然而,适应和适应并不容易。不同设备的硬件配置不同,操作系统和开发环境的多样化要求大型模型具有高度的灵活性和可扩展性。此外,在PC端部署大型模型还需要保证用户隐私,这就需要在有效利用当地信息进行模型自适应学习的基础上,处理隐私问题。
谁在成为试水者?
他说:“我们认为AI 在不久的将来,PC将成为PC市场的一个重要转折点。”英特尔于2023年9月在加州圣何塞举行的“Innovation CEO基辛格在2023峰会上首次提出AI PC概念。
这是英特尔的大型芯片发布会。然而,英特尔还特别强调了即将推出的酷睿UltraCpu,同时展示了其三代AI芯片的路线图。Meteor Lake”,这个Cpu被英特尔视为40年来最重要的处理器架构变革,也是一个可以配备AI的 芯片在PC上。
这个Cpu在2023年12月正式亮相,没有任何意外。实际上,英特尔是AI巨头, PC水平的进步,一直都是从硬件方面入手,通过集成AI加速器,提高CPU架构,从而为AI应用提供底层支持。
英特尔早在2018年就开始了AI 计划PC。当时的雅典娜计划(Project Athena)就是它在AI里 在PC方面,尤其是在电池管理、语音识别和安全方面进行优化。比如英特尔第11代酷睿Cpu集成GNA模块,专为低功率AI处理而设计。
在国际市场上,微软是一支不可忽视的力量。作为运营系统领域的领导者,微软早在2019年就在其Windows上。 AI元素融入到10个系统中,如Cortana智能助手和机器学习驱动的性能优化功能。
"我们的目标是让每个Windows 微软CEO萨蒂亚·纳德拉曾经说过,PC可以享受AI带来的效率提高。
在AI 在PC布局方面,微软专注于操作系统层面的智能化,例如通过Windows的更新迭代,在使用AI优化软件性能和客户体验的同时,不断深入Cortana的功能。
而是要迎接“迎接”AI 今年三月,微软还推出了Surface Pro Surface10商业版 Laptop 6商用版。
最后,在AI中 真正走在PC市场前列的,是国内PC制造商的“联想”。联想首先在2023年12月发布了AI。 Ready的AI 包括ThinkPadPad的PC产品 X1 Carbon Proo和联想小编 16 AI酷睿版。这种产品配备了Intel酷睿UltraCpu,并配备了AI专属芯片NPU,以提供强大的本地混合AI计算能力。
“联想AI PC将体验AI 在2024年,Ready进入了AI阶段 在On阶段,每个人都将拥有自己的个人AI助手。在会议上,联想集团副总裁阿不力克木·阿不力米提说。
随后,2024年4月,联想再次发布了AI。 新PC产品,嵌入个性化AI智能体的“联想小天”正式亮相。
实际上,联想是AI PC的理念是将其打造成个人AI助手,提供个性化的创作、私人秘书和设备管家服务。联想AI PC的本地混合AI计算能力是其核心特征之一。它具有嵌入个人智能体、实现多模式自然语言交互、个人大模式和本地知识库的能力。
早在2020年,联想就推出了Yoga系列AI笔记本,搭载联想智能引擎LCE,希望通过AI技术提升用户体验,如智能排热调整、场景识别等。
能看到,在AI中 在PC的团队中,联想属于“务实派”,更注重AI在实际应用场景中的落地,利用其智能发动机LCE在排热、续航、互动等方面实现智能优化。
此外,除了联想、微软、英特尔等国际知名厂商,还有一家不得不提的PC厂商——苹果。就在新闻发布会前不久,苹果迎来了一年一度的新闻发布会,但在这次新闻发布会上,最令人惊讶的是专注于AI的M4芯片。
因此,从整体市场结构来看,一方面,联想、微软、英特尔等品牌正以其自身的影响力和技术积累占据主导地位。虽然现在AI PC仍处于市场培育阶段,但是各个厂商也在探索适合自己的道路。
另一方面,华为、小米等新兴势力正试图跨界进入AI,凭借其在智能手机领域的AI经验,进入AI领域。 通过整合软硬件优势,PC市场产生了新的竞争态势。
但是在模型层面上,目前主要是为开发者提供Googlee等轻量级大模型的厂商,、面壁智能和Meta。
资料来源:各公司网站,中金公司研究部
但未来,随着模型压缩、蒸馏等技术的发展,更多复杂的大型模型有望在PC端实现高效运行,如OpenAIGPT系列、阿里云通义千问、腾讯混合元、百度文心系列等。,所有这些都可能成为终端AI。 PC的重要组成部分。
事实上,市场上已经测试了大模型压缩技术。比如联想基于大模型压缩技术,将LLM压缩到轻量化模型进行本地部署。目前,Lenvo AI Now助手的大模型来自阿里云的通义千问,从14.4GB的原始大模型压缩到4GB,计算机配置5-6GB的内存即可运行。
因此,随着产业链的完善,AI PC时代正在加速。根据IDC的预测,AIPC有望在2027年达到85%的渗透率。
可预见的是,当AI成为时代流行趋势时,这一由AI主导的变革也在点燃PC市场。
三、AI PC的“未来想象”
“AI PC元年被提及的次数越来越多,但是这条赛道仍然缺少一个“杀手级”应用。
联想去年九月在联想智能技术会议上发表了“AI 在PC加速计划的同时,基辛格对ISV说:“如果你想知道‘杀手级’应用是如何诞生的?答案只有你。你需要一起塑造AI。 PC生态,创造杀手级应用”。
诚然,杀手级应用,对AI来说, 对于PC来说,就像是可以点燃行业的导火索。在元宇宙时代,苹果的Vision Pro已经成为其背后的导火索;今天的AI 在PC时代,要看整个生态的完善。
不仅如此,如果你想把大模型放在PC里,真正要解决的问题还包括模型压缩技术,同时还要保证硬件性能跟上,如何保证隐私可靠性和软硬件适配性。
所以,在当今数字化转型的浪潮中,AI PC正逐渐成为科技巨头争相规划的蓝海。微软、联想、英特尔、惠普、华为、小米等行业先锋也在前瞻性的战略思维中勾勒出AI。 未来PC的景象。
第一,微软将AI视为未来操作系统的核心,计划通过Windows的不断进化,使AI成为未来操作系统的核心。 PC已经成为用户的个人助理和生产工具。目前,微软正在投资先进的机器学习模式,如更有效的数据处理、人性化的服务、加强云协作等。
联想也提到了“个人助理”。其中,联想AI是构建个人AI助手,提供人性化服务的一种。 PC的战略路线图。另外,在生态方面,联想还通过“AI 通过与软硬件制造商的合作,PC加快了计划,从而占据了优势。
作为一家芯片制造商,英特尔通过硬件创新推动AI。 PC进步。在这方面,英特尔还计划通过下一代CPU集成更强大的AI加速模块,例如更有效的神经计算棒,为AI提供 PC提供低延迟、高能效的计算能力。英特尔的愿景是让每个PC都成为一个边缘计算节点,实现本地数据分析和即时反馈,并与云合作,为用户提供无缝的AI体验。
最后,作为AI 在PC领域,惠普、华为、小米分别从AI企业解决方案、AI芯片、智能家居IoT等角度参与AI企业解决方案。 PC市场的变化。
另外,在硬件方面,为了适应AI, PC市场,产业链上游的芯片侧都要进行产业升级。举例来说,怎样确保大型模型能够在端侧有足够的计算率?因此,操作系统还需要能够满足移动场景下的计算能力要求,另外,电池能耗、手机存储等问题也被一一摆放到台面上。
根据Trendforce的说法,微软计划在Windows12中为AIPC设定最低门槛,至少需要40TOPS计算能力和16GB内存。但是,结构性的变化,如架构变化、异构计算和内存升级,也发生在芯片侧。
随着英特尔、联想、微软等众多国际厂商赋予AI。 PC的新概念,整个PC市场的爆发也将接踵而至。这一轮AI变革,无论是从提高生产力的角度,还是从AI时代的大环境来看,都必将点燃PC行业的热情。
回顾中国AI大模型的两年,AI基础设施逐渐成熟,PC是AI落地的终极媒介。原因很简单。如今,关于大模型的讨论点已经从大模型本身升级为AI。 Agent、很好的助手和智能体等等,那么能够实现这种飞跃的最佳媒介就是PC端。
假如从人机交互变化的角度来想象,AI 在人机交互史上,PC所产生的变化是另一次“颠覆”。在元宇宙时代,是苹果把AI装进了Vision。 Pro里;所以,在当今的AI时代,谁将是AI? PC完全照进现实?最终的赢家是谁?
本文来源于微信微信官方账号“产业家”(ID:chanyejiawang),作者:工业媒体,36氪经授权发布。
本文仅代表作者观点,版权归原创者所有,如需转载请在文中注明来源及作者名字。
免责声明:本文系转载编辑文章,仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布,请及时与我们联系进行审核处理或删除,您可以发送材料至邮箱:service@tojoy.com