高通 开启生成式AI新时代

2023-10-31 11:39:27 字數 3711 閱讀 3499

运行100亿参数大模型的智能终端来了。
阿拉丁神灯的故事家喻户晓,几乎每一个孩子都希望能够得到这个能够实现愿望的灯中精灵。而高通最新产品——第三代骁龙8、骁龙x elite凭借出色的ai能力,将很快让每一部新终端都成为阿拉丁神灯。

10月24日—26日,2023骁龙峰会在美国夏威夷举行。每一年的骁龙峰会既是高通的新品发布会,同时也是前沿科技的宣讲会,而今年的关键词即是当今炙手可热的生成式ai。

高通公司ceo安蒙表示:“我们正在进入ai时代,终端侧生成式ai对于打造强大、快速、个性化、高效、安全和高度优化的体验至关重要。骁龙在助力塑造和把握终端侧生成式ai机遇方面独具优势,未来骁龙赋能的生成式ai体验将无处不在。”

支持端侧百亿级大模型

第三代骁龙8和骁龙x elite是今年骁龙峰会的重头戏,而强大的ai能力则是两款新品共享的基因。

第三代骁龙8是高通技术公司首个专为生成式ai而精心打造的移动平台。高通技术公司高级副总裁兼手机、计算和xr业务总经理阿力克斯·卡图赞指出:“第三代骁龙8具有迄今为止我们在智能手机平台中集成的最强大终端侧智能,赋能真正满足用户所需的突破性ai体验。

据悉,第三代骁龙8搭载了最新一代npu神经网络处理器hexagon,性能较前一代产品提升98%,能效较前一代产品提升40%,能够高速运行stable diffusion。借助高通首个ai软件栈——qualcomm ai stack,开发者可以将这些功能和体验轻松引入终端。凭借在性能和能效方面的显著提升,第三代骁龙8能够在终端侧支持运行100亿参数大模型,以及以20 tokens/s的速度运行70亿参数大语言模型。

在旗舰终端市场具有领导者地位的高通,一直想在pc市场寻求突破与创新,而全新发布的骁龙x elite可以视作高通达成这个目标的重要抓手。

骁龙x elite采用定制oryon cpu,基于4nm工艺打造,采用12颗3.8ghz大核,支持双核睿频至4.3ghz,内存带宽136gb/s,缓存总数42mb。卡图赞表示,oryon cpu子系统,与竞品最热门的十核和十二核笔记本电脑cpu相比,其性能高达竞品的两倍。并且oryon cpu达到竞品的峰值性能所需的功耗比竞品低68%。

而骁龙x elite的独特之处还在于强大的ai算力。通过定制oryon cpu、全新设计的adreno gpu和hexagon npu,骁龙x elite能够整体实现75tops的算力,支持在终端侧运行130亿参数大模型,以及以30 tokens/s的速度运行70亿参数大语言模型,实现ai对pc产品的颠覆式重塑。

显然,在第三代骁龙8和骁龙x elite这对双子星出色性能的加持下,开发者能够将一个超过100亿参数的大模型装入终端,让这些终端不必联网,也能出色完成撰写邮件、处理图像、生成图像等诸多任务,为用户带来更好的体验。

厚积薄发

凭借出色的ai能力,第三代骁龙8和骁龙x elite让智能终端和pc的算力得到极大的提升。在ai无处不在的年代,这种方式的性能提升看似必然,但是其背后却是高通未雨绸缪,长期投入与布局的结果。

这个深谋远虑的故事要从2023年讲起。那一年,5g开始成为业界的热门话题,行业都在研究如何将5g引入移动市场。当时,高通就已经认为5g和ai将会共同构成5g时代。基于这样的理念,高通在mwc2018期间宣布推出人工智能引擎ai engine,同年还发布了全球首个商用5g移动平台——骁龙855,于是5g和ai第一次走到了一起。

高通5g+ai的故事一直在讲述,并且随着骁龙移动平台迭代更新,他们的能力不断增强,让全球终端用户获得更佳的体验。

但是,仅仅让智能终端更聪明还远远不够。于是,高通在2023年提出了“统一的技术路线图”,向智能手机、pc、汽车、工业物联网等领域扩展,构建一个泛在终端产品体系,使得ai能力从智能终端逐步扩展到pc、耳塞、汽车等更广泛市场。据悉,骁龙已成为全球近30亿部终端的核心,囊括了智能手机、xr设备、笔记本电脑和汽车等各类终端。

事实上,在2023年至今的三届骁龙峰会,高通一直沿着“统一的技术路线图”,持续不断地发布新一代骁龙旗舰移动平台、pc平台、xr平台、音频平台、智能座舱等创新产品和方案,并将不断升级的ai能力融入这些产品,提供更加丰富的功能和更好的体验,服务更广大用户群体。

不仅如此,随着生成式ai的崛起,高通也与时俱进,于2023年发布了qualcomm ai stack,为oem厂商和开发者提供强大的ai技术支持,帮助他们在此基础之上开发丰富的产品,充分释放智能手机、物联网、汽车、xr、云和移动pc等智能网联边缘产品的ai能力。

这些能力在今年发布的第三代骁龙8、骁龙x elite等系列产品中得到了更加充分地体现,让高通在生成式ai赛道上厚积薄发,以持续创新领跑泛终端产业。

携手步入ai新时代

高通是android旗舰智能手机soc的领导者,但是没有合作伙伴的鼎力支持和通力合作,智能终端产业生态也将不复存在。

其实,高通携手合作伙伴进行了长期的探索,不断深耕终端侧ai,有很多故事值得分享。

微软windows芯片和系统集成公司副总裁p**an d**uluri表示:微软和高通有着悠久的合作历史。期待双方基于骁龙x elite共同打造未来几代芯片,windows 11和高通将带来更快、更好的性能,并且模拟**工作将更高效。

联想ceo杨元庆表示,联想很高兴将在2023年推出由骁龙赋能的ai赋能智能终端。联想和高通将携手,通过搭载骁龙平台的联想终端,为用户带来下一代ai体验。

小米集团总裁卢伟冰表示,小米14系列全球首发第三代骁龙8移动平台,不仅具备卓越的端侧ai性能,能效表现更令人惊艳。不同尺寸的手机,都可以做到性能的满血释放。

此外,oppo、vivo、一加、iqoo、荣耀、三星等全球知名手机品牌与高通都有比较深入的合作,而他们也很快发布搭载第三代骁龙8的新终端。

在合作伙伴的分享中,ai是他们的共同话题。事实上,不仅仅是泛终端企业合作伙伴,骁龙已经成为openai、meta llama 2模型、android基础模型等众多模型,以及很多来自中国合作伙伴的模型在终端侧运行的首选平台。

安蒙表示:“我们在骁龙峰会上获得了广泛的合作伙伴支持,证明了高通作为终端侧ai领导厂商的行业地位。”

伴随着ai大模型在全球大大流行,改变用户体验的生成式ai时代已经到来,同时这也预示着一个移动行业和计算行业的全新周期正在来临。高通、微软、谷歌、华为、小米等全球诸多领先的高科技企业参与其中,为改变人们的生活方式、赋能更多行业数智化努力创新。

高通与微软、meta的合作,android与windows的合作,说明“将终端保留在一个封闭式生态系统里已经过时了。这对于整个行业都是一个激动人心的时刻。我们很高兴能携手合作伙伴,共同推进科技发展。”安蒙表示。

采写:高超编辑、校对:晓燕指导:新文。

来了:支持100亿参数大模型的终端平台发布

生成式AI技术 开启智能新时代

生成式ai技术 开启智能新时代。随着人工智能技术的不断发展,生成式ai技术逐渐崭露头角,成为当下科技领域的热门话题。作为一位生成式ai的科学家以及行业的观察者,本文将带您深入了解生成式ai技术的现状和未来发展趋势。一 生成式ai技术 定义与原理。生成式ai技术是一种基于机器学习算法的智能化技术,其核...

Adobe 通过新的生成式 AI 模型引领未来设计

我是科技创作人 这家科技巨头最近宣布推出三种新的生成式人工智能模型,将重新定义 illustrator adobe express 和 photoshop 的功能。这些人工智能驱动的增强功能有望帮助设计师和创作者突破想象力的界限。得益于 adobe 的前瞻性愿景,数字设计领域即将经历一场翻天覆地的转...

生成式 AI 开启亚马逊云下一个黄金十年

报告作者 国泰君安分析师李奇 报告复盘了亚马逊零售与云业务的发展逻辑并发现二者高度的相似性,我们由此认为公司的生成式ai业务有望比肩广告业务,成为高壁垒 高利润的全新增长点。高壁垒 高利润的aigc业务将在长期带动云计算的利润水平提升。市场认为 亚马逊的主要利润 是云计算,而aigc业务所需的大量资...