搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙

2023-11-15 11:14:31 字數 938 閱讀 6418

快科技11月14日消息,nvidia第一次披露了下一代ai/hpc加速器的情况,架构代号blackwell,核心编号gb200,加速器型号b100。

nvidia第一次公开确认,b100将在2023年发布,但未出更具体的时间表。

此前曝料称,b100原计划2023年第四季度推出,但因为ai需求太火爆,已经提前到第二季度,现已进入**链认证阶段。

nvidia表示,b100加速器可以轻松搞定1730亿参数的大语言模型,是现在h200的两倍甚至更多。

虽然这不代表原始计算性能,但也足以令人望而生畏。

同时,b100还将带来更高级的hbm高带宽内存规格。

回顾历史,pascal p100、ampere a100、hopper h100、h200分别首发应用hbm2、hbm2e、hbm3、hbm3e。

接下来的b100肯定赶不上hbm4(规范还没定呢),但必然会在堆叠容量、带宽上继续突破,大大超越现在的4.8tb/s。

blackwell架构同时也会用于图形工作站和桌面游戏,传闻有gb202、gb203、gb205、gb206、gb207等不同核心,但是对于rtx 50系列,nvidia始终三缄其口,几乎肯定到2023年才会发布。

2023年就将是rtx 40 super系列的天下了,明年初的ces 2025首发三款型号rtx 4080 super、rtx 4070 ti super、rtx 4070 super。

运行130亿参数的大语言模型!你只需要一台轻薄的AI PC

说起ai大语言模型,相信熟悉的人都会立刻联想到性能强大的通用cpu处理器 专用gpu加速器,只有它们才能提供足够的算力进行训练。不过在推理应用方面,算力需求就没有那么高了,再加上厂商们在软硬件和开发工具上的不断优化,一台轻薄的笔记本如今也能轻松胜任大量ai工作,ai pc的时代正在逐渐到了。比如in...

大语言模型与AI Agent合力推动AI发展

任何人都可以通过ai agent轻松构建字的gpt 这恐怕是刚刚在月日举办的openai上最令人振奋的消息之一。有专业人士分析认为,openai此次发布的gpts和assistants api都算是openai agent化 的一个步伐 gpts算是openai提供的 零 的agent实现方案,而a...

探秘人工智能大语言模型 AskBot大模型

在当前人工智能技术的发展中,大型语言模型是一个备受关注的领域。随着语音识别 图像识别等技术的快速发展,人工智能技术不仅可以与人类进行对话,还可以逐渐理解人类的意图和需求。而在这样的背景下,askbot大模型的出现,将对企业智能化转型产生深远的影响。什么是askbot大模型?askbot大模型是一种由...