NVIDIA要用上X3D堆叠设计!下代GPU将引入LPU单元
虽然NVIDIA目前在AI训练领域无可匹敌,用上引入元但面对日益增长的堆叠U单即时推理需求,其正筹划一项足以改变行业格局的设计“秘密武器”。
据AGF透露,下代NVIDIA计划在2028年推出的用上引入元Feynman(费曼)架构GPU中,整合来自Groq公司的堆叠U单LPU(语言处理单元),以大幅提升AI推理性能。设计
Feynman架构将接替Rubin架构,下代采用台积电最先进的用上引入元A16(1.6nm)制程,为了突破半导体物理限制,堆叠U单NVIDIA计划利用台积电的设计SoIC混合键合技术,将专为推理加速设计的下代LPU单元直接堆叠在GPU之上。

这种设计类似于AMD的堆叠U单3D V-Cache技术,但NVIDIA堆叠的设计不是普通缓存,而是专为推理加速设计的LPU单元。
设计的核心逻辑在于解决SRAM的微缩困境,在1.6nm这种极致工艺下,直接在主芯片集成大量SRAM成本极高且占用空间。
通过堆叠技术,NVIDIA可以将运算核心留在主芯片,而将需要大量面积的SRAM独立成另一层芯片堆叠上去。
台积电的A16制程一大特色是支持背面供电技术,这项技术可以腾出芯片正面的空间,专供垂直信号连接,确保堆叠的LPU能以极低功耗进行高速数据交换。

结合LPU的“确定性”执行逻辑,未来的NVIDIA GPU在处理即时AI响应(如语音对话、实时翻译)时,速度将实现质的飞跃。
不过这也存在两大潜在挑战,分别是散热问题和CUDA兼容性难题,在运算密度极高的GPU 再加盖一层芯片,如何避免“热当机”是工程团队的头号难题。
同时LPU强调“确定性”执行顺序,需要精确的内存配置,而CUDA生态则是基于硬件抽象化设计的,要让这两者完美协同,需要顶级的软件优化。
(责任编辑:知识)
-
导读: 重疾险的保费对于每个家庭来说是一笔不小的支出,因此3000元左右普遍是大众所能接受的价位。那么3000元左右的重疾险有用吗?300
...[详细]
-
截至2018年底,全国光伏发电装机达到1.74亿千瓦,较上年新增4426万千瓦,同比增长34%。其中,集中式电站12384万千瓦,较上年新增2330万千瓦,同比增长23%;分布式光伏5061万千瓦,较
...[详细]
-
近日,2017福布斯全球富豪榜发布,晋江企业家施文博、许连捷、丁世家、丁世忠及其家族、林天福、黄文集及其家族上榜。在今年的福布斯全球富豪榜,晋江企业家排名前三的分别是:施文博、许连捷都以净资产22亿美
...[详细]
-
4月19日华东地区纯碱价格暂稳,现轻质纯碱出厂1850-1900元/吨,重质纯碱送到执行1900-2000元/吨。下游多按需拿货,价格暂无调整,供需维持平衡,预计后期市场行情走稳为主。
...[详细]
-
你熟悉的豆包,变了。6月24日,豆包发布基于最新豆包2.1系列大模型的豆包专业版。过去大家用 AI,常见姿势是:问问题、写文案、改稿子、做总结、生成图片。AI 给一段答案,后面的复制、整理、排版、填表
...[详细]
-
发布者:梦珂 阅读次数:1722发布时间:2020/6/23 19:06:55 从冰红茶到绿茶,从小茗同学到茶π,茶饮行业的“后浪”一直在滚滚而来,而今年尤其的波涛汹涌。据统
...[详细]
-
永春一名村民4月8日去山上挖笋,无意间发现了一块类似石头的奇怪东西。她好奇地用石头砸了两下,没想到这块“怪石”向外溢出像血一样的红色液体。“从没见过这种东西,这到底
...[详细]
-
新华社北京8月30日电日本执政党自由民主党福冈县分支机构逼迫成员“进贡”大额资金的丑闻持续发酵。据日本媒体30日报道,继福冈县议长藏内勇夫辞职后,另一名涉事官员、自民党福冈县支
...[详细]
-
导读: 市面上有不少专门为儿童的设计的重疾险产品,其保障内容与保费,大同小异。那么,儿童重疾险交多少钱一年?儿童重疾险一年交多少钱?这还是
...[详细]
-
2019年4月15日中国玻璃综合指数1089.42点,环比上涨0.54点;中国玻璃售价趋势1110.48点,环比上涨0.52点;中国玻璃信心指数1005.17点,环比上涨0.65点。周末以来玻璃现货市
...[详细]

以科技与基普乔格共同赋能跑者,华为WATCH GT Runner 2赛道传奇款发布
3位热心少年救助受伤猫头鹰 获民警点赞
GTA6偷车机制迎25年来最大革新 操作难度全面提升
又有爆料人称任天堂正与R星合作!《GTA6》真要登陆Switch 2
2018年8月17日浮法玻璃产能利用率,产业数据
