热门搜索:  甜蜜蜜

野兽之道

Former Chinese premier Zhu Rongji passes away at 98_我的网站

私人订制

一 |     8月24日消息,今天下午,小米除了发布玄戒O3之外,还带来了玄戒O100,一款大模型专用的AI加速芯片,更是全球首款6nm 3D晶圆级堆叠的AI加速芯片。

二 |     Former Chinese premier Zhu Rongji died of illness at the age of 98 in Beijing at 11:06 a.m. Wednesday.    Zhu had served as a member of the Standing Committee of the Political Bureau of the 14th and 15th Central Committees of the Communist Party of China (CPC).    An obituary, jointly issued by the CPC Central Committee, the Standing Committee of the National People's Congress, the State Council and the National Committee of the Chinese People's Political Consultative Conference, extolled Zhu as an excellent Party member, a time-tested and loyal communist fighter, and an outstanding proletarian revolutionist, statesman and leader of the Party and the state.                     。    玄戒O100通过先进的3D堆叠工艺,实现了1.22TB/s的超高带宽,这一速度是目前主流旗舰手机的16倍之多,可以让移动端设备的AI性能实现质的突破。玄戒O100与玄戒O3是AI终端的“最佳CP”,最高可以实现本地AI推理速度高达330Tokens/s。     传统计算架构下,计算单元与存储单元物理分离,数据必须在两者之间反复搬运。但内存数据通路受限于物理引脚数量,遇到了增长瓶颈。    当AI算力以指数级增长时,内存访问速度与算力之间已经严重脱节,成为性能的关键阻碍,业界称之为“内存墙”。

三 | 玄戒O100,则是小米“推倒内存墙”的破局之法。     区别于以往晶圆→切割为裸片(Die)→逐片封装互联的方式,玄戒O100采用先进的Wafer on Wafer封装技术,也就是将多片完整的晶圆直接高精度对准与键合,继而再切割成独立的3D芯片。

四 |     这彻底摆脱了传统引脚数量对带宽的物理限制,将数据通路从“平面走线”变为“垂直穿透”,实现真正的近存计算(Near-Memory Computing)。         了解大体逻辑后,我们看看玄戒O100到底如何做的。首先将两层AI专用高速DRAM晶圆与一层高性能NPU晶圆垂直堆叠,然后在垂直方向“钻隧道”让数据可以高速流转。    所以,只要隧道越多,也就可以实现越高的带宽。为此,玄戒O100采用了先进的Hybrid Bonding混合键合工艺,摒弃了传统微凸点(Micro Bump)结构,直接将物理通路的间隔缩短至1.4μm,让数据通路密度大幅提升。              为了进一步缩短DRAM与NPU计算层的物理距离,玄戒O100还采用了 Face to Face(简称F2F)金属层直连结构。

五 |     简单来说,每一层晶圆内部,其实底部是逻辑晶体管,上层有密布多层的金属走线层。F2F,就是让DRAM与NPU的金属走线“面面相对”,如此可以实现更短的物理互联距离,实现更快的信号传输。    当然,这说起来简单,在6nm如此高工艺节点下,要解决散热、电磁干扰等诸多难题,玄戒团队逐一攻坚,实现最终量产,并申请了15项专利,其中已获批4项发明专利。         与此同时,玄戒O100配备了14颗高算力NPU,通过玄戒高带宽矩阵总线,让数据可以在NPU与内存、与其他NPU核心之间等高速流转。     创新的矩阵总线支持拓扑动态切换,Prefill阶段采用环形拓扑,数据逐核流转、顺序同步;Decode阶段切换为广播拓扑,所有结果统一汇聚到指定核心。总线控制上的灵活拓扑,让片上计算资源得以充分应用。

六 |          最终,玄戒O100的带宽达到了惊人的1.22TB/s。大家对这个数字可能没什么概念,以目前主流旗舰手机LPDDR5X内存作为对比,它的带宽76.8GB/s,而玄戒O100是其16倍之多,彻底释放端侧AI性能。         为了验证玄戒O100的高带宽表现,小米工程师还做了一款原型机,搭载玄戒O3和O100,双芯协同计算。

七 | 小米还引入了风冷主动散热,充分发挥芯片的全部性能。配合Xiaomi MiMo端侧模型,实现了超高速端侧推理性能。                   

     【本文结束】如需转载请务必注明出处:      责任编辑:振亭     文章内容举报     

八 |

Current article:http://rbr8o7.cuntoujuefourantapai.cfd/list_8nf/kndlc.html

Published on:02:58:57