当前位置:首页 > 热点关注 > 正文内容

DeepSeek提到的FP8到底是啥 引发AI圈热议

2周前 (08-22)热点关注28

   DeepSeek提到的FP8到底是啥 引发AI圈热议!DeepSeek V3.1发布后,一则官方留言在AI圈引起轰动。短短不到20个字的留言中提到新的架构和下一代国产芯片,信息量巨大。受此影响,国产芯片企业的股价纷纷上涨,例如寒武纪早盘盘中大涨近14%,总市值跃居科创板头名。半导体ETF也在半天内大涨5.89%。

  

   许多人对UE8M0 FP8这一概念感到困惑。UE8M0 FP8可以拆分为两部分解释。UE8M0是MXFP8路径中的“缩放因子”,而MXFP8是Open Compute Project在2023年发布的8 bit微缩块格式。Open Compute Project是一个由Facebook(现Meta)、英特尔、Rackspace等发起的开源硬件协作计划,旨在通过共享数据中心及服务器设计推动行业效率提升。其成员包括微软、谷歌、亚马逊、AMD、英伟达以及国内的阿里、腾讯、百度等公司。

  

   MXFP8基于FP8建立,将常规浮点格式压缩到8 bit。MXFP8的核心思想是将张量切成固定长度的“块”,为每个块指定一个2的整数次幂作为“缩放因子”,然后将块内所有数值除以这个系数后再写成FP8。这种块级的缩放方式保留了8 bit位宽,同时扩展了可用动态范围。UE8M0中的U表示无符号,E和M分别代表指数位和尾数位分配到的bit数。UE8M0指8个bit全部分配给了指数位。

   采用全指数表示缩放因子的方式有多个好处热点话题。首先,处理器在根据缩放因子复原数据时只需移动指数位,无需进行浮点乘法、规格化或舍入逻辑,缩短了时钟关键路径。此外,UE8M0的动态范围覆盖2^(−127)到2^128,为后续块缩放提供了充足空间。它还能解决单尺度FP8无法同时处理大/小值的问题,减少了信息损失。

  

   UE8M0 FP8更适配“下一代国产芯片”。目前,大部分已量产的国产AI加速器仍使用FP16/BF16 + INT8计算通路,未集成完整的FP8乘加单元。但摩尔线 NPU等新款国产芯片已在宣传资料中列出“原生 FP8”或“Block FP8”支持,并与多家厂商联合验证UE8M0格式。虽然下一代国产芯片在HBM/LPPDDR带宽方面仍有差距,但UE8M0让一组32个FP8数据只追加8bit缩放引子,相比传统FP32节省75%流量,成为重要优化方向。DeepSeek提到的FP8到底是啥 引发AI圈热议 DeepSeek提到的FP8到底是啥 引发AI圈热议

相关文章

男子每卖一碗牛肉面就捐1角钱给老兵:还免费培训12名退役军人帮助他们开店

男子每卖一碗牛肉面就捐1角钱给老兵:还免费培训12名退役军人帮助他们开店

   男子每卖一碗牛肉面就捐1角钱给老兵。4月29日,湖北襄阳。许海是一名退役老兵,2024年10月开办小战友襄阳牛肉面馆,30多名员工中有6名退役军人。他还免费培训12名退役军人,帮助他...

永辉超市回应反向抹零:10倍赔偿 将按实际分位差额的10倍进行补偿!

   永辉超市回应反向抹零:10倍赔偿    【永辉超市回应反向抹零:10倍赔偿】 2025年5月1日,永辉超市针对...

美国环保署宣称将削减员工 至1980年来最低水平

   当地时间5月2日,美国环保署宣布将裁减员工至1980年以来的最低水平,并削减3亿美元预算。...

长沙橘子洲景区连续数日预约已满 五一游客激增

长沙橘子洲景区连续数日预约已满 五一游客激增

   五一小长假即将来临,长沙将迎来大量游客。据长沙南站消息,4月30日预计有17.3万人次到达长沙,同比增长14.8%;5月1日预计22万人次旅客到达,同比增长26.08%。这两天将有近...

勇士火箭抢七 决战一触即发

勇士火箭抢七 决战一触即发

   在NBA季后赛首轮的一场比赛中,火箭以115-107击败勇士,连胜两场将总比分追至3-3。接下来的抢七大战将在5月5日早上8:30进行。   ...

北京今天白天多云转阴,傍晚西部有小雨,最高气温24℃ 夜间至明日有降雨

   北京市气象台4日6时发布天气预报,今天白天多云转阴,傍晚西部地区将出现小雨,风向从北转南,风力为二到四级,最高气温24℃。夜间阴天并伴有小雨,风向由南转北,风力一到二级,最低气温11...