当前位置:首页 > 热点关注 > 正文内容

DeepSeek提到的FP8到底是啥 引发AI圈热议

2个月前 (08-22)热点关注53

   DeepSeek提到的FP8到底是啥 引发AI圈热议!DeepSeek V3.1发布后,一则官方留言在AI圈引起轰动。短短不到20个字的留言中提到新的架构和下一代国产芯片,信息量巨大。受此影响,国产芯片企业的股价纷纷上涨,例如寒武纪早盘盘中大涨近14%,总市值跃居科创板头名。半导体ETF也在半天内大涨5.89%。

  

   许多人对UE8M0 FP8这一概念感到困惑。UE8M0 FP8可以拆分为两部分解释。UE8M0是MXFP8路径中的“缩放因子”,而MXFP8是Open Compute Project在2023年发布的8 bit微缩块格式。Open Compute Project是一个由Facebook(现Meta)、英特尔、Rackspace等发起的开源硬件协作计划,旨在通过共享数据中心及服务器设计推动行业效率提升。其成员包括微软、谷歌、亚马逊、AMD、英伟达以及国内的阿里、腾讯、百度等公司。

  

   MXFP8基于FP8建立,将常规浮点格式压缩到8 bit。MXFP8的核心思想是将张量切成固定长度的“块”,为每个块指定一个2的整数次幂作为“缩放因子”,然后将块内所有数值除以这个系数后再写成FP8。这种块级的缩放方式保留了8 bit位宽,同时扩展了可用动态范围。UE8M0中的U表示无符号,E和M分别代表指数位和尾数位分配到的bit数。UE8M0指8个bit全部分配给了指数位。

   采用全指数表示缩放因子的方式有多个好处热点话题。首先,处理器在根据缩放因子复原数据时只需移动指数位,无需进行浮点乘法、规格化或舍入逻辑,缩短了时钟关键路径。此外,UE8M0的动态范围覆盖2^(−127)到2^128,为后续块缩放提供了充足空间。它还能解决单尺度FP8无法同时处理大/小值的问题,减少了信息损失。

  

   UE8M0 FP8更适配“下一代国产芯片”。目前,大部分已量产的国产AI加速器仍使用FP16/BF16 + INT8计算通路,未集成完整的FP8乘加单元。但摩尔线 NPU等新款国产芯片已在宣传资料中列出“原生 FP8”或“Block FP8”支持,并与多家厂商联合验证UE8M0格式。虽然下一代国产芯片在HBM/LPPDDR带宽方面仍有差距,但UE8M0让一组32个FP8数据只追加8bit缩放引子,相比传统FP32节省75%流量,成为重要优化方向。DeepSeek提到的FP8到底是啥 引发AI圈热议 DeepSeek提到的FP8到底是啥 引发AI圈热议

相关文章

女子买彩票中945万上完班才领奖 意外之喜悄然降临

女子买彩票中945万上完班才领奖 意外之喜悄然降临

   4月27日晚,双色球第2025046期开奖,江北区的吕女士凭借一张10元的机选单式票,成功斩获当期1注一等奖,奖金945万元,这是重庆今年的第5注双色球一等奖。  ...

神舟十九号航天员平安抵京 进入隔离恢复期

   今天,圆满完成神舟十九号载人飞行任务的航天员乘组,已平安抵达北京。3名航天员抵京后将进入隔离恢复期,进行全面的医学检查和健康评估,并安排休养。...

电梯内恐吓幼童面具女已道歉 家长诚恳致歉获谅解

电梯内恐吓幼童面具女已道歉 家长诚恳致歉获谅解

   4月28日,福建龙岩龙地华庭小区两名小女孩在电梯内被一名戴面具的女孩阻止关电梯门并多次恐吓。事发后,两名小女孩的母亲向警方报了案。辖区警方当天出警处理此事。   ...

《百家讲坛》 20250502 食物的历史(第一部) 8 玉米养大的帝国

   本期节目主要内容:自明朝传入中国,玉米就以“生命斗士”的姿态在中华大地深深扎根,在炊烟中幻化出千般滋味。从北方热气腾腾的玉米粥,到南方清甜软糯的煮玉米棒,百年沧桑,这份质朴的香甜仍然...

12306回应乘客被困4小时 列车晚点原因未明

12306回应乘客被困4小时 列车晚点原因未明

   5月1日晚,有网友乘坐D7987次列车从哈尔滨前往七台河西。按计划,列车应在20时30分左右到达终点站。然而,列车在出牡丹江站后不久突然停车,且停车时间超过4小时。该网友发文时已是5...

这个五一各地文旅太拼了 创意活动激活假日经济!

   这个五一各地文旅太拼了    【这个五一各地文旅太拼了】近日,“五一”假期,全国文旅市场迎来新一轮热潮。各地文...