欢迎光临
我们一直在努力

fp16 的累加误差有多大

最近在项目中需要实现fp16的数据类型做FFN的计算,算子实现的同学反馈误差与x86上得到的golden数据有比较大误差。开始以为是x86侧做数值模拟仿真的问题。后面也实现了对比了一下,发现误差累计确实挺大。

赞(0)
未经允许不得转载:小狮博客 » fp16 的累加误差有多大
分享到: 更多 (0)