×

签到

分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

8位量化后网络模型的cpu输出和mlu输出相差很大 xgs07052024-04-02 13:51:53 回复 查看 技术答疑 使用求助 社区交流
8位量化后网络模型的cpu输出和mlu输出相差很大

【星空体育硬件产品型号】MLU270


【使用操作系统】ubuntu18.04


【使用驱动版本】v4.9.2


【出错信息】

8位量化后的cpu精度和mlu逐层精度相差过大。

output = net_mlu(input_mlu).cpu() # mlu推理





版权所有 © 2024 星空体育 备案/许可证号:京ICP备17003415号-1
关闭