tensorrt+fp16结果一半0

2020年NVIDIA推出的Ampere架构GPU引入了第三代TensorCore，支持专为加速Inference设计的TF32格式。用户升级TensorRT至7.1及以上版本，可直接在TF32模型上应用TF32优化，为FP16和INT8之外提供了新的选择。理解TF32，需从浮点运算谈起。从数轴出发，计算机需定义一种数据格式来存储数轴上的点，并权衡精度取舍...