TinyML —— 模型量化(quantization)

模型量化（quantization）是一种技术，其核心在于使用较少的位数来表示模型参数，以此实现模型大小的减小与推理过程的加速。常见的量化方式包括线性量化（或仿射量化），即对浮点数（通常为fp32）进行缩放，使之在指定的范围内表示，如8位等。量化公式为：q = round((r - r_min) / (r_max - r_mi...

[企业回答]