TOPS & FLOPS

TOPS 是什么
TOPS = Tera Operations Per Second,每秒万亿次运算,衡量 AI 算力的单位。

FLOPS = Floating-Point Operations Per Second（每秒浮点运算次数），也是衡量计算速度的单位，但专门针对浮点数（小数）运算。

• 训练大模型 → 看 FLOPS（FP16/BF16），需要高精度梯度计算
• 部署/推理模型 → 看 TOPS（INT8），量化后速度快、省内存

（Orin Nano Super = 67 TOPS(INT8)）