节流装置设计中的数值精度与舍入
节流装置设计中的数值精度与舍入
手算或自编表格计算时，过早舍入是常见的精度损失来源。规范的数值处理习惯能保证结果可复现。
- 原则：中间结果不舍入，只在最终输出时按需要的有效位数给出
- d：保留到 0.01 mm（相对精度优于 0.02%）
- Δp：保留到 0.1 kPa 或 1 Pa（视量程而定）
- C：保留 4~6 位小数
- β：保留 4 位小数
- ρ：保留 0.1 kg/m³（气体）或 0.01 kg/m³（液体）
- 温差与压差：Δp/p₁ 的计算尤其要注意有效位数
- 验证：用两种不同精度路径计算，结果差异应远小于不确定度
提示：本平台计算模块内部采用双精度浮点并保留完整中间结果，输出时才按上述规则舍入，可直接使用。
数值精度舍入有效位数计算规范
需要使用文中提到的计算功能？
免费注册 后在个人中心申请开通计算权限，即可使用孔板设计、喷嘴、文丘里、锥形、楔形等全部计算模块并保存计算书。