点击查看详细介绍

问题:关于获取指定点小数点后位数的问题? 已解决

Chenyw VIP会员 6年前 1839 4

购买与咨询 NX 二次开发视频教程,请联系微信号:13890821008  QQ号:85585969  


1、自己做的获取点信息,最多只有小数点后六位

1.jpg


2、而系统所获取的点信息可以精确到小数点后9位,请问这个可以用代码控制吗


2.jpg

0

最新回复 (4)
  • nxopen 6年前
    1

    在C++中,默认精度是6位。需要设置精度才能输出你想要的位数。设置精度方法cout << setprecision(9) << i.你后面的变量就能以9位精度输出了。

    而在C中,使用sprintf,用%.9lf应该可以实现9位精度。


    我没有试过,只是理论上应该是可以的。我一般最多用到小数后3位。

  • Chenyw VIP会员 6年前
    2

    谢谢版主,这个问题已经解决

  • 王牌飞行员 VIP会员 6年前
    3

    这个问题我也遇到过,正如版主所说。sprintf函数double转换为char*的时候默认保留6位小数,写成sprintf(charOffsetFaceB,"%.12f",douOffsetFaceB);就可以保留12位小数了。

    每天学习一篇帖子,ID:王牌飞行员打卡-20190716。

  • q574944402 6年前
    4

    谢谢版主,这个问题已经解决

请登录后发表新帖