我是靠谱客的博主 难过面包,这篇文章主要介绍IDL科学计数法乘方注意事项,现在分享给大家,希望可以做个参考。

c1=1.4385* 10^4
c2=1.189* 10^8
在命令行里输入上述变量:

复制代码
1
2
3
IDL> c1=1.4385*10^4 IDL> c2=1.189*10^8

结果查看:

复制代码
1
2
3
4
5
IDL> c1 14385.000 IDL> c2 -9435.9043

c2明显是错误的,且不是由于位数太多而显示为负数.

正确的输入方式是:

复制代码
1
2
3
4
5
6
7
IDL> c1=1.4385*10.0^4 IDL> c2=1.189*10.0^8 IDL> c1,c2 14385.000 1.1890000e+008 IDL>

所以科学计数的时候,千万要输入10.0,而不是10

最后

以上就是难过面包最近收集整理的关于IDL科学计数法乘方注意事项的全部内容,更多相关IDL科学计数法乘方注意事项内容请搜索靠谱客的其他文章。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(89)

评论列表共有 0 条评论

立即
投稿
返回
顶部