牛骨文教育服务平台(让学习变的简单)
博文笔记

oracle number数据类型的精度

创建时间:2016-02-15 投稿人: 浏览次数:1787
1、number(p,s)

   p: 1---38
   s: -84---127
   a、s > 0 (精确到小数点右边 s 位,并四舍五入 。然后检验有效数位是否 <= p)
      例如:number(5,2) 有效数字最多是5位,保留小数点后2位;
      123.45  --  123.45
      123     --  123.00
      1.2356  --  1.24
      0.001   --  0.00
   b、s < 0 (精确到小数点左边 s 位,并四舍五入 。然后检验有效数位是否 <= p + |s|)
      例如:number(5,-2) 小数点左边最后2位四舍五入,最多7位有效数字
      123456        --  123460
      1234567.6789  --  1234600
      1             --  0    
  总结:在 p < s 这种情况下 只能用来存放大于0小于1的小数。
        在 p > s 这种情况下 小数点前最多只能插入:p - s个数字,但小数点后的数字可以是任意长度(保存时会四舍五入)
声明:该文观点仅代表作者本人,牛骨文系教育信息发布平台,牛骨文仅提供信息存储空间服务。