Javaphua Blog

          BlogJava 首頁 新隨筆 聯系 聚合 管理
            46 Posts :: 5 Stories :: 46 Comments :: 0 Trackbacks
          number(p,s)
          p:1~38
          s:-84~127

          p>0,對s分2種情況分析:

          1. s>0
          精確到小數點右邊s位,并四舍五入。然后檢驗有效數位是否<=p;如果s>p,小數點右邊至少有s-p個0填充。

          2. s<0
          精確到小數點左邊s位,并四舍五入。然后檢驗有效數位是否<=p+|s|

          (有效數位:從左邊第一個不為0的數算起)
          ?

          Value

          Datatype

          Stored Value

          123.2564

          NUMBER

          123.2564

          1234.9876

          NUMBER(6,2)

          1234.99

          12345.12345

          NUMBER(6,2)

          Error

          1234.9876

          NUMBER(6)

          1235

          12345.345

          NUMBER(5,-2)

          12300

          1234567

          NUMBER(5,-2)

          1234600

          12345678

          NUMBER(5,-2)

          Error

          123456789

          NUMBER(5,-4)

          123460000

          1234567890

          NUMBER(5,-4)

          Error

          12345.58

          NUMBER(*, 1)

          12345.6

          0.1

          NUMBER(4,5)

          Error

          0.01234567

          NUMBER(4,5)

          0.01235

          0.09999

          NUMBER(4,5)

          0.09999

          0.099996

          NUMBER(4,5)

          Error

          posted on 2006-07-25 14:02 Javaphua 閱讀(226) 評論(0)  編輯  收藏

          只有注冊用戶登錄后才能發表評論。


          網站導航:
           
          主站蜘蛛池模板: 庄河市| 乐至县| 西乡县| 原平市| 高台县| 麻江县| 嫩江县| 岐山县| 嘉善县| 太康县| 洛扎县| 武清区| 大同市| 盱眙县| 绥芬河市| 潜江市| 中方县| 平乐县| 沅陵县| 米易县| 鄄城县| 泉州市| 永和县| 绥滨县| 焉耆| 临西县| 龙里县| 台前县| 沁源县| 弥渡县| 滁州市| 遵义市| 黄骅市| 宜州市| 佛学| 徐汇区| 沾化县| 深圳市| 育儿| 藁城市| 河北省|