Javaphua Blog

          BlogJava 首頁(yè) 新隨筆 聯(lián)系 聚合 管理
            46 Posts :: 5 Stories :: 46 Comments :: 0 Trackbacks
          number(p,s)
          p:1~38
          s:-84~127

          p>0,對(duì)s分2種情況分析:

          1. s>0
          精確到小數(shù)點(diǎn)右邊s位,并四舍五入。然后檢驗(yàn)有效數(shù)位是否<=p;如果s>p,小數(shù)點(diǎn)右邊至少有s-p個(gè)0填充。

          2. s<0
          精確到小數(shù)點(diǎn)左邊s位,并四舍五入。然后檢驗(yàn)有效數(shù)位是否<=p+|s|

          (有效數(shù)位:從左邊第一個(gè)不為0的數(shù)算起)
          ?

          Value

          Datatype

          Stored Value

          123.2564

          NUMBER

          123.2564

          1234.9876

          NUMBER(6,2)

          1234.99

          12345.12345

          NUMBER(6,2)

          Error

          1234.9876

          NUMBER(6)

          1235

          12345.345

          NUMBER(5,-2)

          12300

          1234567

          NUMBER(5,-2)

          1234600

          12345678

          NUMBER(5,-2)

          Error

          123456789

          NUMBER(5,-4)

          123460000

          1234567890

          NUMBER(5,-4)

          Error

          12345.58

          NUMBER(*, 1)

          12345.6

          0.1

          NUMBER(4,5)

          Error

          0.01234567

          NUMBER(4,5)

          0.01235

          0.09999

          NUMBER(4,5)

          0.09999

          0.099996

          NUMBER(4,5)

          Error

          posted on 2006-07-25 14:02 Javaphua 閱讀(225) 評(píng)論(0)  編輯  收藏

          只有注冊(cè)用戶登錄后才能發(fā)表評(píng)論。


          網(wǎng)站導(dǎo)航:
           
          主站蜘蛛池模板: 壶关县| 宁远县| 蚌埠市| 秭归县| 余庆县| 德昌县| 凌云县| 加查县| 乐平市| 庆安县| 雷州市| 平和县| 翼城县| 丹凤县| 奉新县| 闻喜县| 柳江县| 微山县| 南开区| 武陟县| 阿拉尔市| 丰顺县| 化隆| 静安区| 资中县| 伊吾县| 本溪| 沛县| 扬州市| 偃师市| 武隆县| 神木县| 察隅县| 合阳县| 双峰县| 微山县| 南丰县| 大丰市| 哈密市| 施秉县| 汨罗市|