Javaphua Blog

          BlogJava 首頁 新隨筆 聯(lián)系 聚合 管理
            46 Posts :: 5 Stories :: 46 Comments :: 0 Trackbacks
          number(p,s)
          p:1~38
          s:-84~127

          p>0,對s分2種情況分析:

          1. s>0
          精確到小數(shù)點右邊s位,并四舍五入。然后檢驗有效數(shù)位是否<=p;如果s>p,小數(shù)點右邊至少有s-p個0填充。

          2. s<0
          精確到小數(shù)點左邊s位,并四舍五入。然后檢驗有效數(shù)位是否<=p+|s|

          (有效數(shù)位:從左邊第一個不為0的數(shù)算起)
          ?

          Value

          Datatype

          Stored Value

          123.2564

          NUMBER

          123.2564

          1234.9876

          NUMBER(6,2)

          1234.99

          12345.12345

          NUMBER(6,2)

          Error

          1234.9876

          NUMBER(6)

          1235

          12345.345

          NUMBER(5,-2)

          12300

          1234567

          NUMBER(5,-2)

          1234600

          12345678

          NUMBER(5,-2)

          Error

          123456789

          NUMBER(5,-4)

          123460000

          1234567890

          NUMBER(5,-4)

          Error

          12345.58

          NUMBER(*, 1)

          12345.6

          0.1

          NUMBER(4,5)

          Error

          0.01234567

          NUMBER(4,5)

          0.01235

          0.09999

          NUMBER(4,5)

          0.09999

          0.099996

          NUMBER(4,5)

          Error

          posted on 2006-07-25 14:02 Javaphua 閱讀(225) 評論(0)  編輯  收藏

          只有注冊用戶登錄后才能發(fā)表評論。


          網(wǎng)站導航:
           
          主站蜘蛛池模板: 福州市| 鄂温| 磐石市| 邵东县| 德州市| 鄂托克前旗| 兴业县| 拉孜县| 黔东| 海淀区| 辽宁省| 浙江省| 应城市| 苏尼特右旗| 潞城市| 昌图县| 松原市| 台北市| 郎溪县| 武功县| 长葛市| 龙陵县| 凉城县| 句容市| 会宁县| 永修县| 阳朔县| 阳泉市| 鄂托克前旗| 上杭县| 祁阳县| 兴义市| 永仁县| 芦山县| 宁强县| 贵州省| 襄樊市| 葫芦岛市| 潞城市| 商洛市| 桓台县|