Javaphua Blog

          BlogJava 首頁 新隨筆 聯系 聚合 管理
            46 Posts :: 5 Stories :: 46 Comments :: 0 Trackbacks
          number(p,s)
          p:1~38
          s:-84~127

          p>0,對s分2種情況分析:

          1. s>0
          精確到小數點右邊s位,并四舍五入。然后檢驗有效數位是否<=p;如果s>p,小數點右邊至少有s-p個0填充。

          2. s<0
          精確到小數點左邊s位,并四舍五入。然后檢驗有效數位是否<=p+|s|

          (有效數位:從左邊第一個不為0的數算起)
          ?

          Value

          Datatype

          Stored Value

          123.2564

          NUMBER

          123.2564

          1234.9876

          NUMBER(6,2)

          1234.99

          12345.12345

          NUMBER(6,2)

          Error

          1234.9876

          NUMBER(6)

          1235

          12345.345

          NUMBER(5,-2)

          12300

          1234567

          NUMBER(5,-2)

          1234600

          12345678

          NUMBER(5,-2)

          Error

          123456789

          NUMBER(5,-4)

          123460000

          1234567890

          NUMBER(5,-4)

          Error

          12345.58

          NUMBER(*, 1)

          12345.6

          0.1

          NUMBER(4,5)

          Error

          0.01234567

          NUMBER(4,5)

          0.01235

          0.09999

          NUMBER(4,5)

          0.09999

          0.099996

          NUMBER(4,5)

          Error

          posted on 2006-07-25 14:02 Javaphua 閱讀(226) 評論(0)  編輯  收藏

          只有注冊用戶登錄后才能發表評論。


          網站導航:
           
          主站蜘蛛池模板: 冷水江市| 鄢陵县| 永嘉县| 仁寿县| 谷城县| 肇东市| 清远市| 南充市| 涞水县| 吉林市| 金溪县| 濮阳县| 宜兴市| 平阳县| 濉溪县| 庐江县| 乐山市| 丰都县| 海丰县| 惠州市| 玉溪市| 金昌市| 舟曲县| 牟定县| 兴仁县| 玉山县| 耿马| 建始县| 鸡泽县| 灵山县| 和顺县| 措美县| 新巴尔虎左旗| 长沙市| 扎囊县| 友谊县| 衡东县| 乌苏市| 凌源市| 新泰市| 昌乐县|