MDA/MDD/TDD/DDD/DDDDDDD
          posts - 536, comments - 111, trackbacks - 0, articles - 0
            BlogJava :: 首頁(yè) :: 新隨筆 :: 聯(lián)系 :: 聚合  :: 管理

          oracle的Number(p,s)的含義

          Posted on 2007-07-03 21:35 leekiang 閱讀(2147) 評(píng)論(0)  編輯  收藏 所屬分類(lèi): oracle

          number(p,s) p:1~38  s:-84~127

          最高整數(shù)位數(shù)=p-s
          s正數(shù),小數(shù)點(diǎn)右邊指定位置開(kāi)始四舍五入
          s負(fù)數(shù),小數(shù)點(diǎn)左邊指定位置開(kāi)始四舍五入
          s是0或者未指定,四舍五入到最近整數(shù)
          當(dāng)p小于s時(shí)候,表示數(shù)字是絕對(duì)值小于1的數(shù)字,且從小數(shù)點(diǎn)右邊開(kāi)始的前s-p 位必須是0,保留s位小數(shù)。

          p>0,對(duì)s分2種情況:
          1. s>0
          精確到小數(shù)點(diǎn)右邊s位,并四舍五入。然后檢驗(yàn)有效數(shù)位是否<=p;如果s>p,小數(shù)點(diǎn)右邊至少有s-p個(gè)0填充。
          2. s<0
          精確到小數(shù)點(diǎn)左邊s位,并四舍五入。然后檢驗(yàn)有效數(shù)位是否<=p+|s|
          比如
          Value     Datatype     Stored Value
          123.2564    NUMBER    123.2564
          1234.9876    NUMBER
          (6,2)    
          1234.99
          12345.12345    NUMBER
          (6,2)    
          Error
          1234.9876    NUMBER
          (6)    
          1235
          12345.345    NUMBER
          (5,-2)    
          12300
          1234567    NUMBER
          (5,-2)    
          1234600
          12345678    NUMBER
          (5,-2)    
          Error
          123456789    NUMBER
          (5,-4)    
          123460000
          1234567890    NUMBER
          (5,-4)    
          Error
          12345.58    NUMBER
          (*, 1)    
          12345.6
          0.1    NUMBER
          (4,5)    
          Error
          0.01234567    NUMBER
          (4,5)    
          0.01235
          0.09999    NUMBER
          (4,5)    
          0.09999
          0.099996    NUMBER
          (4,5)    <>

          主站蜘蛛池模板: 东台市| 平罗县| 綦江县| 赤城县| 麟游县| 大庆市| 九寨沟县| 嘉荫县| 舞阳县| 澳门| 太原市| 嘉黎县| 吐鲁番市| 闽清县| 临泉县| 克山县| 甘南县| 平凉市| 雅江县| 丘北县| 仪征市| 吕梁市| 昌宁县| 蒙阴县| 张家川| 随州市| 西盟| 丁青县| 洪洞县| 昭觉县| 利辛县| 宝兴县| 环江| 青阳县| 高青县| 长阳| 科尔| 河西区| 东乡族自治县| 潮州市| 商城县|