我的一畝三分地

            BlogJava :: 首頁(yè) :: 新隨筆 :: 聯(lián)系 :: 聚合  :: 管理 ::
            7 隨筆 :: 0 文章 :: 17 評(píng)論 :: 0 Trackbacks

          2007年7月29日 #

          不少朋友抱怨我的博客晦澀難懂,實(shí)際元數(shù)據(jù)、主數(shù)據(jù)、數(shù)據(jù)質(zhì)量、數(shù)據(jù)分析已經(jīng)非常小眾了,小眾的以至于在ITPUB發(fā)博都找不到分類,實(shí)際這也是我看好它的原因。隨著未來(lái)智慧地球、物聯(lián)網(wǎng)的建設(shè),信息化進(jìn)程大大加快,需要虛擬化云計(jì)算)、IT資源監(jiān)管(數(shù)據(jù)資產(chǎn)、軟硬件資產(chǎn))、移動(dòng)應(yīng)用。我們的小眾是屬于數(shù)據(jù)資產(chǎn)監(jiān)管中的一部分。

          上周挖了不少坑,本周先填一個(gè)坑,填元數(shù)據(jù)模型的坑。元數(shù)據(jù)模型簡(jiǎn)稱元模型。元數(shù)據(jù)有哪幾類元數(shù)據(jù)模型就有幾類,粗分下分為數(shù)據(jù)移動(dòng)(ETL)元數(shù)據(jù)、數(shù)據(jù)分析(BI)元數(shù)據(jù)、數(shù)據(jù)存儲(chǔ)元數(shù)據(jù),數(shù)據(jù)質(zhì)量元數(shù)據(jù)、數(shù)據(jù)管控元數(shù)據(jù)等。下面逐一介紹下這幾類元數(shù)據(jù):

          數(shù)據(jù)存儲(chǔ)元數(shù)據(jù)模型:要分結(jié)構(gòu)化和非結(jié)構(gòu)化兩種介紹,先說(shuō)大家常見(jiàn)的結(jié)構(gòu)化數(shù)據(jù)的元數(shù)據(jù)模型。我們知道描述數(shù)據(jù)庫(kù)信息需要Catalog、Schema、Table、View、Trigger和storage process,當(dāng)然一般把Trigger和SP理解為數(shù)據(jù)移動(dòng),這些元數(shù)據(jù)都有哪些屬性你可以看看power designer。對(duì)于非結(jié)構(gòu)化數(shù)據(jù)解決方案不多,因?yàn)閷?duì)于非結(jié)構(gòu)化數(shù)據(jù)與查詢息息相關(guān),一般針對(duì)索引條件建立元數(shù)據(jù)模型。

          數(shù)據(jù)移動(dòng)元數(shù)據(jù)模型:這一直是我思考的問(wèn)題,參照主流ETL工具我們可以定義Workflow、Task、mapping、source、target等,記得source與target與數(shù)據(jù)存儲(chǔ)元數(shù)據(jù)模型可以互聯(lián)。Mapping要記錄source至target間的轉(zhuǎn)換過(guò)程。

          數(shù)據(jù)應(yīng)用元數(shù)據(jù)模型:主要考慮帶OLAP引擎的CUBE模型,主要有:Cube、Dimension、member Of、Hierarchy、Fact等。

          講到這里,基本解決了的元數(shù)據(jù)管理中元數(shù)據(jù)存儲(chǔ)和展示的問(wèn)題。但這并是問(wèn)題的本質(zhì),實(shí)質(zhì)是元數(shù)據(jù)模型與CWM之間的關(guān)系,但為了避免文章晦澀難懂,我跳過(guò)這些。

          posted @ 2010-09-12 23:15 西北狼 閱讀(198) | 評(píng)論 (0)編輯 收藏

          元數(shù)據(jù)的定義就五字-數(shù)據(jù)的數(shù)據(jù),這種極度抽象的定義直接導(dǎo)致我們對(duì)元數(shù)據(jù)的認(rèn)知是極度抽象的,這種極度抽象就造成了元數(shù)據(jù)的神化,我想接下來(lái)要做的就是將元數(shù)據(jù)拉下神壇。
              元數(shù)據(jù)是數(shù)據(jù)的數(shù)據(jù),我們一般采用數(shù)據(jù)模型對(duì)抽象定義數(shù)據(jù)及數(shù)據(jù)的關(guān)系,那么元數(shù)據(jù)一定也能被數(shù)據(jù)模型表述。那元數(shù)據(jù)的數(shù)據(jù)模型是什么樣的?它與數(shù)據(jù)的數(shù)據(jù)模型有哪些異同。目前元數(shù)據(jù)建模標(biāo)準(zhǔn)體系,我們一般采用OMG(請(qǐng)記住這個(gè)國(guó)際知名的標(biāo)準(zhǔn)化組織,因?yàn)槌嗽獢?shù)據(jù)模型標(biāo)準(zhǔn)外,它們還制定了MDA、UML、XMI等)的CWM標(biāo)準(zhǔn)。那么一個(gè)標(biāo)準(zhǔn)的元數(shù)據(jù)模型體系由什么組成呢,除了包外,每個(gè)元模型由管理、分析、資源、基礎(chǔ)和對(duì)象。管理是指數(shù)據(jù)倉(cāng)庫(kù)操作和過(guò)程;分析是指OLAP、數(shù)據(jù)挖掘、信息可視化、ETL;資源是指對(duì)象、關(guān)系、記錄、多維、XML;基礎(chǔ)是指業(yè)務(wù)信息、數(shù)據(jù)類型、表達(dá)式、鍵和索引、軟件部署、類型映射。介紹了這么如果你搞過(guò)業(yè)務(wù)智能你會(huì)明白CWM描述了整個(gè)數(shù)據(jù)倉(cāng)庫(kù)的全部,如果你參與過(guò)我們的項(xiàng)目會(huì)知道,這是我們數(shù)據(jù)管控平臺(tái)的理論依據(jù)。那么數(shù)據(jù)倉(cāng)儲(chǔ)的元數(shù)據(jù)如何定義?數(shù)據(jù)移動(dòng)的元數(shù)據(jù)如何定義?數(shù)據(jù)分析的元數(shù)據(jù)如何定義?先挖坑以后慢慢填。
               下面說(shuō)說(shuō)元數(shù)據(jù)如何管理如何應(yīng)用:首先是元數(shù)據(jù)獲取,元數(shù)據(jù)獲取的內(nèi)容包括分析元數(shù)據(jù)、數(shù)據(jù)倉(cāng)儲(chǔ)元數(shù)據(jù)、數(shù)據(jù)轉(zhuǎn)換元數(shù)據(jù)等等,元數(shù)據(jù)獲取方式方式包括自動(dòng)獲取或手工獲取,當(dāng)然元數(shù)據(jù)獲取最難的是非結(jié)構(gòu)化元數(shù)據(jù)的獲取,但是也有解決的辦法只是這里存在獲取準(zhǔn)確度的問(wèn)題,為了保證文檔的純潔性,我再次挖坑。其次是元數(shù)據(jù)倉(cāng)儲(chǔ),簡(jiǎn)單的說(shuō)包括數(shù)據(jù)庫(kù)表結(jié)構(gòu)如何存儲(chǔ),CUBE的結(jié)構(gòu)如何存儲(chǔ),ETL過(guò)程如何存儲(chǔ)等等,實(shí)際這是個(gè)模型的問(wèn)題,但這純粹存儲(chǔ)模型的問(wèn)題。同上,我再次挖坑。最后是元數(shù)據(jù)應(yīng)用,包括血緣分析、重要度分析、相似度分析等等。
               最后說(shuō)下元數(shù)據(jù)管理的衍生業(yè)務(wù):一是元數(shù)據(jù)的質(zhì)量管理,這是個(gè)雞和蛋的問(wèn)題,為了保證數(shù)據(jù)質(zhì)量我們引入元數(shù)據(jù)定義數(shù)據(jù)的質(zhì)量,但引入元數(shù)據(jù)后又要保證元數(shù)據(jù)的質(zhì)量;二是基于元數(shù)據(jù)的數(shù)據(jù)倉(cāng)庫(kù)開(kāi)發(fā),同志們baidu都有,我不說(shuō)了;三是基于元數(shù)據(jù)的安全管理,引入元數(shù)據(jù)除解決質(zhì)量問(wèn)題外,就是密級(jí)問(wèn)題;四是基于元數(shù)據(jù)的指標(biāo)體系管理。
                挖了很多坑,終于理出元數(shù)據(jù)的脈絡(luò),當(dāng)然元數(shù)據(jù)管理系統(tǒng)也初見(jiàn)輪廓。
          posted @ 2010-09-11 21:09 西北狼 閱讀(249) | 評(píng)論 (0)編輯 收藏

               摘要: 亂彈數(shù)據(jù)倉(cāng)庫(kù)的第二彈,ODS的功能和作用。希望對(duì)大家有用  閱讀全文
          posted @ 2007-07-29 14:01 西北狼 閱讀(2198) | 評(píng)論 (2)編輯 收藏

          主站蜘蛛池模板: 武夷山市| 江油市| 富顺县| 海原县| 巴南区| 锦州市| 永顺县| 雷波县| 麦盖提县| 巴马| 银川市| 阳东县| 正镶白旗| 石河子市| 拉萨市| 宾阳县| 滦南县| 防城港市| 兖州市| 江都市| 桃园市| 儋州市| 秦皇岛市| 武胜县| 大庆市| 郧西县| 贵南县| 江源县| 会昌县| 汶川县| 乐至县| 大厂| 赞皇县| 博客| 双辽市| 萝北县| 汪清县| 比如县| 鸡泽县| 高雄市| 龙门县|