Dedian  
          -- 關注搜索引擎的開發
          日歷
          <2006年5月>
          30123456
          78910111213
          14151617181920
          21222324252627
          28293031123
          45678910
          統計
          • 隨筆 - 82
          • 文章 - 2
          • 評論 - 228
          • 引用 - 0

          導航

          常用鏈接

          留言簿(8)

          隨筆分類(45)

          隨筆檔案(82)

          文章檔案(2)

          Java Spaces

          搜索

          •  

          積分與排名

          • 積分 - 65613
          • 排名 - 816

          最新評論

          閱讀排行榜

          評論排行榜

           
          + Webcrawler
          ???
          ??? -- study open source code
          ??? ?? ?? purpose: analyze code structure and basic componences
          ??? ?? ?? focus on: Nutch (http://lucene.apache.org/nutch/)
          ??? ??? ??? ??? ??? & HTMLParser (http://htmlparser.sourceforge.net/)
          ??? ?? ?? ?? ?? ?? ? & GData(http://code.google.com/apis/gdata/overview.html)

          ??? -- understand PageRank idea
          ??? ?? relative articles:
          ??? ?? http://en.wikipedia.org/wiki/PageRank
          ??? ?? http://www.thesitewizard.com/archive/google.shtml
          ?????? paper : "PageRank Uncoverd" by Chris Ridings and Mike Shishigin
          ?????? http://www.rankforsales.com/n-aa/095-seo-may-31-03.html (about Chris Ridings & SEO)
          ??? ?? http://en.wikipedia.org/wiki/Web_crawler (basic idea about crawler)
          ??? ??
          ??? -- familar with RSS & Atom protocol

          ??? -- sample coding:
          ??? ?? Interface: Scheduler for fetching web links
          ??? ?? Interface: Web page paser/Analyzer --> to deal with XML-based websites(Weblogs or news sites, RSS & Atom) --> Paser classes based on SAX parser
          ??? ?? Interface: Retractor/Fetcher --> to get links from page
          ??? ?? Interface: Collector --> check URL whether duplicated and save in URL database with certian data structure
          ??? ?? Interface: InformationProcesser --> PageRank should be one important factor --> (under thinking)
          ??? ?? Interface: Policies(Filter) --> will be served for Collector and InformationProcessor --> (under thinking)

          + Indexer/Searcher (almost done base on Lucene)
          posted on 2006-05-19 09:40 Dedian 閱讀(297) 評論(1)  編輯  收藏
          評論:

          只有注冊用戶登錄后才能發表評論。


          網站導航:
           
           
          Copyright © Dedian Powered by: 博客園 模板提供:滬江博客
          主站蜘蛛池模板: 明溪县| 巴中市| 太白县| 通化县| 新昌县| 新沂市| 嘉黎县| 丰台区| 满城县| 治多县| 临颍县| 喜德县| 墨竹工卡县| 禹城市| 浑源县| 娄底市| 柳林县| 成武县| 偏关县| 资溪县| 巴楚县| 山阴县| 临澧县| 南宫市| 政和县| 梧州市| 罗平县| 贵德县| 绥滨县| 阿尔山市| 新兴县| 桂林市| 县级市| 靖边县| 安远县| 北票市| 兴安盟| 息烽县| 四会市| 新郑市| 开鲁县|