推薦：即使一個大學生屌絲 心中也有一個seo夢
最近這幾天，我利用空閑時間去網(wǎng)上看到很多關于seoer的生存現(xiàn)狀，尤為的感傷、因為自已也是一位愛好seo和利用閑于時間來學習seo的一個大學生屌絲，在學習的過程中，有辛酸

第一階段：大小通吃

搜索引擎的網(wǎng)頁抓取都是采取「大小通吃」的策略，也就是把網(wǎng)頁中能發(fā)現(xiàn)的鏈接逐一加入到待抓取URL中，機械性的將新抓取的網(wǎng)頁中的URL提取出來，這種方式雖然比較古老，但效果很好，這就是為什么很多站長反應蜘蛛來訪問了，但沒有收錄的原因，這僅僅是第一階段。

第二階段：網(wǎng)頁評級

而第二階段則是對網(wǎng)頁的重要性進行評級，PageRank是一種著名的鏈接分析算法，可以用來衡量網(wǎng)頁的重要性，很自然的，站長可以用PageRank的思路來對URL進行排序，這就是各位熱衷的「發(fā)外鏈」，據(jù)一位朋友了解，在中國「發(fā)外鏈」這個市場每年有上億元的規(guī)模。    

爬蟲的目的就是去下載網(wǎng)頁，但PageRank是個全局性算法，也就是當所有網(wǎng)頁有下載完成后，其計算結(jié)果才是可靠的。對于中小網(wǎng)站來講，服務器如果質(zhì)量不好，如果在抓取過程中，只看到部分內(nèi)容，在抓取階段是無法獲得可靠的PageRank得分。

第三階段：OCIP策略

OCIP策略更像是PageRank算法的改進。在算法開始之前，每個網(wǎng)頁都給予相同的「現(xiàn)金」，每當下載某個頁面A后，A將自己的「現(xiàn)金」平均分給頁面中包含的鏈接頁面，把自己的「現(xiàn)金」清空。這就是為什么導出的鏈接越少，權重會越高的原因之一。

而對于待抓取的網(wǎng)頁，會根據(jù)手頭擁有的現(xiàn)金多少排序，優(yōu)先下載現(xiàn)金最充裕的網(wǎng)頁，OCIP大致與PageRank思路一致，區(qū)別在于：PageRank每次要迭代計算，而OCIP則不需要，所以計算速度遠遠快于PageRank，適合實時計算使用。這可能就是為什么很多網(wǎng)頁會出現(xiàn)「秒收」的情況了。

第四階段：大站優(yōu)先策略。

大站優(yōu)先的思路很直接，以網(wǎng)站為單位來衡量網(wǎng)頁的重要性，對于待抓取的URL隊列中的網(wǎng)頁，根據(jù)所述網(wǎng)站歸類，如果哪個網(wǎng)站等待下載的頁面最多，則優(yōu)先下載這些鏈接。其本質(zhì)思想是「傾向于優(yōu)先下載大型網(wǎng)站URL」。因為大型網(wǎng)站往往包含更多的頁面。鑒于大型網(wǎng)站往往是名站，其網(wǎng)頁質(zhì)量一般較高，所以這個思路雖然簡單，但有一定依據(jù)。

實驗表明這個算法雖然簡單粗暴，但卻能收錄高質(zhì)量網(wǎng)頁，很有效果。這也是為什么許多網(wǎng)站的內(nèi)容被轉(zhuǎn)載后，大站卻能排到你前面的最重要原因之一。

許余波博客：http://xuyubo.cn，轉(zhuǎn)載請注明！

分享：史上最全面的百度蜘蛛詳解 你不得不看！
Baiduspider是百度搜索引擎的一個自動程序，它的作用是訪問互聯(lián)網(wǎng)上的網(wǎng)頁，建立索引數(shù)據(jù)庫，使用戶能在百度搜索引擎中搜索到您網(wǎng)站上的網(wǎng)頁。