搜索引擎對(duì)網(wǎng)頁的抓取實(shí)際上就是在互聯(lián)網(wǎng)上進(jìn)行數(shù)據(jù)采集，這是搜索引擎最基礎(chǔ)的工作。搜索引擎的數(shù)據(jù)采集能力直接決定了搜索引擎可提供的信息量及對(duì)互聯(lián)網(wǎng)覆蓋的范圍，從而影響搜索引擎查詢結(jié)果的質(zhì)量。因此，搜索引擎總是想方設(shè)法地提高它的數(shù)據(jù)采集能力。索引擎利用數(shù)據(jù)采集程序在互聯(lián)網(wǎng)上抓取數(shù)據(jù)，我們稱這個(gè)數(shù)據(jù)采集程序?yàn)橹┲氤绦蚧蛘邫C(jī)器人程序。

本文首先會(huì)介紹搜索引擎抓取頁面的流程及方式，再介紹搜索引擎對(duì)已抓取頁面的存儲(chǔ)及維護(hù)方式。

1. 頁面抓取流程

在互聯(lián)網(wǎng)中，URL是每個(gè)頁面的入口地址，搜索引擎蜘蛛程序就是通過URL抓取到頁面的。搜索引擎蜘蛛程序從原始URL列表出發(fā)，通過URL抓取并存儲(chǔ)原始頁面;同時(shí)，提取原始頁面中的URL資源并加入到URL列表中。如此不斷地循環(huán)，就可以從互聯(lián)網(wǎng)中獲取到足夠多的頁面，如圖所示。

圖　搜索引擎抓取頁面簡(jiǎn)單流程

URL是頁面的入口，而域名則是一個(gè)網(wǎng)站的入口。搜索引擎蜘蛛程序通過域名進(jìn)入網(wǎng)站，從而展開對(duì)網(wǎng)站頁面的抓取。換言之，搜索引擎要在互聯(lián)網(wǎng)上抓取到頁面的首要任務(wù)就是建立一個(gè)足夠大的原始域名列表，再通過域名進(jìn)入相應(yīng)的網(wǎng)站，從而抓取這個(gè)網(wǎng)站中的頁面。

而對(duì)于網(wǎng)站來說，如果想要被搜索引擎收錄，首要的條件就是加入搜索引擎的域名列表。下面由南昌網(wǎng)站制作公司百恒網(wǎng)絡(luò)SEO專員向大家介紹兩種常用的加入搜索引擎域名列表的方法。

第一，利用搜索引擎提供的網(wǎng)站登錄入口，向搜索引擎提交網(wǎng)站的域名。例如，Google的網(wǎng)站登錄地址是http://www.google.com/addurl/2。對(duì)于提交的域名列表，搜索引擎只會(huì)定期進(jìn)行更新。因此，這種做法比較被動(dòng)，從域名提交到網(wǎng)站被收錄花費(fèi)的時(shí)間也比較長(zhǎng)。以下是主流中文搜索引擎的網(wǎng)站提交入口。

在實(shí)際中，我們只需要提交網(wǎng)站的首頁地址或者網(wǎng)站的域名，搜索引擎就會(huì)跟蹤首頁中的鏈接去抓取其他頁面。

百度：http://www.baidu.com/search/url_submit.htm。

360：http://info.so.#/site_submit.html。

搜狗：http://www.sogou.com/feedback/urlfeedback.php。

Google：http://www.google.com/addurl/(需要注冊(cè)使開通站長(zhǎng)工具才能提交)。

第二，通過與外部網(wǎng)站建立鏈接關(guān)系，使搜索引擎可以通過外部網(wǎng)站發(fā)現(xiàn)我們的網(wǎng)站，從而實(shí)現(xiàn)對(duì)網(wǎng)站的收錄。這種做法主動(dòng)權(quán)掌握在我們自己的手里(只要我們擁有足夠多高質(zhì)量的鏈接即可)，而且收錄速度也比向搜索引擎主動(dòng)提交要快得多。視乎外部鏈接的數(shù)量、質(zhì)量及相關(guān)性，一般情況下，2～7天左右就會(huì)被搜索引擎收錄。

2. 頁面抓取

通過上面的介紹，相信讀者已經(jīng)掌握了加快網(wǎng)站被搜索引擎收錄的方法。然而，怎樣才能提高網(wǎng)站中頁面被收錄的數(shù)量呢?這就要從了解搜索引擎收錄頁面的工作原理開始。

如果把網(wǎng)站頁面組成的集合看作是一個(gè)有向圖，從指定的頁面出發(fā)，沿著頁面中的鏈接，按照某種特定的策略對(duì)網(wǎng)站中的頁面進(jìn)行遍歷。不停地從URL列表中移出已經(jīng)訪問過的URL，并存儲(chǔ)原始頁面，同時(shí)提取原始頁面中的URL信息;再將URL分為域名及內(nèi)部URL兩大類，同時(shí)判斷URL是否被訪問過，將未被訪問過的URL加入U(xiǎn)RL列表中。遞歸地掃描URL列表，直至耗盡所有URL資源為止。經(jīng)過這些工作，搜索引擎就可以建立龐大的域名列表、頁面URL列表及存儲(chǔ)足夠多的原始頁面。

3. 頁面抓取方式

通過以上內(nèi)容，大家已經(jīng)了解了搜索引擎抓取頁面的流程及原理。然而，在互聯(lián)網(wǎng)數(shù)以億計(jì)的頁面中，搜索引擎怎樣才能從中抓取到更多相對(duì)重要的頁面呢?這就涉及搜索引擎的頁面抓取方式問題。

頁面抓取方式是指搜索引擎抓取頁面時(shí)所使用的策略，目的是為了能在互聯(lián)網(wǎng)中篩選出更多相對(duì)重要的信息。頁面抓取方式的制定取決于搜索引擎對(duì)網(wǎng)站結(jié)構(gòu)的理解。如果使用相同的抓取策略，搜索引擎在同樣的時(shí)間內(nèi)可以在某一網(wǎng)站中抓取到更多的頁面資源，則會(huì)在該網(wǎng)站上停留更長(zhǎng)的時(shí)間，抓取的頁面數(shù)自然也就更多。因此，加深對(duì)搜索引擎頁面抓取方式的認(rèn)識(shí)，有利于為網(wǎng)站建立友好的結(jié)構(gòu)，增加頁面被抓取的數(shù)量。

常見的搜索引擎抓取頁面的方式主要有廣度優(yōu)先、深度優(yōu)先、大站優(yōu)先、高權(quán)重優(yōu)先、暗網(wǎng)抓取及用戶提交等，接下來將詳細(xì)介紹這幾種頁面抓取方式及其優(yōu)缺點(diǎn)。

廣度優(yōu)先

如果把整個(gè)網(wǎng)站看作是一棵樹，首頁就是根，每個(gè)頁面就是葉子。廣度優(yōu)先是一種橫向的頁面抓取方式，先從樹的較淺層開始抓取頁面，直至抓取完同一層次上的所有頁面后才進(jìn)入下一層。因此，在對(duì)網(wǎng)站進(jìn)行優(yōu)化的時(shí)候，我們應(yīng)該把網(wǎng)站中相對(duì)重要的信息展示在層次較淺的頁面上(例如，在首頁上推薦一些熱門產(chǎn)品或者內(nèi)容)。因此，通過廣度優(yōu)先的抓取方式，搜索引擎就可以優(yōu)先抓取到網(wǎng)站中相對(duì)重要的頁面。

我們來看一下廣度優(yōu)先的抓取流程。首先，搜索引擎從網(wǎng)站的首頁出發(fā)，抓取首頁上所有鏈接指向的頁面，形成頁面集合(A)，并解析出集合(A)中所有頁面的鏈接;再跟蹤這些鏈接抓取下一層的頁面，形成頁面集合(B)。就這樣遞歸地從淺層頁面中解析出鏈接，從而抓取深層頁面，直至滿足了某個(gè)設(shè)定的條件后才停止抓取進(jìn)程，如圖所示。

廣度優(yōu)先抓取流程

深度優(yōu)先

與廣度優(yōu)先的抓取方式恰恰相反，深度優(yōu)先是一種縱向的頁面抓取方式，首先跟蹤的是淺層頁面中的某一個(gè)鏈接，從而逐步抓取深層次頁面，直至抓取完最深層次的頁面后才返回淺層頁面繼續(xù)向深層頁面抓取。使用深度優(yōu)先的抓取方式，搜索引擎可以抓取到網(wǎng)站中比較隱蔽、冷門的頁面，這樣才能滿足更多用戶的需求。

我們來看一下深度優(yōu)先的抓取流程。首先，搜索引擎會(huì)抓取網(wǎng)站的首頁，并提取首頁中的鏈接;再沿著其中的一個(gè)鏈接抓取到頁面，同時(shí)提取其中的鏈接;接著，沿著頁面1-1中的一個(gè)鏈接A-1抓取到頁面2-1，同時(shí)提取其中的鏈接;再沿著頁面2-1中的一個(gè)鏈接B-1繼續(xù)抓取更深一層的頁面。這樣遞歸地執(zhí)行，直至抓取到網(wǎng)站最深層的頁面或者滿足了某個(gè)設(shè)定的條件才轉(zhuǎn)回到首頁繼續(xù)抓取，如圖所示。

深度優(yōu)先抓取流程

大站優(yōu)先

由于大型網(wǎng)站比小型網(wǎng)站更有可能提供更多更有價(jià)值的內(nèi)容，因此，如果搜索引擎優(yōu)先抓取大型網(wǎng)站中的網(wǎng)頁，那么就可以在更短的時(shí)間內(nèi)為用戶提供更有價(jià)值的信息。大站優(yōu)先，顧名思義就是對(duì)互聯(lián)網(wǎng)中大型網(wǎng)站的頁面進(jìn)行優(yōu)先抓取，是搜索引擎中的一種信息抓取策略。

怎樣識(shí)別所謂的大型網(wǎng)站呢?一是前期人工整理大站種子資源，通過大站發(fā)現(xiàn)其他的大站;二是對(duì)已經(jīng)索引的網(wǎng)站進(jìn)行系統(tǒng)的分析，從而識(shí)別那些內(nèi)容豐富、規(guī)模較大、信息更新頻繁的網(wǎng)站。

在完成大站識(shí)別后，搜索引擎就會(huì)對(duì)URL資源列表中大站的頁面進(jìn)行優(yōu)先抓取。這也是為什么大型網(wǎng)站往往會(huì)比小站內(nèi)容抓取更及時(shí)的原因之一。 高

權(quán)重優(yōu)先

權(quán)重，簡(jiǎn)單地說就是搜索引擎對(duì)網(wǎng)頁重要性的一種評(píng)定。所謂的重要性歸根到底就是網(wǎng)站或者網(wǎng)頁的信息價(jià)值。

高權(quán)重優(yōu)先是對(duì)URL資源列表中的高權(quán)重網(wǎng)頁進(jìn)行優(yōu)先抓取的網(wǎng)頁抓取策略。網(wǎng)頁權(quán)重(如Google PageRank值)高低往往是由諸多因素決定的，例如，網(wǎng)頁的外部鏈接數(shù)量及質(zhì)量。如果下載一個(gè)URL就重新計(jì)算所有已下載URL資源的權(quán)重值，這樣的效率是極其低下的，顯然是不現(xiàn)實(shí)的。所以，搜索引擎會(huì)傾向于每下載若干URL資源后就對(duì)已下載的URL進(jìn)行權(quán)重計(jì)算(即不完全的權(quán)重計(jì)算)，以此來確定這些URL資源所對(duì)應(yīng)頁面的權(quán)重值，從而對(duì)較高權(quán)重值的網(wǎng)頁進(jìn)行優(yōu)先抓取。

由于權(quán)重計(jì)算是基于部分?jǐn)?shù)據(jù)而得出的結(jié)果，可能會(huì)與真實(shí)權(quán)重有較大出入(即失真)。因此，這種高權(quán)重優(yōu)先的抓取策略也有可能會(huì)對(duì)次要頁面進(jìn)行優(yōu)先抓取。

暗網(wǎng)抓取暗網(wǎng)(又稱作深網(wǎng)、不可見網(wǎng)、隱藏網(wǎng))是指那些存儲(chǔ)在網(wǎng)絡(luò)數(shù)據(jù)庫(kù)里、不能通過超鏈接訪問而需要通過動(dòng)態(tài)網(wǎng)頁技術(shù)或者人工發(fā)起查詢?cè)L問的資源集合，不屬于那些可以被標(biāo)準(zhǔn)搜索引擎索引的信息。

本文僅限內(nèi)部技術(shù)人員學(xué)習(xí)交流,不得作于其他商業(yè)用途.希望此文對(duì)廣技人員有所幫助。原創(chuàng)文章出自:南昌網(wǎng)站建設(shè)公司-百恒網(wǎng)絡(luò)http://m.gimmickmag.com/如轉(zhuǎn)載請(qǐng)注明出處!