靠譜網(wǎng)站推廣文件存儲搜索引擎蜘蛛抓取的數(shù)據(jù)存入原始頁面數(shù)據(jù)庫。其中的頁面數(shù)據(jù)與用戶瀏覽器得到的HTML是完全一樣的。每個URL都有一個獨特的文件編號。爬行時的復(fù)制內(nèi)容檢測網(wǎng)站推廣多少錢 檢測并刪除復(fù)制內(nèi)容通常是在下面介紹的預(yù)處理過程中進行的，但現(xiàn)在的蜘蛛在爬行和抓取文件時也會進行一定程度的復(fù)制內(nèi)容檢測。遇到權(quán)重很低的網(wǎng)站上大量轉(zhuǎn)載或抄襲內(nèi)容時，很可能不再繼續(xù)爬行。這也就是有的站長在日志文件中發(fā)現(xiàn)了蜘蛛，但頁面從來沒有被真正收錄過的原因。

指令處理。靠譜網(wǎng)站推廣查詢詞完成分詞后，搜索引擎的默認處理方式是在關(guān)鍵詞之間使用“與”邏輯。也就是說用戶搜索“減肥方法”時，程序分詞為“減肥”和“方法”兩個詞，搜索引擎排序時默認認為，用戶尋找的是既包含“減肥”，網(wǎng)站推廣多少錢也包含“方法”的頁面。只包含“減肥”不包含“方法”，或者只包含“方法”不包含“減肥”的頁面，被認為是不符合搜索條件的。當(dāng)然，這只是極為簡化的為了說明原理的說法，實際上我們還是會看到只包含一部分關(guān)鍵詞的搜索結(jié)果。

靠譜網(wǎng)站推廣搜索引擎蜘蛛抓取的原始頁面，并不能直接用于查詢排名處理。搜索引擎數(shù)據(jù)庫中的頁面數(shù)都在數(shù)萬億級別以上，用戶輸入搜索詞后，靠排名程序?qū)崟r對這么多頁面分析相關(guān)性，計算量太大，不可能在一兩秒內(nèi)返回排名結(jié)果。網(wǎng)站推廣多少錢因此抓取來的頁面必須經(jīng)過預(yù)處理，為Z后的查詢排名做好準備。和爬行抓取一樣，預(yù)處理也是在后臺提前完成的，用戶搜索時感覺不到這個過程。搜索引擎預(yù)處理首先要做的就是從HTML文件中去除標簽、程序，提取出可以用于排名處理的網(wǎng)頁面文字內(nèi)容。

靠譜網(wǎng)站推廣只有在深入了解搜索引擎蜘蛛爬行原理的基礎(chǔ)上，才能盡量使蜘蛛抓得快而全面。上面所舉的幾個例子，讀者看完搜索引擎原理簡介這一節(jié)后，會有更深入的認識。搜索引擎與目錄，網(wǎng)站推廣多少錢早期的網(wǎng)站優(yōu)化資料經(jīng)常把真正的搜索引擎與目錄放在一起討論，甚至把目錄也稱為搜索引擎的一種，這種講法并不準確。真正的搜索引擎指的是由蜘蛛程序沿著鏈接爬行和抓取網(wǎng)上的大量頁面，存進數(shù)據(jù)庫，經(jīng)過預(yù)處理，用戶在搜索框輸入關(guān)鍵詞后，搜索引擎排序程序從數(shù)據(jù)庫中挑選出符合搜索關(guān)鍵詞要求的頁面。

靠譜網(wǎng)站推廣鏈接關(guān)系計算也是預(yù)處理中很重要的一部分。現(xiàn)在所有的主流搜索引擎排名因素中都包含網(wǎng)頁之間的鏈接流動信息。搜索引擎在抓取頁面內(nèi)容后，必須事前計算出：頁面上有哪些鏈接指向哪些其他頁面，每個頁面有哪些導(dǎo)入鏈接，鏈接使用了什么錨文字，網(wǎng)站推廣多少錢這些復(fù)雜的鏈接指向關(guān)系形成了網(wǎng)站和頁面的鏈接權(quán)重。Google PR值就是這種鏈接關(guān)系的Z主要體現(xiàn)之一。其他搜索引擎也都進行類似計算，雖然它們并不稱為PR。

靠譜網(wǎng)站推廣位置（如頁面第一段文字等）。這樣，每一個頁面都可以記錄為一串關(guān)鍵詞集合，其中每個關(guān)鍵詞的詞頻、格式、位置等權(quán)重信息也都記錄在案。搜索引擎索引程序?qū)㈨撁婕瓣P(guān)鏈詞形成詞表結(jié)構(gòu)存儲進索引庫。網(wǎng)站推廣多少錢簡化的索引詞表形式簡化的索引詞表結(jié)構(gòu) 每個文件都對應(yīng)一個文件ID，文件內(nèi)容被表示為一串關(guān)鍵詞的集合。實際上在搜索引擎索引庫中，關(guān)鍵詞也已經(jīng)轉(zhuǎn)換為關(guān)鍵詞ID。這樣的數(shù)據(jù)結(jié)構(gòu)就稱為正向索引。