海量數(shù)據(jù)存儲靠譜石家莊建設(shè)網(wǎng)站一些大型網(wǎng)站單是一個網(wǎng)站就有百萬千萬個頁面，可以想象網(wǎng)上所有網(wǎng)站的頁面加起來是一個什么數(shù)據(jù)量。搜索引擎蜘蛛抓取頁面后，還必須有效存儲這些數(shù)據(jù)，數(shù)據(jù)結(jié)構(gòu)必須合理，具備極高的擴展性，寫入及訪問速度要求也很高。石家莊建設(shè)網(wǎng)站價格除了頁面數(shù)據(jù)，搜索引擎還需要存儲頁面之間的鏈接關(guān)系及大量歷史數(shù)據(jù)，這樣的數(shù)據(jù)量是用戶無法想象的。據(jù)說Google有幾十個數(shù)據(jù)中心，上百萬臺服務(wù)器。這樣大規(guī)模的數(shù)據(jù)存儲和訪問必然存在很多技術(shù)挑戰(zhàn)。

靠譜石家莊建設(shè)網(wǎng)站只有在深入了解搜索引擎蜘蛛爬行原理的基礎(chǔ)上，才能盡量使蜘蛛抓得快而全面。上面所舉的幾個例子，讀者看完搜索引擎原理簡介這一節(jié)后，會有更深入的認識。搜索引擎與目錄，石家莊建設(shè)網(wǎng)站價格早期的網(wǎng)站優(yōu)化資料經(jīng)常把真正的搜索引擎與目錄放在一起討論，甚至把目錄也稱為搜索引擎的一種，這種講法并不準(zhǔn)確。真正的搜索引擎指的是由蜘蛛程序沿著鏈接爬行和抓取網(wǎng)上的大量頁面，存進數(shù)據(jù)庫，經(jīng)過預(yù)處理，用戶在搜索框輸入關(guān)鍵詞后，搜索引擎排序程序從數(shù)據(jù)庫中挑選出符合搜索關(guān)鍵詞要求的頁面。

靠譜石家莊建設(shè)網(wǎng)站由此可見，雖然理論上蜘蛛能爬行和抓取所有頁面，但實際上不能、也不會這么做。網(wǎng)站優(yōu)化人員要想讓自己的更多頁面被收錄，就要想方設(shè)法吸引蜘蛛來抓取。既然不能抓取所有頁面，蜘蛛所要做的就是盡量抓取重要頁面。石家莊建設(shè)網(wǎng)站價格哪些頁面被認為比較重要呢？有幾方面影響因素。網(wǎng)站優(yōu)化網(wǎng)站和頁面權(quán)重。質(zhì)量高、資格老的網(wǎng)站被認為權(quán)重比較高，這種網(wǎng)站上的頁面被爬行的深度也會比較高，所以會有更多內(nèi)頁被收錄。 網(wǎng)站優(yōu)化頁面更新度。

靠譜石家莊建設(shè)網(wǎng)站位置（如頁面第一段文字等）。這樣，每一個頁面都可以記錄為一串關(guān)鍵詞集合，其中每個關(guān)鍵詞的詞頻、格式、位置等權(quán)重信息也都記錄在案。搜索引擎索引程序?qū)㈨撁婕瓣P(guān)鏈詞形成詞表結(jié)構(gòu)存儲進索引庫。石家莊建設(shè)網(wǎng)站價格簡化的索引詞表形式簡化的索引詞表結(jié)構(gòu) 每個文件都對應(yīng)一個文件ID，文件內(nèi)容被表示為一串關(guān)鍵詞的集合。實際上在搜索引擎索引庫中，關(guān)鍵詞也已經(jīng)轉(zhuǎn)換為關(guān)鍵詞ID。這樣的數(shù)據(jù)結(jié)構(gòu)就稱為正向索引。

靠譜石家莊建設(shè)網(wǎng)站實際上用戶并不需要知道所有匹配的幾十萬、幾百萬個頁面，絕大部分用戶只會查看前兩頁，也就是前20個結(jié)果。搜索引擎也并不需要計算這么多頁面的相關(guān)性，而只要計算Z重要的一部分頁面就可以了。常用搜索引擎的人都會注意到，搜索結(jié)果頁面通常Z多顯示100個。石家莊建設(shè)網(wǎng)站價格用戶點擊搜索結(jié)果頁面底部的“下一頁”鏈接，Z多也只能看到第100頁，也就是1000個搜索結(jié)果但問題在于，還沒有計算相關(guān)性時，搜索引擎又怎么知道哪一千個文件是晟相關(guān)的？所以用于Z后相關(guān)性計算的初始頁面子集的選擇，必須依靠其他特征而不是相關(guān)性，其中Z主要的就是頁面權(quán)重。