怎樣用百度排查已收錄頁面網址的異常?

頁面被百度收錄瞭成千上萬,排名不可觀,天天嚷嚷百度不公平,原創都不收錄,被人傢轉載還排名杠杠的,但是你知道收錄的這些頁面有多少是錯誤頁面嘛?有多少頁面打不開嘛?你花時間去整理錯誤頁面瞭嘛?捫心自問這些問題在大部分網站上面都會出現,隻是站長們都去註重網站排名去瞭,不在意這些細節問題,從不找自身的原因,反而去怪罪百度。

小問題也需要大智慧,處理網站錯誤頁面是百度在網頁優化白皮書提出的重點項目,作為站長的我們應該去發現這些重點,然後根據網站自身的問題去改進問題,提高網頁在百度收錄時遇到錯誤頁面而給與負面影響,同時也給用戶留下好的印象,提升網頁的用戶體驗。作為菜鳥的我給大傢總結瞭從那些方面來找出收錄頁面在百度中的錯誤。

1.服務器錯誤

服務器錯誤最主要的問題就是百度蜘蛛發起抓取網頁的時候,httpcode返回的都是5XX狀態碼,這樣會造成百度抓取不到規范的網頁。造成服務器錯誤的原因有多種:網站處於正在進行維護;該網站有程序出現批量錯誤。最好的解決辦法就是找出程序的錯誤並做出適當的修改,如果是網站正在進行維護,請采用百度站長平臺的閉站保護進行規范後然後再進行操作。

2.訪問被拒絕

訪問被拒絕最主要的問題就是百度蜘蛛發起抓取網頁的時候,httpcode返回的都是403狀態碼,這樣同樣會造成百度蜘蛛抓取不到規范的網頁。造成訪問被拒絕的原因也有多種:網站權限受限制;IP地址被拒絕;服務器流量超負荷。這幾種錯誤原因解決辦法也很容易,找出網頁所在目錄給與百度蜘蛛足夠的權限去抓取頁面,查看百度蜘蛛的IP地址是否被封禁,服務器流量過大的話那就升級服務器。

3.找不到頁面

找不到頁面最主要的問題就是百度蜘蛛發起抓取網頁的時候,httpcode返回的都是404狀態碼,這種錯誤是網頁最主要的,幾乎所有的網站都有這種頁面存在。造成找不到頁面的原因可以列舉一大把:過期的團購網頁;誤刪數據庫;論壇垃圾帖子刪除。其實這些問題能夠輕而易舉的就解決瞭,建立合適的404頁面,遇到404狀態碼就返回404頁面。

4.其他錯誤

其他錯誤包括的項目就比較多瞭,但問題大概還是差不多的,就是百度蜘蛛抓起網頁的時候httpcode返回的4XX狀態碼,除瞭403和404之外的其他狀態碼。這種問題的來源也是蠻多的:請求的URL太長【參數太多】;要求驗證身份;不支持的媒體類型;瀏覽器不接收所請求的頁面。解決這些問題比較復雜,URL過長的話需要解決參數的排序位置,身份驗證的就要從部分網站權限控制和其他程序問題來控制瞭,媒體類型盡量做到每個類型就覆蓋到自己的網站。

總之,運用好百度站長平臺的抓取異常這個欄目選項,你就能找到百度蜘蛛在抓取網頁的時候遇到的瓶頸,解決掉這些對蜘蛛爬取的有阻攔的問題,你就能把所有在百度已經收錄的頁面統計出來,然後根據不同的問題解決掉就可以瞭。網站抓取問題解決瞭,百度收錄量就會duang,duang,duang的瘋漲瞭。老板再也不擔心我的網站收錄數據差瞭。

本文有米大白首發原創,轉載請註明來源佈谷網