教生手怎麼樣開創Robots.txt文件,在高用錢的寬緊前關公面前耍大刀,罪戾!

怎麼樣開創 robots.txt 文件?
您可以在不論什麼文本編輯器中開創此文件。該文件應為 ASCII 編碼的文本文件,而非 HTML 文件。文件名應運用小寫字母。

最簡單的 robots.txt 文件運用兩條規則:
(1)User-Agent: 適合使用下面所開列規則的隨意游玩器
(2)Disallow: 要中途阻擋的網頁

這兩行被視為文件中的一個條目。您可依據需求裡面含有恣意多個條目。您可在一個條目中裡面含有多個 Disallow 行和多個
User-Agent。

應在 User-Agent 行中列出啥子內部實質意義?
user-agent 是特別指定的搜索引擎網站隨意游玩器。網絡隨意游玩器數值庫列出了很多常用隨意游玩器。您可設置應用於特別指定隨意游玩器的條目
(經過列示名字)或設置為應用於全部隨意游玩器(經過列示星號)。應用於全部隨意游玩器的條目應與下面所開列條目大致相似:

User-Agent:*
Google 運用多種不一樣隨意游玩器(用戶攝理)。用於網絡搜索的隨意游玩器是 Googlebot。Googlebot-Mobile 和 Googlebot-
Image 等其它隨意游玩器遵循您為 Googlebot 設置的規則,您還可為這些個特別指定隨意游玩器設置附帶加上規則。

應在 Disallow 行中列出啥子內部實質意義?
Disallow 行列出了您要中途阻擋的網頁。您可列出具體網址或網址標准樣式。條目應以正斜杠開頭 (/) 開頭。

要中途阻擋整個兒網站,請運用正斜扛。

Disallow:/
要中途阻擋目次及那裡面的全部內部實質意義,請在目次名後添加正斜扛。

Disallow:/private_directory/
要中途阻擋網頁,請列出該網頁。

Disallow:/private_file.html
網址區別體積寫。例如:Disallow:/index.htm會中途阻擋 /index.htm,但不
會中途阻擋 /index.htm。

以上內部實質意義是我檢查有關資料總結概括出來的,期望對大家有用!