不,llms.txt 並不會取代 robots.txt 或 sitemap.xml。這三個檔案在公開網站上各自解決不同的工作。robots.txt 用於表達參與式爬蟲的抓取偏好,sitemap.xml 用於列出可建立索引的 URL 以利搜尋探索,而 llms.txt 則提供一份簡短、策展過的 Markdown 總覽,列出在推論時供語言模型使用的最高價值資源。llms.txt 是一項新興的提案,記錄於 llmstxt.org 及相關參考儲存庫中,並非強制執行的網頁標準。它無法授存取權給受封鎖的頁面、無法覆寫驗證機制、無法將內容從模型訓練中移除,也無法證明任何 AI 助理會引用其中連結的資料。發佈它並不會讓你現有的 robots.txt 規則失效,搜尋引擎仍會繼續依其自身規則讀取你的 sitemap.xml。正確的心態模型是「附加」而非「取代」:完全保留你的 robots.txt 與 sitemap.xml,將 llms.txt 視為一旁的小型編輯地圖,並將此區別記錄下來,以免你的團隊、CMS 作者角色以及未來的自動化流程誤以為新檔案會淘汰舊檔案。

does llms txt replace robots txt or sitemap xml when using llms txt file example
llms.txt 是否會取代 robots.txt 或 sitemap.xml?完整說明

用白話解釋 llms.txt

llms.txt 檔案是一份小型 Markdown 文件,遵循一份已記錄的提案:一個必要的 H1 標題(包含網站或專案名稱)、一個選擇性的區塊引言摘要、選擇性的說明細節,以及零個或多個 H2 段落。每個 H2 段落群組 Markdown 清單項目,其核心元素為一個連結,後面可選擇性地加上冒號與一段簡短說明,描述連結資源的內容。此檔案的設計目的是要對語言模型與一般 Markdown 解析器都具可預測性,這就是為什麼順序是固定的:先 H1、再選擇性的摘要、再任何自由格式的細節、最後是 H2 連結段落。提案中的一項慣例保留一個名為「Optional」的 H2,給次要的素材使用,讓消費者在只需要較短脈絡時可略過。

此檔案的重點在於策展,而非涵蓋範圍。在大型網站上列出所有頁面的長長清單,會重蹈大型 sitemap 的過載問題,並浪費消費者的脈絡窗口。最值得填入的角色包括規範性文件、產品說明、政策,以及穩定的參考頁面;如果網站穩定地提供這些頁面的 Markdown 版本,請優先連結到這些版本,而非仍需工具轉換的 HTML 頁面。有疑義時,請優先選擇「規範、公開、穩定」而非「新增、動態」。

llms.txt 是自願性、新興的,且並非排名訊號。發佈它並不會強制爬蟲或助理去請求它,也沒有任何廠商認證此檔案會影響搜尋排名或模型行為。此一界線是提案誠實框架的一部分,也是本文聚焦於檔案角色而非承諾的原因。

robots.txt 及其仍掌控的事項

數十年來,robots.txt 一直是表達抓取偏好的標準方式。它位於網站根目錄,使用簡單的 Allow 與 Disallow 指令,並由合規的爬蟲讀取,包括主要搜尋引擎機器人及許多 AI 相關的爬蟲。格式正確的 robots.txt 可以阻擋爬蟲存取特定路徑、指向 sitemap URL,並標示指令適用的使用者代理。

robots.txt 不做的事,至少與它做的事一樣重要。這個檔案表達的是「偏好」而非「強制」:忽略 Robots Exclusion Protocol 的爬蟲仍可請求任何公開 URL,而針對從未被封鎖之 URL 的請求,robots.txt 也無法作用。它也不會自行從搜尋索引中刪除頁面、不會驗證使用者身份,也不會描述資源的結構或內容。它是一份有著悠久歷史的禮貌請求檔案,且仍是註冊抓取偏好的正確位置。

對於任何發佈 llms.txt 的人來說,意涵很簡單:保持你的 robots.txt 完好如初。新的 llms.txt 檔案不會放寬或取代任何 Disallow 規則,任何讀取 llms.txt 的推論時消費者也無法透過參考該檔案所列的頁面來繞過 robots.txt 的保護。抓取控制與資源地圖保持分離。

sitemap.xml 及其仍執行的事項

sitemap.xml 由 sitemaps.org 架構規範管轄,是一份 XML 庫存清單,協助參與的搜尋引擎探索網站上的 URL。sitemap 可以宣告 lastmod 時間戳記、changefreq 提示與 priority 數值,並可針對超大型網站拆分成 sitemap 索引。它由搜尋引擎在其例行探索流程中讀取,透過搜尋管理平台提交 sitemap 也是一項常見的 SEO 工作。

與 robots.txt 相同,極限同樣重要。sitemap 無法強制建立索引、無法影響排名位置,也無法取代內部連結或真正能賺到反向連結的內容。它也無法說明內容語義,或哪些頁面對人類讀者最重要。一份列出每個產品變體的 50,000 個 URL 的 sitemap,能告訴搜尋引擎的資訊極少,無法指出哪五個頁面是 AI 應視為該網站規範參考的頁面。

這個落差正好說明為何一份小型、策展過的 llms.txt 檔案能與大型 sitemap.xml 並存而不衝突。sitemap 仍是庫存清單;llms.txt 則成為策展過的精選輯。

三個檔案的比較

這三個檔案唯一重疊之處,僅在於它們都是從公開 URL 提供服務的純文字文件。它們的目的、格式,以及對爬蟲與模型實際行為的影響,都截然不同。

考量面向robots.txtsitemap.xmlllms.txt
主要目的合規爬蟲的抓取偏好供搜尋探索的可索引 URL 庫存供推論時使用的策展 Markdown 總覽
格式純文字指令遵循 sitemaps.org 架構的 XMLMarkdown:一個 H1、選擇性區塊引言、選擇性細節、排序固定的 H2 段落
能否封鎖頁面?可以,針對參與的爬蟲不行,它僅列出而不限制不行,它僅指向公開內容
是否保證 AI 引用?否否否,支援屬自願性質
必要放置位置/robots.txt任何從 robots.txt 列出或提交至搜尋管理平台的 URL/llms.txt 或文件記錄的子路徑
是否取代其他檔案?否否非取代性質;與兩者互補

這個表格讓「取代」的問題更容易回答:沒有任何一欄勝過其他欄位。每個檔案處理的,都是其他檔案未嘗試處理的工作。

建立小型 llms.txt 檔案:具體範例

小型文件網站的工作草稿可在幾分鐘內組合完成。此提案刻意保持簡單,且具代表性的檔案保留五個策展過的參考連結,外加一個真正屬於次要的連結移到「Optional」段落,讓檔案讀起來像是一項策展練習,而非庫存傾倒。檔案以單行 H1 開頭,包含專案名稱,例如「Acme Docs」。標題下方是一段選擇性的區塊引言摘要,以大於符號標示,簡要說明網站涵蓋的內容。摘要之後,會有兩到三個 H2 段落,依用途將連結分組:「Docs」段落放規範參考、「Policies」段落放法律頁面、「Optional」段落放諸如品牌素材等次要資料。

精確的順序很重要,因為此檔案必須對語言模型與一般 Markdown 解析器都具可預測性。H1 在最前面、選擇性區塊引言摘要接在後面(若有)、自由格式細節出現在任何 H2 段落之前、H2 連結段落最後。冒號後的註解說明每個連結資源的內容,這是提案中的選擇性慣例,能幫助消費者決定要擷取哪些連結。

若要以決定性方式產生檔案,而非手動編輯 Markdown 片段,請透過瀏覽器端的 llms.txt 產生器 依以下具體步驟進行:

  1. 將網站或專案名稱輸入 H1 欄位。這會成為檔案的必要頂層標題。
  2. 新增一段選擇性的區塊引言摘要,用一句話說明網站涵蓋的內容。若摘要只會重複 H1,則留空。
  3. 新增零個或多個 H2 段落。在每個段落中,僅輸入指向公開、穩定頁面的規範高價值連結。略過會回傳錯誤或需要驗證的頁面。
  4. 為每個連結加入一段以冒號開頭的簡短註解,描述連結資源的內容。將任何真正屬於次要的資源移至名為「Optional」的 H2 段落。
  5. 產生決定性的 Markdown。在複製或下載檔案前,逐一檢查 H1、摘要、所有段落、所有連結與所有註解。
  6. 將草稿貼到獨立的驗證工具中,檢查必要的 H1、標題順序、連結清單語法、重複的目標,以及大小限制。將驗證工具的輸出視為具體、逐行的問題,而非含糊的警告。
  7. 將驗證後的檔案發佈至 /llms.txt 或文件記錄的子路徑,並使用純文字或 Markdown 相容的內容類型,同時定期驗證每個連結仍回傳預期的內容。

此產生器不會爬取網站、不會假設規範狀態、也不保證任何消費者會讀取結果。它會拒絕不安全或帶有憑證的 URL、規範化對 Markdown 敏感的文字,並回報重複的目標,而非靜悄悄地複製條目。哪些資源是必要的編輯決策,仍屬於作者本人。

發布、驗證,並避免過度承諾

草稿定稿後,請以純文字或相容於 Markdown 的內容類型,將其提供於 /llms.txt 或文件記載的子路徑。逐一重新檢查每個連結,在全新的瀏覽器分頁中開啟,確認註記與各頁面實際內容相符,並確認清單中沒有夾帶任何私密、預備環境或需驗證才能存取的網址。額外進行一次獨立的驗證流程是值得的:將草稿再次貼回驗證工具,檢查必要的 H1、標題順序、連結清單語法、重複目標以及大小限制,並將其輸出視為具體的逐行問題,而非含糊的警告。一份參考實作指南記載了相同的順序,是在部署前有用的第二方意見。

發布之後,工作並未結束。提案與生態系都會持續演進,因此任何依賴精確語法的自動化作業,都應重新檢視文件記載的方法。定期驗證每個被引用的頁面仍會回傳預期的內容,並確認沒有任何註記偏離頁面實際內容。唯一誠實的衡量標準,是您自己的工具與工作流程是否實際使用了該檔案;僅僅發布並不能作為搜尋或引用成效提升的證據,若將其視為證據,只會讓團隊日後失望。

對於想深入了解建置流程的讀者,一份llms.txt 逐步操作指南以更詳細的方式涵蓋了相同程序,包括如何在推送至正式環境前驗證最終草稿。

若您正在權衡各種方案,iPhone 上的 Meta Robots 產生器:Safari 工作流程對此有詳細說明。