什么是llms.txt?
Llms.txt是您网站上的一个文本文件,可为AI助手提供您重要页面的概览,但它不控制访问权限,也不能替代良好的网站结构。
llms.txt究竟包含什么
Llms.txt是一个简单的文本文件,您将其放置在网站上,通常在首页下以固定名称放置。它包含您重要页面的列表,每个链接都有简短说明。其理念是AI助手读取此文件,能够快速了解您的核心页面所在位置,无需浏览整个网站。
该文件的设计目的是作为AI系统的一种路线图,类似于站点地图对搜索引擎的作用。区别在于站点地图是所有URL的技术列表,而llms.txt旨在作为包含每页说明的可读摘要。因此,它不是替代品,而是具有不同目的的补充。
没有强制要求提供此文件。这是业界部分人士提出的建议,但并非每个AI系统都以相同方式或同样一贯地使用它。某些助手会查看它,而其他助手则完全忽略它,仅根据它已知的内容或通过实时搜索找到的内容来运作。
为什么此文件对可发现性很重要
AI助手的可发现性与搜索引擎的工作方式不同。搜索引擎爬取您的网站、索引页面并在结果列表中显示它们。AI助手通常不进行实时搜索,而是根据已知内容提供答案,辅以有针对性的查询操作。Llms.txt在后者中有帮助:它为系统提供简短、结构化的概览,而不是系统需要自行进行调查。
对于企业主来说,这意味着AI助手引用您网站正确页面的可能性增加,而不是过时或不太相关的页面。这类似于接地技术的工作方式,其中AI答案由当前来源支持,而不是仅依靠培训知识,正如我们在什么是接地中解释的那样。
Llms.txt不能独立工作。它是一个更大体系中的一个组成部分,其中还包括您网站的技术、文本质量和不同机器人的可访问性。没有清晰的页面和没有AI机器人访问您网站的权限,llms.txt文件帮助不大。
如何检查您是否已设置
检查您是否有llms.txt文件的最快方法是访问链接本身:您的域名后跟/llms.txt。如果您看到包含页面和说明的可读列表,则该文件存在。如果您收到错误消息或空白页,则表示该文件缺失。
文件的存在并不说明AI助手是否实际使用它。因此,这不是保证,更多是提供的辅助工具。更重要的往往是这些助手的机器人是否被允许访问您的网站。这需要单独设置,每个机器人一次,如什么是GPTBot和什么是ClaudeBot中所述。
如果您没有技术背景,明智的做法是让管理您网站的人员检查此事。该文件本身设置简单,但您将其中包含的页面以及如何描述它们的问题需要考虑。不正确或过时的列表实际上可能会误导AI助手。
最常见的误解
最大的误解是llms.txt控制访问权限:即AI系统只有在此文件存在的情况下才能访问您的网站。这是不正确的。访问权限通过另一个文件单独控制,该文件针对每个机器人指出允许访问和禁止访问的内容。Llms.txt纯粹是一个概览,不是锁或钥匙。
第二个误解是,该文件可以替代良好的网站结构应该做的事情。如果您的网站结构不清楚,页面过时,导航不合逻辑,llms.txt文件无法解决这个问题。它是一份摘要,而不是对基础问题的修复。
一些企业家也认为这个文件会影响他们在Google中的排名。事实并非如此。Llms.txt针对的是AI助手,而不是传统搜索引擎。对于搜索引擎,其他因素仍然是主导,例如Bingbot和Google-Extended如何抓取和理解您的网站,具体可参考什么是Bingbot和什么是Google-Extended。
这如何适应您整体可发现性的其他部分
Llms.txt是更大系统中的一个拼图。例如,Perplexity等AI助手结合自有知识和实时查询工作,这与检索增强生成的工作方式有关,这是一种技术,其中语言模型用从实时来源检索的信息来补充答案,如检索增强生成解释所述。
除了llms.txt之外,了解哪些机器人访问您的网站以及它们的用途也很有用。例如,PerplexityBot获取答案的实时信息,而Applebot-Extended收集Apple AI功能的数据。更多相关信息请参阅什么是PerplexityBot和什么是Applebot-Extended。
对于企业家来说,最重要的是不要只关注一个技术细节。Llms.txt很有用,但基础仍然是:网站清晰,信息最新,您想允许的机器人可以访问。做好这些准备,无论是否有这个特定文件,您都会更强大。
常见问题
每个网站都需要llms.txt文件吗?
不需要,这不是强制要求,也不是所有AI系统都使用的标准。它可以帮助以清晰的方式向阅读该文件的AI助手展示您的重要页面。对于具有清晰结构的较小网站,其附加值通常有限。对于有很多页面的网站,它可能会提供更多的清晰度。
Llms.txt是否规定AI机器人是否可以访问我的网站?
不是。这是一个常见的误解。机器人的访问权限单独管理,针对每个机器人,通过另一个机制。Llms.txt仅是页面及其说明的概览,旨在帮助AI助手更快地了解情况。如果没有对机器人本身的权限,llms.txt文件对该机器人没有区别。
Llms.txt对Google或Bing有帮助吗?
没有直接帮助。该文件是在考虑AI助手的情况下建立的,而不是传统搜索引擎。对于您在Google和Bing中的排名,其他因素仍然是决定性的,例如您内容的质量以及他们的机器人如何能够抓取和理解您的网站。Llms.txt在其中是补充,不是替代。
您自己的网站状况如何?
两个数字,在一分钟内,免费——您不需要留下任何东西。
更愿意立即获得完整报告? 扩展扫描 — €49 →
您想知道原因是什么吗?
此扫描为您提供状态。该报告为您提供原因和解决顺序。
- 针对每项发现说明存在的问题以及需要采取的行动免费扫描为您提供现状。报告为您提供列表 — 用通俗语言,按重要程度排序,无需理解任何技术内容。
- 所有四位 AI 助手而非仅一位免费结果是以一位助手为样本。报告对所有四位提出八个问题,让您了解问题是否仅出在一位助手身上或所有助手都存在。
- 哪些公司有被提及您失去的客户会去找谁?这些名字在报告中列出,显示他们在您缺席的地方出现的频率。
- 对您网站的深入测量免费扫描查看十个页面。报告则审查多达五十个页面,包括您的客户最终到达的页面。