AI助手导航地图 - 认识llms.txt

llms.txt

AI需要这样一份电子指南来帮助它更好地理解和服务网站 - 这就是llms.txt。

2024-11-16

llms.txtllms_full.txt

就像我们第一次去到陌生的城市,会依靠手机导航找到目的地一样,AI也需要这样一份"电子指南"来帮助它更好地理解和服务网站 - 这就是llms.txt的作用。

为什么需要llms.txt?

想象有人正浏览你的网站。与其让他漫无目的地点击每个链接,不如给他一份简单的导览手册,告诉他网站的重要信息都在哪里。llms.txt就像这样一份专门为AI准备的"导览手册"。

llms.txt是什么?

简单来说,llms.txt是放在网站根目录下的一个特殊文本文件,用来告诉AI:

  • 这个网站主要是做什么的
  • 重要的信息在哪里
  • 怎样更好地理解和使用网站内容

标准格式

# Title

> Optional description goes here

Optional details go here

## Section name

- [Link title](https://link_url): Optional link details

## Optional

- [Link title](https://link_url)

如何工作?

llms.txt采用了简单的Markdown格式。这种格式既方便人类阅读,也便于AI理解。例如:

Cursor 官网的 llms.txt

# Cursor

## Docs

- [AI Review (Beta)](https://docs.cursor.com/advanced/ai-review)
- [Custom API Keys](https://docs.cursor.com/advanced/api-keys)
- [Models](https://docs.cursor.com/advanced/models)
- [Shadow Workspace](https://docs.cursor.com/advanced/shadow-workspace)
- [Apply](https://docs.cursor.com/chat/apply)
- [With Codebase](https://docs.cursor.com/chat/codebase)
- [Customize](https://docs.cursor.com/chat/customize)
- [Overview](https://docs.cursor.com/chat/overview)
- [Overview](https://docs.cursor.com/cmdk/overview)
- [Terminal Cmd K](https://docs.cursor.com/cmdk/terminal-cmdk)
- [@Chat](https://docs.cursor.com/context/@-symbols/@-chat)
- [@Code](https://docs.cursor.com/context/@-symbols/@-code)
- [@Codebase](https://docs.cursor.com/context/@-symbols/@-codebase)
- [@Definitions](https://docs.cursor.com/context/@-symbols/@-definitions)
- [@Docs](https://docs.cursor.com/context/@-symbols/@-docs)
- [@Files](https://docs.cursor.com/context/@-symbols/@-files)
- [@Folders](https://docs.cursor.com/context/@-symbols/@-folders)
- [@Git](https://docs.cursor.com/context/@-symbols/@-git)
- [Paste Links](https://docs.cursor.com/context/@-symbols/@-link)
- [@Web](https://docs.cursor.com/context/@-symbols/@-web)
- [Basic Usage](https://docs.cursor.com/context/@-symbols/basic)
- [Codebase Indexing](https://docs.cursor.com/context/codebase-indexing)
- [Ignore Files](https://docs.cursor.com/context/ignore-files)
- [Rules for AI](https://docs.cursor.com/context/rules-for-ai)
- [Migrate from VS Code](https://docs.cursor.com/get-started/migrate-from-vscode)
- [Usage](https://docs.cursor.com/get-started/usage)
- [Privacy FAQ](https://docs.cursor.com/privacy/privacy)
- [Advanced Features](https://docs.cursor.com/tab/advanced-features)
- [Migrate from GitHub Copilot](https://docs.cursor.com/tab/from-gh-copilot)
- [Overview](https://docs.cursor.com/tab/overview)
- [Common Issues](https://docs.cursor.com/troubleshooting/common-issues)
- [Troubleshooting Guide](https://docs.cursor.com/troubleshooting/troubleshooting-guide)


## Optional

- [Discord](https://discord.gg/w6HqfaQ2u2)
- [Forum](https://forum.cursor.com/)
- [Email](mailto:hi@cursor.com)

AI看到这样的内容,就能快速了解网站架构,搞清楚从哪些链接获取更进一步的信息。

相随 llms.txt 只提供简明的信息 llms_full.txt 会提供更全面的信息,有兴趣的可以看一下:https://docs.cursor.com/llms-full.txt

与现有robots.txt 和 sitemap.xml的区别

llms.txt 的设计旨在与当前的网络标准共存。例如,它可以与 robots.txt 和 sitemap.xml 配合使用,后者通常用于搜索引擎索引。不同的是,llms.txt 提供的是针对 LLM 的信息概述,而不是简单的页面列表

最新进展

虽然llms.txt目前还只是一个提议标准,但已经获得了技术社区的积极响应。越来越多的网站,特别是技术文档网站正在采纳这一标准: picture 0

Mintlify(知名文档托管平台)已经在文档实例中内置了 /llms.txt 和 /llms-full.txt 支持 Cursor AI(AI编程IDE)的官方文档已经实装了llms.txt (docs.cursor.com/llms.txt)

引用资料

https://llmstxt.org/