ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

JSON-LD结构化数据与9大AI爬虫:gtm-engineer-skills的AEO技术优化深度指南

JSON-LD结构化数据与9大AI爬虫:gtm-engineer-skills的AEO技术优化深度指南
  • AI 技能
  • 人工智能
  • AI 应用
  • AI 写作
  • AI 评测

【免费下载链接】gtm-engineer-skills

Claude Code skill for improving website AEO (AI Engine Optimization) and GEO (Generative Engine Optimization) scores — 16 foundational checks, 6 intelligence dimensions, framework-specific fixes

项目地址:https://gitcode.com/gh_mirrors/gt/gtm-engineer-skills
点击查看免费下载

gtm-engineer-skills 是一套开源的 Claude Code 技能包,专为网站 AEO 技术优化而生:它通过 JSON-LD 结构化数据、9 大 AI 爬虫放行检查、16 项基础检查与 6 大智能维度评分,让 ChatGPT、Claude、Perplexity 等 AI 引擎能发现、解析并引用你的网站内容。本文将带你吃透其中最关键的两块技术底座——JSON-LD 结构化数据与 AI 爬虫访问策略,并附一条命令即可上手的 AEO 基线测评方法。

为什么 AEO 技术优化是下一个流量战场 🚀

传统 SEO 优化的是"人"在搜索结果里的点击,而 AEO(AI Engine Optimization,AI 引擎优化)优化的是"AI"在回答时对你的引用。AI 爬虫不像人类浏览页面——它们直接抽取结构化数据、扫描直接答案,并在毫秒级内判断内容是否值得引用。

行业数据已经给出信号:

  • ChatGPT 贡献了87.4%的 AI 推荐流量(Conductor,2025,分析 3.3B 次会话);
  • 44.2%的 ChatGPT 引用来自页面内容的前 30%(Kevin Indig,分析 1.2M 条 AI 回答);
  • AI 助手引用的内容平均比传统搜索结果新鲜 25.7%(Ahrefs,分析 1700 万条引用)。

换句话说:你的网站若没有为 AI 机器做好准备,正在流失最快速增长的那股流量。

上图为 AEO 审计工具的"AI Agent View"视角——右侧面板正是 AI 爬虫真正"看到"的内容:title、meta、H1、schema 类型、JSON-LD 块数量与内链数。你的页面在它眼里,就是这些字段。

9大AI爬虫完整名单:robots.txt 放行设置 🤖

在 16 项基础检查中,AI 爬虫访问(ai-bot-access)是分值最高的一项(12 分),也是优先级第一的"阻塞项"。gtm-engineer-skills 的爬虫脚本内置了 9 大主流 AI 爬虫名单(见 audit-website-aeo/scripts/aeo-audit.mjs):

爬虫所属引擎作用
GPTBotOpenAI(ChatGPT)抓取内容供 AI 回答引用
OAI-SearchBotOpenAIOpenAI 搜索场景抓取
ChatGPT-UserOpenAI模拟用户在 ChatGPT 内浏览
ClaudeBot/anthropic-aiAnthropic(Claude)Claude 的网页抓取
PerplexityBotPerplexityPerplexity 搜索引用
Google-ExtendedGoogleGemini 与 AI Overviews
Bytespider字节跳动国内 AI 引擎抓取
CCBotCommon Crawl为多家 LLM 提供训练语料

官方技能的判断非常直接:"如果 AI 爬虫被拦截,其他一切都不重要"(improve-aeo-geo/SKILL.md)。检查逻辑是:只要robots.txt中对上述任一爬虫写有Disallow: /且没有对应的Allow: /,该检查即判定失败。

正确的 robots.txt 应该显式放行,并附上站点地图:

User-agent: GPTBot Allow: / User-agent: ClaudeBot Allow: / User-agent: PerplexityBot Allow: / # …其余爬虫同理… Sitemap: https://yourdomain.com/sitemap.xml

💡 常见坑:不少站长会"顺手"禁掉 AI 爬虫以防内容被训练,结果直接把自己排除在所有 AI 回答的引用池之外。AEO 优化的第一步,就是先把 9 个"访客"放进来。

JSON-LD结构化数据:让AI读懂你页面的"身份证" 🪪

JSON-LD(JSON for Linking Data)是嵌在页面<head>里的一段结构化数据脚本,用 schema.org 词汇描述"这个页面到底是什么"。它是 16 项检查中直接关联的两项:

检查项验证内容分值
schema页面至少存在 1 个<script type="application/ld+json">块8 分
schema-typesJSON-LD 中使用了可识别的 schema.org@type8 分

审计脚本会解析每一块 JSON-LD,提取@type、name、author、datePublished、dateModified等字段(aeo-audit.mjs)。官方认可14 种@type:Organization、WebSite、WebPage、Article、Product、FAQPage、BreadcrumbList、LocalBusiness、Person、Event、HowTo、Recipe、VideoObject、SoftwareApplication。

最低配置建议(improve-aeo-geo/SKILL.md):

位置应添加的 Schema关键字段
全站(根布局)Organizationname、url、logo
首页WebSite(+SearchAction)name、potentialAction
博客文章Articleauthor、datePublished、dateModified
产品页Productname、description、brand
FAQ 区块FAQPagemainEntity 问答列表

一篇博客文章的最小 JSON-LD 示例:

{ "@context": "https://schema.org", "@type": "Article", "headline": "文章标题", "datePublished": "2025-01-15", "dateModified": "2025-06-01", "author": { "@type": "Person", "name": "作者名" } }

为什么它对 AEO 如此重要?真实审计案例给出了答案:anthropic.com 的 AEO 审计中,6 个被爬页面只有 2 个带有任何结构化数据,"为所有关键模板补充 JSON-LD" 被列为第一大修复项(audit-website-aeo/examples/anthropic-com-audit.md)。结构化数据正是 AI 对页面实体与意图进行分类的依据——没有它,AI 只能靠猜。

AEO评分体系:16项基础检查 + 6大智能维度 📊

gtm-engineer-skills 的 AEO 评分由两半组成(audit-website-aeo/SKILL.md):

最终分 = 50% × 基础分(16项确定性检查,满分142分) + 50% × 智能分(6个内容维度,0-5分制)

16 项基础检查一览(完整定义):

检查验证内容分值检查验证内容分值
title标题存在且 ≥10 字符10image-alt80%+ 图片有 alt8
meta-description描述存在且 ≥50 字符10text-depth正文 ≥250 词12
canonical规范链接存在8indexability无 noindex10
h1恰好 1 个 H18ai-meta-tags无 nosnippet/noai6
schema≥1 个 JSON-LD 块8heading-hierarchy标题层级不跳级6
schema-types使用可识别 @type8llms-txt有效的 llms.txt10
ogog:title + og:description8ai-bot-access未拦截 9 大 AI 爬虫12
internal-links每页 ≥5 个内链10rss-feed可发现 RSS/Atom 源8

站点级规则:某项检查在80% 以上页面通过才算通过。最终分映射为 A+(95-100)到 F(<40)的等级,修复目标是80+ 分(B+ 及以上)。

新鲜度信号:用JSON-LD告诉AI你的内容是新的 🕒

AI 引擎明显偏爱"新"内容:76% 的 ChatGPT 高频引用页面在 30 天内更新过;3 个月内更新的内容平均获得 6 次引用,而 2 年以上未更新的内容只有 3.9 次(SE Ranking,分析 230 万页面)。

让新鲜度"机器可读"的三板斧:

  1. JSON-LD 日期字段:每篇内容都带上datePublished与dateModified;
  2. Meta 日期标签:article:published_time与article:modified_time(页面可见的"最后更新"文字对爬虫来说不够,需要机器可读标记);
  3. llms.txt + RSS:llms.txt给 AI 系统一份可信 URL 索引,RSS/Atom 源帮助 AI 发现新内容(两者合计占 18 分)。

上图来自官方 create-geo-charts 技能的数据可视化模板——注意它同时配有文字摘要、HTML 数据表格和Dataset类型的 JSON-LD(模板定义),因为AI 引用的是文字而不是像素,图表本身对 LLM 是不可见的。

快速上手:一条命令测出网站AEO基线分 ⚡

整个工作流只有三步:测基线 → 修代码 → 复测对比(audit-website-aeo→improve-aeo-geo→audit-website-aeo复测)。

第一步:安装技能包

git clone https://gitcode.com/gh_mirrors/gt/gtm-engineer-skills cd gtm-engineer-skills mkdir -p ~/.claude/skills ln -s "$PWD/audit-website-aeo" ~/.claude/skills/audit-website-aeo ln -s "$PWD/improve-aeo-geo" ~/.claude/skills/improve-aeo-geo

第二步:运行零依赖爬虫审计(仅需 Node 18+,无需 npm install,audit-website-aeo/README.md)

node audit-website-aeo/scripts/aeo-audit.mjs https://yourdomain.com --max-pages=10

脚本会按 AI 代理的方式爬取站点(sitemap + robots.txt + 内链,最多 30 页),逐页跑 16 项检查,输出基础分、失败项与按影响度排序的修复清单,写入 JSON 报告。

第三步:交给improve-aeo-geo修代码

该技能会自动识别你的技术栈(Next.js、Nuxt、Astro、SvelteKit、WordPress、Hugo、Jekyll、11ty、Remix 等),按"阻塞项 → 高影响结构 → 内容质量"的优先级动手修改,并内置 17 项验收清单(improve-aeo-geo/SKILL.md)。

官方案例:一个 Next.js 博客初始分42/100(D)——robots.txt 拦截了 GPTBot 与 ClaudeBot、全站无 JSON-LD、60% 页面内容过薄。约 45 分钟修复后提升至87/100(A-),改动就是本文讲的那几件事:放行爬虫、补 Organization/Article 两层 JSON-LD、加 llms.txt 与 RSS、重写"答案优先"的开头(improve-aeo-geo/examples/nextjs-blog-before-after.md)。

常见问题(FAQ)📮

Q1:JSON-LD 会不会直接提升 Google 搜索排名?它的主要价值是让 AI 引擎准确理解页面实体与意图(文章、产品、FAQ),从而增加被 ChatGPT、Claude、Perplexity、Google AI Overviews 引用的概率;对传统搜索则是补充结构化信号。在 gtm-engineer-skills 的评分体系中,它占 16 分,且是"智能分"中 Quotability(可引用性)评估的输入之一。

Q2:必须 9 个 AI 爬虫全部放行吗?官方检查的判定标准是:9 大爬虫中任何一个被Disallow: /拦截且无Allow: /覆盖,该检查(12 分)即失败。AEO 优化的前提是"AI 能进得来",建议显式全部放行。

Q3:我没有 AI 技能,只想要个分数怎么办?直接运行node audit-website-aeo/scripts/aeo-audit.mjs <你的URL>即可获得基础分(Foundational Score)与失败项清单;完整的 A-F 最终评级由 agent 层的 6 维度内容评估补齐。

写在最后 ✍️

AEO 技术优化的核心逻辑其实很简单:先让 AI 爬虫进得来(robots.txt 放行),再让 AI 看得懂(JSON-LD 结构化数据 + 清晰标题层级),最后让 AI 信得过(日期信号 + 证据密度 + 可引用的答案段落)。gtm-engineer-skills 把这套方法论沉淀成了可执行、可复测的技能包——用一条命令拿到基线分,按优先级修代码,再测一次看提升,这就是一个可持续的 AEO 优化闭环。

  • AI 技能
  • 人工智能
  • AI 应用
  • AI 写作
  • AI 评测

【免费下载链接】gtm-engineer-skills

Claude Code skill for improving website AEO (AI Engine Optimization) and GEO (Generative Engine Optimization) scores — 16 foundational checks, 6 intelligence dimensions, framework-specific fixes

项目地址:https://gitcode.com/gh_mirrors/gt/gtm-engineer-skills
点击查看免费下载

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进