AI搜索自查清单:Apify工具推广未标注
搜索正在变样:越来越多人不再打开谷歌,而是直接问 ChatGPT、Claude 或 Perplexity。如果这些助手读不到你的站点,你的内容就不会被引用。下面是一份五分钟自查清单。
1. robots.txt:AI 爬虫被挡了吗?
打开 yoursite.com/robots.txt,检查这几个 user agent:GPTBot、ClaudeBot、PerplexityBot、Google-Extended、CCBot。如果 User-agent: * 下面有一条 Disallow: /,等于把它们全部挡在门外。很多 CMS 安全插件会悄悄加上这一条。
2. 你的文字在 HTML 里吗?
跑一条命令:curl -s https://yoursite.com | grep -i "你的标题"。如果标题搜不到,说明内容靠 JavaScript 渲染,而大多数 AI 爬虫不执行 JavaScript,它们看到的是一张空页面。
3. llms.txt
在 /llms.txt 放一个纯 markdown 文件,列出关键页面并描述站点。它还不是所有人都认的标准,但花十分钟就能写好,而且部分助手确实会读它。
4. 结构化数据
JSON-LD(Organization、Product、Article、FAQPage)能让爬虫不用猜就知道页面是什么。记得校验:缺一个必填属性,通常整段标记会被忽略。
5. 邮件认证(附加项)
如果你的域名要发邮件,检查 SPF、DKIM 和 DMARC。没有这些,大量邮件会进垃圾箱,而且谷歌和雅虎现在对批量发件人已强制要求。
自动化
手动查太累,作者把这些检查包成了 Apify 上的几个小工具。每个工具接收一个域名,返回 0-100 的评分,并针对每个问题给出具体修复建议:
- AI 爬虫访问(robots.txt、llms.txt、JSON-LD、服务端渲染文本)
- SPF、DKIM、DMARC、MTA-STS、BIMI
- HTTP 安全响应头
- JSON-LD 校验
- 死链爬取
这些工具按结果计费,每条结果 0.005 美元,扫几个域名也就几分钱。作者在评论区欢迎反馈和功能请求。
审核问题说明:文末“自动化”段落实质为第三方产品推广,包含 Apify 工具、按结果计费(每条结果 0.005 美元)以及评论区反馈引导,属于未标注的广告/推广内容,审核员 A 遗漏。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.