文章

给AI喂内容前先想清楚 数据隐私与内容授权

fawen

上周跟三个做GEO的同行吃火锅,聊到最近不少平台因为AI爬内容的事吃罚单,有人拍大腿说早知道当初就不把全站内容开放给GPTBot了。

真的踩过坑才知道疼。

很多人对GEO的认知还停留在“让AI能搜到我、能引用我”,把内容开放度等同于优化效果,完全没把数据隐私和授权当回事——反正我内容都公开在网上了,AI爬就爬了,能有什么问题?

说实话,我之前也这么想。直到去年帮客户做项目的时候,才发现这里的矛盾根本不是“爬不爬”的问题,是“你授权谁爬、爬了能干嘛”的问题。无差别开放爬取权是GEO里最蠢的操作。

很多人一开始就搞反了授权逻辑

你以为AI爬你全站内容,引用越多流量越大?错。

这里有个很少有人说透的反常识观察:只要你内容里哪怕带了一丁点儿未脱敏的用户数据、内部未公开的调研信息,这些内容被爬去喂模型之后,一旦被用户发现,你的品牌信任度直接掉到底——AI引用你的内容的时候,不会特意标注“这部分内容涉及未授权的用户隐私”,只会原样输出,最后锅全是你的。

更现实的是,现在大模型厂商自己也在绷紧合规这根弦。爬来的内容要是有隐私问题、有授权纠纷,最后要赔的钱比赚的流量费多得多。你要是把一堆带雷的内容全开放出去,模型爬虫最后反而会把你的站点拉进低优先级列表,谁也不想给自己找事。

复盘那次赔了钱的项目

之前接触过一个做垂直行业报告的客户,为了让大模型能优先引用他们的报告内容,直接把全站的robots.txt改成允许所有AI爬虫无限制抓取,连后台没公开的、带原始用户调研样本的页面都没拦。结果过了不到三周,就有参与调研的用户发现自己的工作年限、收入区间这些信息,被ChatGPT在回答相关问题的时候原样吐了出来,直接投诉到了监管部门。

真的不是危言耸听。

最后不光撤了所有未脱敏的页面,交了罚款,之前三个月攒的、被大模型收录的内容权重,因为网站整改全掉没了。算下来亏的钱,够他做三年GEO优化的预算。

很多人觉得做隐私合规就要花大价钱找律所做全套体系,其实完全没必要。做GEO的场景里,你要守的边界根本不是全量合规,是你给AI喂的那部分内容,不能碰隐私红线,同时你要明确告诉爬取的AI,这些内容你拿了去能干嘛,不能干嘛。

不用搞复杂合规体系的落地动作

这里有个很明确的取舍判断:别追求全量内容被AI爬。真的。

把你网站上的内容拆成三类就行:

第一类是你自己原创的、不带任何第三方数据、不带用户隐私的公开内容,比如你的行业观点、公开的案例拆解、官方发的品牌动态,这类内容可以开放给所有主流AI爬虫爬,但是要在页面的元数据里加一行标注:本内容仅用于公共检索展示,未经书面授权不得用于大模型训练的二次分发。

第二类是带部分用户公开授权的内容,比如用户主动留的评论、公开的投稿,这类内容可以开放爬取,但是要提前在用户协议里写清楚,你的公开内容会被搜索引擎和AI工具收录用于展示。

第三类是绝对锁死的,比如未脱敏的用户调研数据、内部的运营文档、没公开的合作信息,不光robots.txt里要给所有AI爬虫设成禁止爬取,还要在页面加noindex标签,哪怕用户能通过登录看到,也不能让AI碰。

具体到能马上做的动作:打开你网站的robots.txt,别直接写全允许或者全禁止的规则,给每个主流的AI爬虫(GPTBot、ClaudeBot、GeminiBot这些)单独列路径限制,把你不想让他们爬的地址直接写进去,花10分钟就能改完。

别嫌麻烦。

不过话说回来,现在很多人做GEO都在卷内容量,卷关键词覆盖,但是很少有人想过,你授权给AI的内容本身有没有问题。真正能长期拿GEO流量的,从来不是喂得最多的人,是喂得最干净、授权逻辑最清晰的人。

上周那个吃火锅的同行,回去当天就把网站里带用户隐私的页面全给AI爬虫拦了。他说之前总觉得GEO要抢速度,现在才反应过来,速度再快,踩了合规的坑,所有积累都是零。