有时候我们建站前期忘记写robots.txt文件了，很多我们不想让搜索引擎收录的内容却被收录了，这个时候会发现好像过了很长时间我们不想让收录的页面还是处于被收录的状态，到底robots生效要多久呢？ 　　百度lee曾在公开场合说过：不同的站点略有不同，但通常在几天内陆续生效。 　　其实我们可以假想下robots生效的过程： 　　1.蜘蛛发现robots文件修改并将信息传回 　　2.分析修改前后的robots文件 　　3.删除不允许被收录的索引数据 　　这个过程中肯能还会存在其他的一些步骤，然而由于每个网站蜘蛛爬的频率和网站的权重不同（网站的重要性）而导致蜘蛛发现robots更改的时间延时或者被处理的优先性不同，最终导致的结果就是robots的生效时间不同。 　　通过以上分析我们可以得出robots的生效时间并不是一定的，如果你的robots更改后很久都没有生效的话，可以去这里投诉：tousu.baidu.com