1,页面制作完成后再放到spider可以发现的地方,这样才能达到最好的抓取效果。
2,页面未对外公开之前,千万不要通过工具推送给百度呀。
接到站长反馈后,院长联系了spider工程师,工程师在后台查询了这些未收录的链接,发现均显示为“死链”,然而这些所谓的死链现在访问都是好好的。根据后台显示的抓取时间,院长反复和站点进行沟通,终于找到了根源:原来,站点为了抢新闻,提前制作了新闻稿并制作成链接并且发布,虽然没有在首页等重要页面推送给用户,但却被BaiduSpider发现,更重要的是,这些链接向BaiduSpider返回的状态码是404。
举个例子,中国女排进入决赛后,某网站做了A和B两个页面,分别为夺冠和摘银,为了防止用户在比赛结束之前阅读到页面内容,站点将两个链接都设置为404!404!(等到比赛结束后,再将其中一个页面的html返回码改为200)。虽然页面并没有向用户推送,但还是被聪明的BaiduSpider发现。然而这里的问题是,BaiduSpider发现页面是404,又无法判断出这是一个重要页面,于是直接打入冷宫不再理睬。 所以,学院反复强调,确认页面真的不需要被搜索引擎保留时可以使用404(临时闭站可使用百度站长平台的闭站保护工具),如果还希望和搜索引擎保持友好关系的话,请使用503,防止页面被删除。虽然Baidu有对高价值内容的“删除保护”功能,但毕竟不是每个站点都可以享受到这个特权的。 |
- 07-19[网站运营] 网站运营,如何做好网站体验优化
- 05-22[网站运营] 网站分析如何做?
- 03-21[网站运营] [媒体人的一天]新华网李洪雷:网站
- 03-16[人物访谈] 访谈李勇:SEO博客两个多月快速提
- 02-06[人物访谈] SEO访谈:初入SEO的苦与乐!seo有没有
- 02-04[自媒体] 内容创业时代来临:机会、趋势、
- 01-13[网站运营] 网站运营推广成功的三大核心问题
- 01-10[自媒体] 内容创业:前景光明还是黑暗?
- 03-16[网站运营] 网站运营之变局-内容为王的时代已