当前位置:淡墨SEO首页 > SEO软件 > 百度蜘蛛ip220和116段质量高,抓取很多

百度蜘蛛ip220和116段质量高,抓取很多

淡墨SEO2年前 (2024-05-30)SEO软件3914051

通过对服务器日志的分析,发现百度蜘蛛ip段116.179.32.*和220.181.108.*两段百度蜘蛛抓取量很多,也是主要的抓取ip段。我们从日志中可以清楚的看到大量的这两个ip段蜘蛛在访问网站的内页。


我们在服务器中,下载网站的日志文件,再把日志文件导入到特定的日志分析工具中,可以看到百度蜘蛛抓取网站页面的情况。可以通过下图,蜘蛛ip地址主要集中在220.181.108.*和116.179.32.*。这两个蜘蛛ip在大量抓取网站的内页。

image.png


通过ip138网站去分析ip的来源,其中116段ip是来自山西百度蜘蛛。220段ip是来自北京百度蜘蛛。都是百度蜘蛛标识。所以抓取上都是正确的。


image.png


image.png


这两段ip的百度蜘蛛抓取量很多。基本上百度方面的蜘蛛就已经抓取了2000多次了。不过发现了一个方法,可以提高220段蜘蛛的抓取量。就是百度站长平台抓取诊断里可以手动提交链接,然后就会发现220ip蜘蛛就会实时的抓取网站页面。

image.png

image.png


百度抓取诊断提交链接,每周只能提交70次,数量上有了很大的限制。不知道是出于什么原因限制次数。但是如果我们有大量的站点,或者批量绑定泛二级域名。这样提交的量就会有很多了。那么这里就要用到批量二级域名绑定软件了。可以自动化的进行二级域名批量绑定、删除、推送。



image.png




绑定完站点,其次进行10次主动推送,进行70次抓取诊断提交。然后进行删除处理,再去自动重复操作这一流程,这样就可以达到大量提交站点的目的了。







扫描二维码推送手机访问

文章内容均为原创,禁止转载!

本文链接:http://www.danmoseo.com/news/75.html

标签: seo软件

相关文章

多线程制作sitemap地图,集合到工具集

多线程制作sitemap地图,集合到工具集

这次在我的工具集中,增加一个新功能,就是sitemap地图的制作,核心思路当然是爬取网站所有页面,并对页面进行数据清洗,包括去重、分类、url类别判断。然后再将功能集合到seo工具集中。在代码部分,简单介绍一下,解析页面,然后通过BeautifulSoup对页面url进行提取,对url进行判断,同域...

多线程发包模拟点击软件界面运行

多线程发包模拟点击软件界面运行

前段时间写了一个模拟点击源码,以及网页系统的对接。在运行方面需要先安装python环境以及搭建网页和数据库,方可进行运行。这种方式比较复杂,不适合个人去使用,这次主要是做了一个qt软件,将源码进行封装,这样我们就不需要安装环境了,直接一键运行即可。下面是软件的简单界面,纯属个人简单设计(高手路过)在...

自动过旋转验证码并查询关键词排名

自动过旋转验证码并查询关键词排名

如果用程序持续查关键词排名的话,肯定会遭遇百度反爬机制,反爬手段就是旋转验证码,需要过了旋转验证码才可以继续爬取,在之前已经逆向解决了旋转验证码,那么查询排名就可以持续性自动化进行。如果不过旋转验证码,那么就要买大量的代理ip去替换ip查询,而且这种做法查询过程中也会遇到反爬,并且查询速度收代理ip...

百度域名批量添加和批量推送

百度域名批量添加和批量推送

好长时间没更新了,这段时间疫情原因居家办公做些工作方面的事也学点新的知识,SEO的事会根据大众反馈和需要去做一下。总之有好用的和SEO相关的知识都会拿出来分享一下,不会分享和SEO无关的知识内容。前面说到百度链接提交的功能,今天接着说一下百度域名批量提交和批量推送的功能,也是逆向验证码有关的知识内容...

百度站长二级域名批量添加

百度站长二级域名批量添加

接上一篇文章,这次将百度二级域名批量单独封装exe软件,进行一个批量添加操作。在正常页面进行二级域名绑定的时候,需要进行三步:1、输入网站,2、属性设置,3、文件验证。视频演示1、输入网站过旋转2、站点属性设置3、验证网站如果想做一个批量添加操作,每次都手动的话,未免会比较麻烦,这时可以用代码进行批...