在百度站长平台里，有一个抓取诊断页面，这个页面可以提交链接，提交后百度蜘蛛可以实时来访问，或许可以带来抓取频次的增加。但是每周只能提交70个链接。对于单个域名提交有限制。如果我们有大量的二级域名或者泛域名进行批量自动化提交，那效率都提升了，也许蜘蛛量也能大幅增加。这次做了一个自动化诊断工具，可以多线程批量自动化提交诊断链接。
演示视频
软件界面如下，可以设置打码方式、cookies、站点路径、线程数量，可以进行自动化的提交。打码方面支持云码、图鉴和我个人的识别接口。
cookies批量设置多条，一行一条，软件会循环读取cookies中已经绑定好的域名，并进行诊断提交。
site.txt放入已经绑定好的域名，一行一个，这里软件可以多线程批量读取每一行站点进行自动提交
tsgz.txt中放入要诊断提交的链接，这里支持泛目录，{字母5}，{数字5}html等格式进行泛提交。不过每个域名放70条链接就行了。因为每周只能提交70条链接。
然后软件就可以开始运行了
一、主动提交某so狗的主动提交需要账号密码登录，然后再进行post请求，那么自然而然需要保持cookie一致或者session会话一直，这里用到session会比较方便。1、请求验证码验证码的源码是svg标签格式，需要通过对svg转成验证码图片，然后才能进行识别，这里识别用到了第三方打码平台，其实有...
一般我们遇到点选验证码的时候，最简单的方式就是通过selenium调用浏览器，对验证码区域定位截图然后调用平台识别文字坐标。但是用selenium是比较麻烦的。我们还可以用js逆向识别参数生成方式，最后再用接口调用，下面就举例一下360提交的点选验证码js逆向调用。对于这样的点选验证码，我们要知道图...
二级域名批量诊断推送的意思就是百度站长平台抓取诊断功能，这个功能提交后，可以实时的来蜘蛛访问。但是如果手动去诊断的话,也非常麻烦，而且每次都要验证一下旋转。先来看看正常抓取诊断，每个域名每周可抓取70次。视频演示在代码中首先要获取指定站点的id值设置规则，随机字母推送网站链接过旋转验证整体的核心思想...
这几天，有个用户找我做百度贴吧回复采集，将出现的验证码也识别通过，那么我正好有这个旋转验证码逆向源码，可以接入到百度贴吧中，只要出现验证码逆向通过就行了。爬虫采集的问题不大，主要是旋转验证码需要接入，接入的规则也是要根据网页的参数需求。视频演示：贴吧采集就不细说了，这里我用了多线程采集，速度已经非常...
如果我们想做一些搜狗页面的一些数据分析，比如网站关键词排名，挖掘相关搜索词等任务，用代码自动化请求时间过长，会触发搜搜验证码机制。对于这个验证码，可以识别验证码并请求通过。遇到这类情况，可以分析一下接口，经过分析，在代码中进行还原请求data参数中suuid和auuid在页面源码中可以获取到，r、p...
3个月前 (07-21)
3个月前 (07-17)
3个月前 (07-15)
3个月前 (07-14)
3个月前 (07-13)