java.net.SocketException: Connection reset 异常之爬虫场景排查解决

场景:爬虫微服务爬取某一网站内容,经测试,已通过,并在多家客户部署,但是其中一家出现了该问题。

排查过程:

首先,因为在本地和其它客户那里,都是正常使用,首先排除掉了代码问题。

然后,ping 域名,telnet端口测试,因为是https的请求,所以telnet 域名 443,测试发现,ping域名能通,443端口不通,

于是打开443端口,再次测试,还是同样的异常,这个时候就陷入沉思了。。。

最后,尝试在用户电脑浏览器直接访问爬虫爬取网站,发现,居然是访问不通,直接提示访问被拒绝,让联系XXX。

这样初步认定是客户公司内部防火墙策略屏蔽了该网站,导致无法与爬虫网站建立连接导致。

解决办法:开放对该网站的屏蔽策略。

总结:遇到此类异常,可以先ping和telnet端口,看看出入站规则有没有打开,然后,除了出入站规则,还有防火墙安全策略需要检查。

你可能感兴趣的:(爬虫)