各种语言写网络爬虫有什么优点缺点？
发布网友
发布时间：2022-04-20 13:44
共1个回答
热心网友
时间：2023-07-15 12:48
爬虫，其实网络爬虫（Webcrawler）的一种简写，爬虫就是预先制定的规则，自动地抓取万维网网页页面信息的程序或者脚本，它们被广泛用于互联网搜索引擎或其他类似网站，可以自动采集所有其能够访问到的页面内容，以获取或更新这些网站的内容和检索方式。从功能上来讲，爬虫一般分为数据采集，处理，储存三个部分。
在爬虫技术开发方面，爬虫分为三类爬虫：
（1）分布式爬虫：Nutch
（2）JAVA爬虫：Crawler4j、WebMagic、WebCollector
（3）非JAVA爬虫：scrapy（基于Python语言开发）
分布式爬虫一般应用于大量数据爬取，用于爬取海量URL的场景。
java爬虫是发展的最为完善的一种爬虫。由于java语言的健壮性和整个生态的原因，java爬虫发展出了一整台爬虫的机制，不管是类库、开发、调试，整个过程都是十分规范和简单的。并且有很多开源项目可以参考和使用，社区非常活跃和完善。能够适用于很多企业开发应用场景。
Python爬虫，python可以用30行代码，完成JAVA50行代码干的任务。python写代码的确快，但是在调试代码的阶段，python代码的调试往往会耗费远远多于编码阶段省下的时间。使用python开发，要保证程序的正确性和稳定性，就需要写更多的测试模块。当然如果爬取规模不大、爬取业务不复杂，使用python这种爬虫也是蛮不错的，可以轻松完成爬取任务。
所以，如果提问者需要学习爬虫，可以先考虑下自己学爬虫的目的是什么比较好，根据你的目的去进行技术选型才是最省力的一种，不过一般作为个人开发者的话，Python还是最实用的。
