当前位置:  开发笔记 > 编程语言 > 正文

http连接的最佳java lib?

如何解决《http连接的最佳javalib?》经验,为你挑选了1个好方法。

大家好我正在编写一个简单的网页抓取脚本,需要连接到网页,自动跟踪302重定向,给我链接的最终网址,让我抓住HTML.

做这些事情的首选java lib是什么?

谢谢



1> BalusC..:

您可以使用Apache HttpComponents Client(或"普通的Java SE内置和详细URLConnectionAPI").对于HTML解析/遍历/操作部分,Jsoup可能很有用.

请注意,有点像样的爬虫应该遵守robots.txt.您可能想看一下现有的基于Java的webcrawler,比如J-Spider Apache Nutch.

推荐阅读
mobiledu2402851323
这个屌丝很懒,什么也没留下!
DevBox开发工具箱 | 专业的在线开发工具网站    京公网安备 11010802040832号  |  京ICP备19059560号-6
Copyright © 1998 - 2020 DevBox.CN. All Rights Reserved devBox.cn 开发工具箱 版权所有