HTTrack
开发者 | Xavier Roche[1] |
---|---|
当前版本 | 3.49-2(2017年5月20日[2]) |
原始码库 | |
编程语言 | C语言 |
操作系统 | Microsoft Windows, Mac OS X, GNU/Linux和FreeBSD |
类型 | 离线浏览、网络爬虫 |
许可协议 | GNU通用公共许可协议 |
网站 | www |
HTTrack是一个自由、开源的网络爬虫以及离线浏览器。它的作者是泽维尔·罗奇(Xavier Roche),在GNU通用公共许可协议(GPL)下发布。
用户可以通过HTTrack把互联网上的网站页面下载到本地电脑上。在默认设置下,HTTrack对网站页面的下载结果是按照原始站点相对链接的结构来组织的。用网页浏览器打开这个被下载下来的网站(也称作镜像)的页面,就可以离线浏览了。
HTTrack也能对已经镜像过的站点进行更新。或者是对中断了的工作断点续传。可以通过选项和过滤器(include/exclude)配置HTTrack的方方面面。它还集成有帮助系统。它有一个基本的命令行版本和两个GUI(为Windows设计的WinHTTrack和为Unix-like系统设计的WebHTTrack);命令行版本可以和Shell脚本(Shell script)以及cron联用。
HTTrack使用网络爬虫下载网站。对于有robots.txt的网站,如果不在程序运行时取消限制,默认设置下的程序不会把网站完全镜像。HTTrack能跟随基本的JavaScript,或者Applet、Flash中的链接,但是对于复杂的链接(使用函数和表达式创建的链接)或者伺服器端的Image Map则无能为力。
安装与使用
[编辑]在许多Unix-like系统下,只需要用包管理工具安装httrack即可。例如Debian使用
sudo aptitude install httrack
一个使用例子:
httrack "http://www.all.net/" -O "/tmp/www.all.net" "+*.all.net/*" -v
它的意思是:以http://www.all.net/ 为起始URL,输出到/tmp/www.all.net文件夹,范围是www.all.net域名下的所有文件,并显示所有错误信息(verbose)。更详细的资讯请看官网上的Users Guide[3]。
参见
[编辑]脚注
[编辑]- ^ Credits: Greetings & authors. [2012-10-26]. (原始内容存档于2020-04-29).
- ^ 存档副本. [2012-10-26]. (原始内容存档于2012-10-25).
- ^ Httrack Users Guide. [2012-10-26]. (原始内容存档于2012-10-26).