使用phantomjs进行网页抓取的实现代码

phantomjs因为是无头浏览器可以跑js，所以同样可以跑dom节点，用来进行网页抓取是再好不过了。

比如我们要批量抓取网页 “历史上的今天” 的内容。网站

对dom结构的观察发现，我们只需要取到 .list li a的title值即可。因此我们利用高级选择器构建dom片段

var d= ''
var c = document.querySelectorAll('.list li a')
var l = c.length;
for(var i =0;i<l;i++){
d=d+c[i].title+'\n'
}

之后只需要让js代码在phantomjs里跑起来即可~

var page = require('webpage').create();
	page.open('http://www.todayonhistory.com/', function (status) { //打开页面
		if (status !== 'success') {
			console.log('FAIL to load the address');
		} else {
			console.log(page.evaluate(function () {
					var d= ''
					var c = document.querySelectorAll('.list li a')
					var l = c.length;
					for(var i =0;i<l;i++){
					d=d+c[i].title+'\n'
					}
						return d
				}))

		}
		phantom.exit();
	});

最终我们另存为catch.js，在dos里面执行一下，输出内容到txt文件(也可以用phantomjs的文件api来写)

您可能感兴趣的文章:

• java利用phantomjs进行截图实例教程
• 解决phantomjs截图失败,phantom.exit位置的问题
• Python爬虫使用Selenium+PhantomJS抓取Ajax和动态HTML内容
• Java PhantomJs完成html图片输出功能
• phantomjs导出html到pdf的方法总结
• Node.JS利用PhantomJs抓取网页入门教程
• C#使用Selenium+PhantomJS抓取数据
• 基于Phantomjs生成PDF的实现方法
• Phantomjs抓取渲染JS后的网页（Python代码）
• PhantomJS快速入门教程(服务器端的 JavaScript API 的 WebKit)
• 基于linnux+phantomjs实现生成图片格式的网页快照
• 利用NodeJS和PhantomJS抓取网站页面信息以及网站截图
• Windows系统下PhantomJS的安装和基本用法