php爬取数据,数据爬取方法

php的curl怎么爬取网页内容

创建一个新cURL资源

成都创新互联是一家专注于网站制作、成都网站制作与策划设计,金口河网站建设哪家好?成都创新互联做网站,专注于网站建设10年,网设计领域的专业建站公司;建站业务涵盖:金口河等地区。金口河做网站价格咨询:13518219792

设置URL和相应的选项

抓取URL并把它传递给浏览器

关闭cURL资源，并且释放系统资源

代码案例：

先访问网页，使用curl或者file_get_contents获取，然后再用正则判断即可获取

1.访问 genvisitor 获取一个tid.

2.用tid 先获取一个 cookie，同时得到2个参数 sub subp。

3.带着获得的cookie，和sub subp 2个参数获得第二个cookie。

4.最后用第二个cookie访问要抓取的页面。

直接用Curl就行，具体爬取的数据可以穿参查看结果，方法不区分淘宝和天猫链接，但是前提是必须是PC端链接，另外正则写的不规范，所以可以自己重写正则来匹配数据。

pcntl_fork或者swoole_process实现多进程并发。按照每个网页抓取耗时500ms，开200个进程，可以实现每秒400个页面的抓取。

curl实现页面抓取，设置cookie可以实现模拟登录

simple_html_dom 实现页面的解析和DOM处理

如果想要模拟浏览器，可以使用casperJS。用swoole扩展封装一个服务接口给PHP层调用

在这里有一套爬虫系统就是基于上述技术方案实现的，每天会抓取几千万个页面。

本文题目：php爬取数据,数据爬取方法
文章地址：http://cdiso.cn/article/heiieo.html