《火车头采集步骤和数据导出详解》由会员分享,可在线阅读,更多相关《火车头采集步骤和数据导出详解(25页珍藏版)》请在金锄头文库上搜索。
1、火车头采集1、什么是采集源?、什么是采集源?2、认识火车头采集工具、认识火车头采集工具3、火车头采集工具的使用方法、火车头采集工具的使用方法4、数据导出与处理、数据导出与处理课程内容1 1、什么是采集源?、什么是采集源?一些网站有大量的文章、图片、邮箱等信息,对我们来说是一种资源,我们可以利用工具将这些资源采集回来,为我们所用。这样的网站,就是采集源。1.1 1.1 什么样的网站能成为什么样的网站能成为“ “采集源采集源” ”?1、采集的目标页面,不需要登录即可访问;2、采集的内容列表页面url跟随一定的规律改变;3、该网站不屏蔽不干扰采集器的工作。2 2、认识火车头采集工具、认识火车头采集工
2、具火车采集器,是目前使用人数最多的互联网数据抓取、处理、分析,挖掘软件。软件凭借其灵活 的配置与强大的性能领先国内数据采集类产品。使用火车采集器,你可以建立一个拥有庞大内容的网站。2.12.1、火车头采集工具的工作原理、火车头采集工具的工作原理火车采集器如何去抓取数据,取决于您的规则。要获取内容页的内容,首先需要先将这个网页的网址采下来,这就是采网址。程序按规则抓取列表页里的内容页url。再根据您的采集规则,将,将标题内容等信息分离开来并保存下来。如果选择了下载图片,程序会对采集到的数据进行分析,找出图片的下载地址并将图片下载到本地。3 3、火车头采集工具的使用方法、火车头采集工具的使用方法3
3、.1 打开火车头工具,单击左侧空白处,根据需要新建分组3.2 右击刚才建立好的分组,新建采集任务,并填写好任务名称3.3 填写批量采集网址规则,注意先分析目标列表页url规则3.4 设置“多级网址获取”规则3.4 设置“多级网址获取”规则,并测试设置好的规则是否生效3.5 校验设置好的规则是否生效,如果生效,则返回修改设置;如果得到的结果不正确,也需要返回修改设置(重新分析采集范围是否正确,一直校验到是我们需要的结果)3.6 返回修改采集的项数,并且记得点击“添加”和“完成”3.7 进入到第二步“采集内容规则”采集文章的标题采集文章的标题,选中“标题”,点击左侧的修改,选择“前后截取”,将文章
4、标题的html区域填写完整,右侧“典型页面”填写一条内容页url,以供随时测试。3.8 采集文章的“摘要”3.9 采集文章的“标签”3.10 采集文章的“内容”填写内容所在区间的html标签,添加数据处理,勾选“下载图片”并填写文件保存目录和格式,最后点击确定。3.11 保存设置好的采集任务3.12 开始采集任务我们会看到,右侧任务运行的状况,一切正常4、数据导出与处理采集到的数据,需要用Accesss软件才能处理,因此,如果我们的电脑没有这个软件,则需要先安装Access软件。4.1、安装Access4.2、选中已经采集完成的任务,并右击出现下拉菜单后,打开Data下任务文件夹,出现第二个截图以.mdb扩展名的文件。4.3、双击打开.mdb扩展名的文件,此时由于已经安装了Access,办公软件已经能正确识别.mdb文件,打开结果如下:4.4、已经能用Excel打开采集到的文章内容之后,就可以利用Excel对数据进行批量处理,比如批量添加文章的发布时间、批量替换文字、批量修改图片路径等等。比如:在Excel表格里,按Ctrl+F,出现的对话框中选择“替换”,填写好需要替换的文字,即可对采集到的内容进行批量替换文字。4.1、安装Access选中Excel表格的“内容”列,用查找功能,将图片路径“10_12/xxxxx.jpg”替换为http:/