百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 热门文章 > 正文

批量采集/下载网页中的图片数据

bigegpt 2024-09-12 11:21 8 浏览

l 采集网站

【场景描述】采集revisionvillage网页中所有真题图片的数据。

【源网站介绍】revisionvillage,国外知名IB真题网站,每道题都有视频讲解的IB数学刷题网站。

【使用工具】前嗅ForeSpider数据采集系统,免费下载:ForeSpider免费版本下载地址

【入口网址】https://www.revisionvillage.com/ib-math-analysis-and-approaches-hl/questionbank/number-and-algebra/sequences-and-series/

【采集内容】

采集页面中的真题图片数据。



【采集效果】如下图所示:


l 配置步骤

1. 新建采集任务

选择【采集配置】,点击任务列表右上方【+】号可新建采集任务,将采集入口地址填写在【采集地址】框中,【任务名称】自定义即可,点击下一步。


2.寻找图片链接

在浏览器中打开该页面,点击F12,选择指针后,点击页面中的图片位置,在源码中找到图片链接,如下图所示:



图片链接如下图所示:



将图片链接复制,在浏览器中打开,即为该图片页面:


3. 查找图片链接位置/规律

观察源码发现,每一个真题在源码中对应一个class,如下图所示:红框内表示真题1所对应的源码,绿框内为所有真题的源码,是从class为【et_builder_inner_content et_pb_gutters3】的子节点的下一个节点的下一个节点开始。



第一真题所对应源码打开以后,如下图所示,观察发现:图片链接的位置在该节点的子节点的下一个节点的子节点的子节点的子节点的子节点的href值。


4.数据抽取

①打开模板,新建一个数据抽取,如下图所示:



②新建数据表,具体如下图所示:



③关联数据表


④打开脚本窗口,新建数据抽取脚本。



⑤根据图片链接规律,编写脚本如下所示:



脚本文本:

var a = DOM.FindClass("et_builder_inner_content et_pb_gutters3","div");//定义a为class为【et_builder_inner_content et_pb_gutters3】的节点
var b = a.child.next.next.next;//定义b为a节点的子节点的下一个节点的下一个节点的下一个节点,即真题一所对应的源码中的位置节点
for(i=1;i<=32;i++){//写一个for循环,来获取每一个图片
record re;//返回数据固定搭配
re.id = i;//范围主键为i
var c=b.child.next.child.child.child.href;//定义c为b节点的子节点的下一个节点的子节点的子节点的子节点的href属性值,即获取到图片链接值
var doc = EXTRACT.OpenDoc(CHANN,c, "");//打开图片链接
var p=doc.GetDom().GetSource(c);//定义p为图片链接打开页面中的源码,即图片
re.pic=p;//返回p
Re.ex=“.png”;//返回后缀为.png
EXTRACT.CloseDoc(doc);//固定搭配,关闭图片链接
RESULT.AddRec(re,this.schemaid);//固定搭配,返回一个数据
b=b.next;//b为b的下一个节点,即下一个图片所对应源码的位置节点
}


⑥采集预览

发现图片都采集出来了,说明配置成功。



l 采集步骤

模板配置完成,采集预览没有问题后,可以进行数据采集。

1.建立数据表单

选择【数据建表】,点击【表单列表】中该模板的表单,在【关联数据表】中选择【创建】,表名称自定义,这里命名为【ID】(注意命名不能用数字和特殊符号),点击【确定】。创建完成,勾选数据表,并点击右上角保存按钮。



2.开始采集

选择【数据采集】,勾选任务名称,点击【开始采集】,则正式开始采集。



3.导出数据

采集结束后,可以在【数据浏览】中,选择数据表查看采集数据,并可以导出数据。





4.导出的文件打开如下图所示



本教程仅供教学使用,严禁用于商业用途!


l 前嗅简介

前嗅大数据,国内领先的研发型大数据专家,多年来致力于为大数据技术的研究与开发,自主研发了一整套从数据采集、分析、处理、管理到应用、营销的大数据产品。前嗅致力于打造国内第一家深度大数据平台!

相关推荐

当Frida来“敲”门(frida是什么)

0x1渗透测试瓶颈目前,碰到越来越多的大客户都会将核心资产业务集中在统一的APP上,或者对自己比较重要的APP,如自己的主业务,办公APP进行加壳,流量加密,投入了很多精力在移动端的防护上。而现在挖...

服务端性能测试实战3-性能测试脚本开发

前言在前面的两篇文章中,我们分别介绍了性能测试的理论知识以及性能测试计划制定,本篇文章将重点介绍性能测试脚本开发。脚本开发将分为两个阶段:阶段一:了解各个接口的入参、出参,使用Python代码模拟前端...

Springboot整合Apache Ftpserver拓展功能及业务讲解(三)

今日分享每天分享技术实战干货,技术在于积累和收藏,希望可以帮助到您,同时也希望获得您的支持和关注。架构开源地址:https://gitee.com/msxyspringboot整合Ftpserver参...

Linux和Windows下:Python Crypto模块安装方式区别

一、Linux环境下:fromCrypto.SignatureimportPKCS1_v1_5如果导包报错:ImportError:Nomodulenamed'Crypt...

Python 3 加密简介(python des加密解密)

Python3的标准库中是没多少用来解决加密的,不过却有用于处理哈希的库。在这里我们会对其进行一个简单的介绍,但重点会放在两个第三方的软件包:PyCrypto和cryptography上,我...

怎样从零开始编译一个魔兽世界开源服务端Windows

第二章:编译和安装我是艾西,上期我们讲述到编译一个魔兽世界开源服务端环境准备,那么今天跟大家聊聊怎么编译和安装我们直接进入正题(上一章没有看到的小伙伴可以点我主页查看)编译服务端:在D盘新建一个文件夹...

附1-Conda部署安装及基本使用(conda安装教程)

Windows环境安装安装介质下载下载地址:https://www.anaconda.com/products/individual安装Anaconda安装时,选择自定义安装,选择自定义安装路径:配置...

如何配置全世界最小的 MySQL 服务器

配置全世界最小的MySQL服务器——如何在一块IntelEdison为控制板上安装一个MySQL服务器。介绍在我最近的一篇博文中,物联网,消息以及MySQL,我展示了如果Partic...

如何使用Github Action来自动化编译PolarDB-PG数据库

随着PolarDB在国产数据库领域荣膺桂冠并持续获得广泛认可,越来越多的学生和技术爱好者开始关注并涉足这款由阿里巴巴集团倾力打造且性能卓越的关系型云原生数据库。有很多同学想要上手尝试,却卡在了编译数据...

面向NDK开发者的Android 7.0变更(ndk android.mk)

订阅Google官方微信公众号:谷歌开发者。与谷歌一起创造未来!受Android平台其他改进的影响,为了方便加载本机代码,AndroidM和N中的动态链接器对编写整洁且跨平台兼容的本机...

信创改造--人大金仓(Kingbase)数据库安装、备份恢复的问题纪要

问题一:在安装KingbaseES时,安装用户对于安装路径需有“读”、“写”、“执行”的权限。在Linux系统中,需要以非root用户执行安装程序,且该用户要有标准的home目录,您可...

OpenSSH 安全漏洞,修补操作一手掌握

1.漏洞概述近日,国家信息安全漏洞库(CNNVD)收到关于OpenSSH安全漏洞(CNNVD-202407-017、CVE-2024-6387)情况的报送。攻击者可以利用该漏洞在无需认证的情况下,通...

Linux:lsof命令详解(linux lsof命令详解)

介绍欢迎来到这篇博客。在这篇博客中,我们将学习Unix/Linux系统上的lsof命令行工具。命令行工具是您使用CLI(命令行界面)而不是GUI(图形用户界面)运行的程序或工具。lsoflsof代表&...

幻隐说固态第一期:固态硬盘接口类别

前排声明所有信息来源于网络收集,如有错误请评论区指出更正。废话不多说,目前固态硬盘接口按速度由慢到快分有这几类:SATA、mSATA、SATAExpress、PCI-E、m.2、u.2。下面我们来...

新品轰炸 影驰SSD多款产品登Computex

分享泡泡网SSD固态硬盘频道6月6日台北电脑展作为全球第二、亚洲最大的3C/IT产业链专业展,吸引了众多IT厂商和全球各地媒体的热烈关注,全球存储新势力—影驰,也积极参与其中,为广大玩家朋友带来了...