论坛
潜水/灌水快乐,沉淀知识,认识更多同行。
ToB圈子
加入IT圈,遇到更多同好之人。
朋友圈
看朋友圈动态,了解ToB世界。
ToB门户
了解全球最新的ToB事件
博客
Blog
排行榜
Ranklist
文库
业界最专业的IT文库,上传资料也可以赚钱
下载
分享
Share
导读
Guide
相册
Album
记录
Doing
搜索
本版
文章
帖子
ToB圈子
用户
免费入驻
产品入驻
解决方案入驻
公司入驻
案例入驻
登录
·
注册
只需一步,快速开始
账号登录
立即注册
找回密码
用户名
Email
自动登录
找回密码
密码
登录
立即注册
首页
找靠谱产品
找解决方案
找靠谱公司
找案例
找对的人
专家智库
悬赏任务
圈子
SAAS
IT评测·应用市场-qidao123.com
»
论坛
›
虚拟化.超融合.云计算
›
虚拟化与私有云
›
软科中国大学排名爬虫+数据可视化
软科中国大学排名爬虫+数据可视化
渣渣兔
金牌会员
|
2024-8-2 20:07:31
|
显示全部楼层
|
阅读模式
楼主
主题
985
|
帖子
985
|
积分
2955
马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
这一期是关于
软科中国大学排名
的爬虫分析
目标网址:https://www.shanghairanking.cn/rankings/bcur/2024
每页30所学校信息,共20页
点击翻页,你发现网址没有发生变化,说明该页面信息应该是使用js实现动态加载数据的方式展示的,以是我们无法通过 get 传参的方式来切换网页举行爬取。
接下来,按 F12 或者右键选择审查元素,搜刮一下清华大学检察网页结构:
这里我们可以看到信息都在一个 payload.js 的文件里,继承检察可以发现这里有590所学校的所有信息,说明网页表现的内容是通过 javascript 剖析这个文件动态加载进去的。
那我们只必要剖析这个文件就好了,找到各个变量对应的值。
最终爬取到的数据:
完备代码批评区获取
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复
使用道具
举报
0 个回复
倒序浏览
返回列表
快速回复
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
or
立即注册
本版积分规则
发表回复
回帖并转播
回帖后跳转到最后一页
发新帖
回复
渣渣兔
金牌会员
这个人很懒什么都没写!
楼主热帖
事务的ACID特性
SqlServer2012升级到SqlServer2016
深度干货!一篇Paper带您读懂HTAP | St ...
DCM: 中间件家族迎来新成员
iOS事件传递链与响应链
(内附源码)Node.js小试——使用Node ...
arthas使用介绍
.NET for Apache Spark 入门演练
go-zero单体服务使用泛型简化注册Handl ...
SaaS软件工程师成长路径
标签云
AI
运维
CIO
存储
服务器
浏览过的版块
SQL-Server
DevOps与敏捷开发
物联网
MES
.Net
快速回复
返回顶部
返回列表