服务粉丝

我们一直在努力
当前位置:首页 > 财经 >

盘点一个Python网络爬虫过程中Xpath提取器的问题

日期: 来源:Python爬虫与数据挖掘收集编辑:Python进阶者
点击上方“Python爬虫与数据挖掘”,进行关注

回复“书籍”即可获赠Python从入门到进阶共10本电子书

问客何为来,采山因买斧。

大家好,我是皮皮。

一、前言

前几天在Python钻石交流群【海南菜同学】问了一个Python网络爬虫的问题,这里拿出来给大家分享下。

下图是他获取到的内容:

其实就是多提取了这一行,提到了这个表格内容后,把下面的页码也一同提取了,然后那个页码很多,就显示一堆无用的信息。

二、实现过程

这里【瑜亮老师】给了一个思路,使用pd.read_html进行提取的,事半功倍,代码如下所示:

import requests
import pandas as pd
url = "https://zw.hainan.gov.cn/ggzy/ggzy/jgzbgg/index.jhtml"
resp = requests.get(url, headers=headers, cookies=cookies)
df = pd.read_html(resp.text)[0]
df.drop([len(df)-1], inplace=True)
print(df)

顺利地解决了粉丝的问题:

提取网页信息的方法还是挺多的。

后来【甯同学】也给了一个方法,使用xpath方法解决的,代码如下:

里边有个匿名函数可能不太好理解,这里也给予说明了。

直接在代码中将空白字符、换行符什么的都清除掉了。

后来代码稍微优化了下,健壮性更强了。

三、总结

大家好,我是皮皮。这篇文章主要盘点了一个Python网络爬虫的问题,文中针对该问题,给出了具体的解析和代码实现,帮助粉丝顺利解决了问题。

最后感谢粉丝【海南菜同学】提问,感谢【瑜亮老师】、【甯同学】给出的思路和代码解析,感谢【eric】等人参与学习交流。

大家在学习过程中如果有遇到问题,欢迎随时联系我解决(我的微信:pdcfighting),应粉丝要求,我创建了一些高质量的Python付费学习交流群和付费接单群,欢迎大家加入我的Python学习交流群和接单群!

小伙伴们,快快用实践一下吧!如果在学习过程中,有遇到任何问题,欢迎加我好友,我拉你进Python学习交流群共同探讨学习。

------------------- End -------------------

往期精彩文章推荐:

欢迎大家点赞,留言,转发,转载,感谢大家的相伴与支持

想加入Python学习群请在后台回复【入群

万水千山总是情,点个【在看】行不行

/今日留言主题/

随便说一两句吧~~

相关阅读

  • 盘点一个Python处理的基础题目

  • 大家好,我是皮皮。一、前言前几天在Python最强王者交流群【Chloe】问了一道Python处理的问题,如下图所示。原始数据如下:origin_lst = [0, 0, 1, 2, 3, 4, 4, 5, 6, 6, 6, 7, 8
  • 连代码调试都一窍不通,还谈啥会VBA?

  • HI,大家好,我是星光。有句俗话说的好,一段优秀的代码,三分靠编写七分靠调试。今天我就给大家聊一下VBA代码调试的问题:一段代码写完了,运算结果却不对,到底应该如何发现并改正错误?
  • 太爽了!什么都能搜到!10000TB资源!

  • 这里是一路软件,一个简洁 · 高效的公众号 前言: 昨天给大家分享电脑端的WPS无限制ZG邮政版,大家反响不错。肯定也有很多错过阅读的朋友们,大家可以点击黄色字体进行跳
  • 2023中国AIGC市场潜力研究报告

  • “未来几年内,AIGC技术将在多个领域落地,预计到2030年,AIGC的产业规模将突破千亿元。”01研究方向及背景AIGC是AI Generated Content的缩写,指利用人工智能技术生成的内容。它也
  • 守护乡村的“60天” 这个冬天有点“暖”

  • “在这里,我看到公益这颗种子,种进了与我同去的女儿心里。“人心是暖的,捂着捂着就更热了。”“赠人玫瑰,手留余香,公益让人上瘾,身体力行比口头说要去做,更有感染力。”“保安、司

热门文章

  • “复活”半年后 京东拍拍二手杀入公益事业

  • 京东拍拍二手“复活”半年后,杀入公益事业,试图让企业捐的赠品、家庭闲置品变成实实在在的“爱心”。 把“闲置品”变爱心 6月12日,“益心一益·守护梦想每一步”2018年四

最新文章

  • 盘点一个Python处理的基础题目

  • 大家好,我是皮皮。一、前言前几天在Python最强王者交流群【Chloe】问了一道Python处理的问题,如下图所示。原始数据如下:origin_lst = [0, 0, 1, 2, 3, 4, 4, 5, 6, 6, 6, 7, 8
  • 盘点一个Python网络爬虫过程中Xpath提取器的问题

  • 点击上方“Python爬虫与数据挖掘”,进行关注回复“书籍”即可获赠Python从入门到进阶共10本电子书今日鸡汤问客何为来,采山因买斧。大家好,我是皮皮。一、前言前几天在Python钻