Python爬虫(8)

[复制链接]
发表于 2026-2-11 06:32:23 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

×
JsonPath先容使用

JsonPath是一种轻量级的查询库,可以从JSON文本数据中举行筛选和提取利用。有点类似于使用XPath在HTML数据中提取数据的功能。JsonPath 也可以通过使用类似于 XPath 的表达式来访问 JSON对象中的属性和元素,并支持通配符、筛选器和函数等利用。
安装下令
  1. pip install jsonpath
复制代码
官方文档
  1. http://goessner.net/articles/JsonPath
复制代码
Jsonpath根本语法
语法下令语法形貌$json数据的根节点@json数据的当前节点.或[]获取当前节点的子节点…选取恣意位置下符合条件的数据,用于跨界点获取数据*获取当前节点下的全部元素[]迭代器标示,用于选取数组下标[,]迭代器中可以输入多个索引值来选择数据?()可以举行过滤利用()支持表达式盘算使用jsonpath筛选豆瓣的jjson数据:
  1. import requests
  2. from jsonpath import jsonpath
  3. # 1、用户代理的构造
  4. headers = {
  5. "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36
  6. (KHTML, like Gecko) Chrome/104.0.0.0 Safari/537.36"
  7. }
  8. # 2、确认目标url
  9. url = "https://movie.douban.com/j/chart/top_list?
  10. type=24&interval_id=100%3A90&action=&start=0&limit=20"
  11. # 3、发送网络请求,获取响应对象
  12. response = requests.get(url, headers=headers)
  13. # 4、将响应的数据以json格式展示
  14. json_data = response.json()
  15. # print(json_data) 字典数据存放在列表中
  16. # 5、对列表中的数据进行遍历
  17. for json in json_data:
  18.         print('=========================================================')
  19.         # 6、对json数据进行筛选
  20.         # 筛选出title信息,并取出值
  21.         title = jsonpath(json, '$..title')[0]
  22.         print('电影名称:', title)
  23.         # 筛选电影评分
  24.         score = jsonpath(json, '$..score')[0]
  25.         print('电影评分:', score)
  26.         # 筛选电影标签(列表数据)
  27.         types = jsonpath(json, '$..types[*]') # 全部数据
  28.         # types = jsonpath(json, '$..types[0,1]') # 范围数据
  29.         # types = jsonpath(json, '$..types[(@.length-1)]')[0] # 最后一个数据
  30.         print('电影标签:', types)
  31.         # 筛选电影演员(列表数据)
  32.         actors = jsonpath(json, '$..actors.*')
  33.         print('电影演员:', actors)
  34.         print('=========================================================')
  35. # 从所有电影中筛选出演员人数大于40的电影数据
  36. movie_list = jsonpath(json_data, '$..?(@.actor_count>40)')
  37. print('电影人数大于40的电影:', movie_list)
复制代码
Json数据格式转换

json数据的格式转换是使用json模块中的loads和dumps方法来举行实现。
Json字符串 ===>json.loads() ===>ython字典范例
Python 字典范例 ===> json.dumps() ===> Json 字符串
测试代码
  1. import json
  2. # 1、定义json数据(json数据本质上是一个字符串)
  3. # 这里建议先格式化json字符串的内容后(运用spidetools),再运行
  4. movie_data = '''{"rating":
  5. ["9.6","50"],"rank":1,"cover_url":"https://img2.doubanio.com\/view\/photo\/s_rat
  6. io_poster\/public\/p2578474613.webp","is_playable":true,"id":"1292063","types":
  7. ["剧情","喜剧","爱情","战争"],"regions":["意大利"],"title":"美丽人
  8. 生","url":"https:\/\/movie.douban.com\/subject\/1292063\/","release_date":"2020-
  9. 01-03","actor_count":29,"vote_count":1336248,"score":"9.6","actors":["罗伯托·贝尼
  10. 尼","尼可莱塔·布拉斯基","乔治·坎塔里尼","朱斯蒂诺·杜拉诺","赛尔乔·比尼·布斯特里克","玛丽萨·帕
  11. 雷德斯","霍斯特·布赫霍尔茨","利迪娅·阿方西","朱利亚娜·洛约迪切","亚美利哥·丰塔尼","彼得·德·席
  12. 尔瓦","弗朗西斯·古佐","拉法埃拉·莱博罗尼","克劳迪奥·阿方西","吉尔·巴罗尼","马西莫·比安
  13. 奇","恩尼奥·孔萨尔维","吉安卡尔洛·科森蒂诺","阿伦·克雷格","汉尼斯·赫尔曼","弗兰科·梅斯科利
  14. 尼","安东尼奥·普雷斯特","吉娜·诺维勒","理查德·塞梅尔","安德烈提多娜","迪尔克·范登贝格","奥梅
  15. 罗·安东努蒂","沈晓谦","张欣"],"is_watched":false}'''
  16. # 2、将json转换为字典数据
  17. dict_data = json.loads(movie_data)
  18. print('数据类型为:', type(dict_data))
  19. print('数据内容为:', dict_data)
  20. # 3、将字典转换为json数据(中文会默认进行编码)
  21. json_data = json.dumps(dict_data, ensure_ascii=False)
  22. print('数据类型为:', type(json_data))
  23. print('数据内容为:', json_data)
复制代码
Json文件的读与写

json文件的读写与格式转换非常相似,也是使用json模块中的load和dump方法来举行实现。
Json 文件 ===> json.load() ===> Python 字典范例
Python 字典范例 ===> json.dump() ===> Json 文件
PS:
在对json文件举行读写时必要留意 load、loads 、dump、dumps的区分。此中带s的是用于转换格式的,不带s的才是读写文件的。
测试代码
  1. import json
  2. import requests
  3. # 1、用户代理的构造
  4. headers = {
  5. "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36
  6. (KHTML, like Gecko) Chrome/104.0.0.0 Safari/537.36"
  7. }
  8. # 2、确认目标url
  9. url = "https://movie.douban.com/j/chart/top_list?
  10. type=24&interval_id=100%3A90&action=&start=0&limit=20"
  11. # 3、发送网络请求,获取响应对象
  12. response = requests.get(url, headers=headers)
  13. # 4、将json字符串写入到文件中(设置中文不进行编码)
  14. with open('movie_data.json', 'w', encoding='utf-8') as file:
  15.         json.dump(response.json(), file, ensure_ascii=False)
  16. # 5、读取json文件的字符串数据
  17. with open('movie_data.json', 'r', encoding='utf-8') as file:
  18.         json_data = json.load(file)
  19. print('输出的格式为:', type(json_data))
  20. print('输出的内容为:', json_data)
复制代码
回复

使用道具 举报

登录后关闭弹窗

登录参与点评抽奖  加入IT实名职场社区
去登录
快速回复 返回顶部 返回列表