深入分析python数据挖掘 Json结构分析-Python教程-PHP中文网

深入分析python数据挖掘 Json结构分析

不言

发布： 2018-04-21 14:26:14

原创

1405人浏览过

这篇文章通过实例给大家分析总结了python数据挖掘以及json结构分析的相关知识点，对此有兴趣的朋友参考下。

json是一种轻量级的数据交换格式，也可以说是一种配置文件的格式

这种格式的文件是我们在数据处理经常会遇到的

python提供内置的模块json，只需要在使用前导入即可

你可以通过帮助函数查看json的帮助文档

json常用的方法有load、loads、dump以及dumps，这个都属于python初级，我不做过多解释

json可以结合数据库一起使用，在这以后要处理大量数据时非常有用

下面我们正式来利用数据挖掘对json文件进行处理

现在很多网站都运用了Ajax，所以一般很多都是XHR文件

通过这里我想利用一个地图网站来演示

我们通过浏览器的调试获取了相关url

https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ

下面我们通过requests模块中的get方法，模拟浏览器发出的http请求，并返回的到的结果对象

代码如下

# coding=utf-8
__Author__ = "susmote"

import requests
url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ"

resp = requests.get(url)
print(resp.text[0:200])

登录后复制

在终端中运行结果如下

数据已经获取到了，但是为了接下来能使用这些数据，我们需要利用json模块对这些数据进行分析

代码如下

import requests
import json

url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ"

resp = requests.get(url)

json_dict = json.loads(resp.text)

print(type(json_dict))

print(json_dict.keys())

登录后复制

简单讲一下上面的代码：

导入json模块，然后调用loads方法，将返回的文本作为方法的参数传入

在终端中运行结果如下

可以看出，转换的结果是与json字符串对应的字典，因为type（json_dict）返回的是

因为对象是一个字典，所以我们可以调用字典的方法，在这里我们调用的就是keys方法

结果返回三个键，即status、searcOpt、data

下面我们来查看data键里面的数据

import requests
import json

url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ"

resp = requests.get(url)

json_dict = json.loads(resp.text)

print(json_dict[&#39;data&#39;])

登录后复制

下面在终端中运行这一段代码

可以看到里面有很多我们需要的数据，如

不一一标出，通过跟网页显示的相比较，就能清楚哪些是有用的了

下面我们通过代码获取有用的信息，把它清晰的输出

# coding=utf-8
__Author__ = "susmote"

import requests
import json

url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ"

resp = requests.get(url)

json_dict = json.loads(resp.text)

data_dict = json_dict[&#39;data&#39;]

data_list = data_dict[&#39;poi_list&#39;]

dis_data = data_list[0]

print(&#39;城市： &#39;, dis_data[&#39;cityname&#39;])
print(&#39;名称： &#39;, dis_data[&#39;name&#39;])
print(&#39;电话： &#39;, dis_data[&#39;tel&#39;])
print(&#39;区号： &#39;, dis_data[&#39;areacode&#39;])
print(&#39;地址： &#39;, dis_data[&#39;address&#39;])
print(&#39;经度： &#39;, dis_data[&#39;longitude&#39;])
print(&#39;纬度： &#39;, dis_data[&#39;latitude&#39;])

登录后复制

因为返回的是一个字典，通过对文件结构的研究，字典中嵌套着列表，列表中又嵌套着字典，通过层层解套，成功获取数据

我这里把步骤分开列出了，所以你会看的更加清楚

下面我们通过终端运行程序，获取我们想要的信息