题目如下：
共由6个函数组成：
第一个函数爬取数据并转为dataframe；
第二个函数爬取数据后存入excel中，对于解题来说是多余的，仅当练手以及方便核对数据；
后面四个函数分别对应题目中的四个matplotlib图，为了看起来简洁，所有耦合较高。
下面对每个函数详细介绍
0、包导入
#!/usr/bin/env python3 # -*- coding:utf-8 -*- import requests import json import openpyxl import pandas import matplotlib.pyplot as plt import re
1、爬取数据并转为dataframe
在url1中可以查到数据，由于网站是异步加载，要抓包得到url2，得到json数据。
用.text方法读取，并使用json.loads()函数转为python对象。
对数据获取和重组要结合url2的数据结构，分层拆开打印 后就可以轻松看到数据获取和重组的部分了。
最后一步pandas.dataframe(df_dict, index=years[1:], columns=names)获取到的dataframe列名为地区，行索引为年份，
在使用.stack().unstack(level=0)将其行列互转。
def get_data_to_df():
"""
获取国家数据网上的旅游行业数据并转为dataframe返回
:return: dataframe
"""
url = "http://data.stats.gov.cn/easyquery.htm?cn=c01" # 数据查询地址
# json数据地址
url2 = "http://data.stats.gov.cn/easyquery.htm?m=querydata&dbcode=hgnd&rowcode=zb&colcode=sj&wds=%5b%5d&dfwds=%5b%7b%22wdcode%22%3a%22zb%22%2c%22valuecode%22%3a%22a0k05%22%7d%5d&k1=1571666678154&h=1"
headers = {
'user-agent': 'mozilla/5.0 (windows nt 10.0; win64; x64) applewebkit'
'/537.36 (khtml, like gecko) chrome/67.0.3396.62 safari/537.36'}
html = requests.get(url2, headers=headers).text
data = json.loads(html, encoding='utf-8')
names = [i["name"] for i in data["returndata"]["wdnodes"][0]["nodes"]]
years = [i["name"] for i in data["returndata"]["wdnodes"][1]["nodes"]]
years.insert(0, "指标")
df_dict = {}
for num in range(len(names)):
sub_data = [i["data"]["strdata"] for i in data["returndata"]["datanodes"][num * 10:num * 10 + 10]]
sub_data.insert(0, names[num])
df_dict[sub_data[0]] = sub_data[1:]
# print(sub_data)
df = pandas.dataframe(df_dict, index=years[1:], columns=names).stack().unstack(level=0)
return df
2、爬取数据并存入excel
url解析部分同上。
为了简便，对excel写入数据使用append方法，所以年份作为数据的第一行，要在最前面加上一个列名，存入a1单元格。
def get_data_to_excel():
"""
获取国家数据网上的旅游行业数据并存到data.xlsx中
:return: .xlsx文件
"""
# json数据地址
url2 = "http://data.stats.gov.cn/easyquery.htm?m=querydata&dbcode=hgnd&rowcode=zb&colcode=sj&wds=%5b%5d&dfwds=%5b%7b%22wdcode%22%3a%22zb%22%2c%22valuecode%22%3a%22a0k05%22%7d%5d&k1=1571666678154&h=1"
headers = {
'user-agent': 'mozilla/5.0 (windows nt 10.0; win64; x64) applewebkit'
'/537.36 (khtml, like gecko) chrome/67.0.3396.62 safari/537.36'}
html = requests.get(url2, headers=headers).text
data = json.loads(html, encoding='utf-8')
names = [i["name"] for i in data["returndata"]["wdnodes"][0]["nodes"]]
years = [i["name"] for i in data["returndata"]["wdnodes"][1]["nodes"]]
years.insert(0, "指标")
workbook = openpyxl.workbook()
worksheet = workbook.active
worksheet.append(years)
for num in range(len(names)):
sub_data = [i["data"]["strdata"] for i in data["returndata"]["datanodes"][num * 10:num * 10 + 10]]
sub_data.insert(0, names[num])
worksheet.append(sub_data)
# print(sub_data)
workbook.save("data.xlsx")
因为下面4个图都是matplotlib的，所以直接在这里进行中文和负号乱码问题的处理
plt.rcparams['font.sans-serif'] = ['arial unicode ms'] # 配置语言 plt.rcparams['axes.unicode_minus'] = false # 解决负号乱码
3、matplotlib饼图
调用get_data_to_df()得到dataframe，然后取出2018年的一列数据，再转为dict方便数据获取。
因为dataframe中的行索引是url上的原始数据 如“朝鲜入境游客”，而要输出的图例只是国家名，所有对countries 加上 “入境游客”来匹配dataframe中的对应人次。
def asian_countries_pie():
countries = ["朝鲜", "印度", "印度尼西亚", "日本", "马来西亚", "蒙古", "菲律宾", "新加坡", "韩国", "泰国"]
df = dict(get_data_to_df()["2018年"])
data = [df[i + "入境游客"] for i in countries]
plt.pie(data, labels=countries)
plt.title('2018年亚洲各国入境人次占比', fontsize=18)
plt.show()
# asian_countries_pie() # 图1
4、折线图
获取dataframe的列名后，转为list，并反序排列，得到2009-2018正序的年份列表。
从dataframe中获取对应的国家的10年数据，后均反序排列处理，数据要转为float才能传入matplotlib的plot中。
def asian_countries_line():
countries = ["朝鲜", "印度", "印度尼西亚", "日本", "马来西亚", "蒙古", "菲律宾", "新加坡", "韩国", "泰国"]
df = get_data_to_df()
years = df.columns.values.tolist()[::-1]
data1 = [float(i) for i in dict(df.loc[countries[0] + "入境游客"]).values()][::-1]
data2 = [float(i) for i in dict(df.loc[countries[1] + "入境游客"]).values()][::-1]
data3 = [float(i) for i in dict(df.loc[countries[2] + "入境游客"]).values()][::-1]
data4 = [float(i) for i in dict(df.loc[countries[3] + "入境游客"]).values()][::-1]
data5 = [float(i) for i in dict(df.loc[countries[4] + "入境游客"]).values()][::-1]
data6 = [float(i) for i in dict(df.loc[countries[5] + "入境游客"]).values()][::-1]
data7 = [float(i) for i in dict(df.loc[countries[6] + "入境游客"]).values()][::-1]
data8 = [float(i) for i in dict(df.loc[countries[7] + "入境游客"]).values()][::-1]
data9 = [float(i) for i in dict(df.loc[countries[8] + "入境游客"]).values()][::-1]
data10 = [float(i) for i in dict(df.loc[countries[9] + "入境游客"]).values()][::-1]
plt.plot(years, data1, label=countries[0])
plt.plot(years, data2, label=countries[1])
plt.plot(years, data3, label=countries[2])
plt.plot(years, data4, label=countries[3])
plt.plot(years, data5, label=countries[4])
plt.plot(years, data6, label=countries[5])
plt.plot(years, data7, label=countries[6])
plt.plot(years, data8, label=countries[7])
plt.plot(years, data9, label=countries[8])
plt.plot(years, data10, label=countries[9])
plt.title("近十年亚洲各国入境人次走势图")
plt.ylabel('入境游客(万人次)', fontsize=14) # y轴名称，字号
plt.legend(loc='upper right') # 这里为显示图例，并配置图例位置为右上角
plt.show()
# asian_countries_line() # 图2
5、又是饼图
获取行索引，regions
在行索引中找到名字里带“洲”的，取得去掉后面“入境游客”四个字符的名称即洲名。
在dataframe 2018年 一整列数据中 取得洲游客数据。
def continents_pie():
df = get_data_to_df()
regions = df.index.tolist()
continents = [i[:-4] for i in regions if re.search("洲", i)]
data = [v for k, v in df["2018年"].to_dict().items() if (k[:-4] in continents)]
plt.pie(data, labels=continents)
plt.title("各州入境人次占比")
plt.show()
# continents_pie() # 图3
6、又是折线图
获取洲名称列表同上。
本次要取各大洲的一整行数据，用到dataframe.loc[行索引] 方法。
def continents_line():
df = get_data_to_df()
years = df.columns.tolist()[::-1]
regions = df.index.tolist()
continents = [i[:-4] for i in regions if re.search("洲", i)]
asia = [float(i) for i in df.loc[continents[0] + "入境游客"].to_dict().values()][::-1]
africa = [float(i) for i in df.loc[continents[1] + "入境游客"].to_dict().values()][::-1]
europe = [float(i) for i in df.loc[continents[2] + "入境游客"].to_dict().values()][::-1]
latin = [float(i) for i in df.loc[continents[3] + "入境游客"].to_dict().values()][::-1]
america = [float(i) for i in df.loc[continents[4] + "入境游客"].to_dict().values()][::-1]
oceania = [float(i) for i in df.loc[continents[5] + "入境游客"].to_dict().values()][::-1]
plt.plot(years, asia, label=continents[0])
plt.plot(years, africa, label=continents[1])
plt.plot(years, europe, label=continents[2])
plt.plot(years, latin, label=continents[3])
plt.plot(years, america, label=continents[4])
plt.plot(years, oceania, label=continents[4])
plt.title("近十年各洲入境人次走势图")
plt.legend(loc="upper right")
plt.show()
continents_line() # 图4
