python数据分析与展示 嵩天_【学习笔记】PYTHON数据分析与展示(北理工 嵩天)

0 数据分析之前奏

课程主要内容:

1393680-20190905111535364-175428408.png常用IDE:

1393680-20190905111546356-439044808.png本课程主要使用:AnacondaAnaconda:一个集合,包括conda、某版本Python、一批第三方库等

-支持近800个第三方库

-适合科学计算领域

-包含多个主流工具

-开源免费

-跨平台

本身不是个ide 是将多个工具集成在一起的

conda

-一个工具,用于包管理和环境管理

-包管理与pip类似,管理Python第三方库

-环境管理能够允许用户使用不同版本的Python,并能灵活切换

conda将工具、第三方库、Python版本、conda都当作包,同等对待

conda有命令行工具

C:\Users\king\Anaconda3\Scripts\conda.exe –version 可以查看conda版本

conda update conda 升级conda

刚开始的是命令行,现在也集成为GUI,anaconda默认生成root的环境空间

1393680-20190905111552412-293056930.png编程工具:spyder

1393680-20190905111558356-555492042.png默认不舒服 改下

1393680-20190905111604358-1258149330.png

交互式编程环境:IPython

-是一个功能强大的交互式shell

-适合进行交互式数据可视化和GUI相关应用

IPython几个技巧

?:可以在变量或者函数前面加?获得通用信息

%run :可以执行.py程序 注意:%run在一个空的命名空间执行%

1393680-20190905111608354-687259640.png

trouble shooting:

在ubuntu18中安装了anaconda3,启动spyder报错Segmentation fault (core dumped)

安装conda install pyopengl 然后再启动 卡住半天没了 出现killed报错 我日 然后升级了下anaconda3到最新才好了

1. 数据分析之表示

1.1 NumPy库入门

数据的维度

一维数据 列表、集合

二维数据 表格是经典的二维数据 用列表表示

多维数据 二维数据在更多维度上展开 比如时间维度 用列表表示

高维数据 仅使用最基本的二元关系展示复杂关系 key-value形式组织数据 用字典类型或者其他json、xmal、yaml等

NumPy的数组对象:ndarray

NumPy是一个开源的Python科学计算基础库

-一个强大的N维数组对象ndarray

-广播函数功能

-整合c/c++/fortran代码的工具

-线性代数、傅里叶变换、随机数生成等功能

NumPy是SciPy、Pandas等数据处理或科学计算库的基础

使用 import numpy as np

ndarray是一个多维数组,由两部分组成,要求数组元素类型相同,数组下标从0开始

-元数据(数据维度,数据类型等)

-实际数据

np.array() –ndarray别名是array

轴(axis):保存数据的维度

秩(rank):轴的数量

1393680-20190905111615383-1253964503.png例子:

1393680-20190905111622374-966315649.png里面的int32不是Python基础类型,是NumPy定义的类型,更多类型如下:

1393680-20190905111626351-1450466250.png

1393680-20190905111631362-1103993287.png

1393680-20190905111635404-466939666.png

为啥要这么多数据类型?

-科学计算涉及大量数据,对性能和存储都有较高要求

-对元素类型精细定义,有助于numpy合理使用存储空间并优化性能,有助于程序员对程序规模由合理评估

ndarray数组也可以由非同质对象构成

非同质ndarray元素为对象类型

非同质ndarray数组无法发挥numpy优势,尽量避免使用

ndarray数组的创建和变换

1393680-20190905111643358-1666987167.png

1) 从python列表元组等类型创建数组

x = np.array(list/tuple)

x = np.array(list/tuple,dtype=np.float32) 不指定类型的时候numpy自动关联一个合适的

1393680-20190905111924390-97279411.png

1393680-20190905111933358-1746818031.png

1393680-20190905111940355-380040502.png

1393680-20190905111944406-1112015996.png除了arange函数,其他都是浮点数

1393680-20190905111947402-1804480486.pngndarray数组的变换:维度变换、元素类型变换

1393680-20190905111951378-730228060.png

ndarray数组向列表变换

ls = a.tolist()

ndarray数组的操作

索引和切片

ndarray一维数组的索引和列表一样

1393680-20190905112004351-1166001723.png

ndarray数组的运算

数组与标量的运算等于每个元素都和这个标量算一下

1393680-20190905112012355-1792554310.png

1393680-20190905112020358-1314392169.png

maximum等经过运算存在数据类型隐式转换

1.2 NumPy数据存取与函数

数据的csv文件存取

csv只能存储读取一维和二维数据,这是它的局限

多维数据的存取

对于ndarray数组 有个方法 a.tofile(frame,sep=’’,format=’%s’)

-frame 文件、字符串 sep:数据分隔符,如果是空串,写入文件为二进制 format:写入数据的格式

1393680-20190905112937375-931085946.png

可以保存为二进制,小些,但是无法人类读懂,如果知道是这样写的,可以还原,作为一种保存数据的方法

如何还原呢,np.fromfile(frame,dtype=float,count=-1,sep=’’)

-dtype:读取的数据类型 count:读入元素的个数-1表示全部

1393680-20190905112940351-905646094.png

使用这个方法需要知道存入文件时候的数组维度和元素类型,就是元数据,所以fromfile和tofile需要配合使用,可以将元数据另外存储解决

NumPy的便捷文件存取

np.save(fname,array)或者np.savez(fname,array)

-fname:文件名以.npy或者.npz

np.load(fname)

NumPy的随机数函数

NumPy的random子库 np.random.*

1393680-20190905112944385-1118318150.pngNumPy的统计函数

1393680-20190905112949439-1461532353.png

1393680-20190905112958394-1586350924.pngNumPy的梯度函数

1393680-20190905113005361-1697598305.png

1393680-20190905113014362-622128439.png

1.3 实例1:图像的手绘效果

图像的数组表示

RGB色彩表示

PIL库 处理图像的第三方库 pip install pillow from PIL import Image

Image是PIL库中代表图像的类(对象)

图像是一个由像素组成的二维矩阵,每个元素是一个RGB值

1393680-20190905113017375-750891442.png图像的变换

1393680-20190905113020362-1403192671.png

1393680-20190905113022352-1503958256.png

图像的手绘实例

手绘特征:黑白灰色、边界线条较重、相同或者相近色彩趋于白色、略有光源效果

1393680-20190905145439405-559080225.png

1393680-20190905145511361-211520823.png

1393680-20190905145530351-2058793046.png

from PIL import Image

import numpy as np

a = np.asarray(Image.open('./beijing.jpg').convert('L')).astype('float')

depth = 10. # (0-100)

grad = np.gradient(a) #取图像灰度的梯度值

grad_x, grad_y = grad #分别取横纵图像梯度值

grad_x = grad_x*depth/100.

grad_y = grad_y*depth/100.

A = np.sqrt(grad_x**2 + grad_y**2 + 1.)

uni_x = grad_x/A

uni_y = grad_y/A

uni_z = 1./A

vec_el = np.pi/2.2 # 光源的俯视角度,弧度值

vec_az = np.pi/4. # 光源的方位角度,弧度值

dx = np.cos(vec_el)*np.cos(vec_az) #光源对x 轴的影响

dy = np.cos(vec_el)*np.sin(vec_az) #光源对y 轴的影响

dz = np.sin(vec_el) #光源对z 轴的影响

b = 255*(dx*uni_x + dy*uni_y + dz*uni_z) #光源归一化

b = b.clip(0,255)

im = Image.fromarray(b.astype('uint8')) #重构图像

im.save('./beijingHD.jpg')

1393680-20190905145602358-1917600453.png

2. 数据分析与展示

2.1 Matplotlib库入门

1393680-20190905145614358-1543418412.png

由各种数据可视化类组成,内部结构复杂,是受matlab启发

matplotlib.pyplot是绘制各类可视化图形的命令子库,相当于快捷方式

import matplotlib.pyplot as plt

1393680-20190905145623366-1001245289.png

plt.savefig(‘test’,dpi=600) #保存为png文件

绘制多个图形,分区域plt.subplot(3,2,4)

1393680-20190905145631357-259848780.png

1393680-20190905145654360-66315842.png

pylot的plot函数

plt.plot(x,y,format_string,**kwargs)

-format_string 表示曲线的格式字符串 **kwargs表示第二组或更多(x,y,format_string) 当绘制多条曲线x不能省略,当绘制一条时候可以省略x用索引值

1393680-20190905145703354-913017839.pngformat_string由颜色字符、风格字符、标记字符组成

1393680-20190905145708354-1200422326.png

pyplot的中文显示

方法1:修改绘制区域的全部字体

1393680-20190905145732360-243672176.png方法2:

1393680-20190905145747358-1152640471.pngpylot的文本显示

1393680-20190905145754359-540116729.png

1393680-20190905145805355-1716655059.png首先字符串前边的r代表是原始字符串,也就是里边的内容不需要转移,这个一般在正则表达式的时候也这么用,而这里是laText的用法,在python中使用laText,需要在文本的前后加上$符号,也就是你所用的那样,然后就是laText的文本了,当你输入了以上内容,matplotlib会自动为你解析的,\pi代表的就是π

1393680-20190905145812355-1968459040.pngpylot子绘图区域

1393680-20190905145824359-604824307.png

1393680-20190905145839357-1720195796.png

1393680-20190905145847362-733818804.png这种方法每次都要写(3,3),用另外一种方法GridSpec类

1393680-20190905150937381-1341759734.png

1393680-20190905150959363-1369723163.png

2.2 Matplotlib基础绘图函数示例(5个实例)

1393680-20190905154201374-647243220.png

1393680-20190905154208433-852797481.pngpylot饼图绘制

1393680-20190905154217424-633418843.pngpylot直方图绘制

1393680-20190905154227358-199005356.pngpylot极坐标绘制

1393680-20190905154235364-1660930728.pngpyplot散点图绘制

1393680-20190905154245395-1045576950.png面向对象的绘制方法是matplotlib库的推荐方法,pillow库的函数变为对象的方法

2.3 实例2:引力波的绘制

import numpy as np

import matplotlib.pyplot as plt

from scipy.io import wavfile

rate_h, hstrain= wavfile.read(r"H1_Strain.wav","rb")

rate_l, lstrain= wavfile.read(r"L1_Strain.wav","rb")

#reftime, ref_H1 = np.genfromtxt('GW150914_4_NR_waveform_template.txt').transpose()

reftime, ref_H1 = np.genfromtxt('wf_template.txt').transpose() #使用python123.io下载文件

htime_interval = 1/rate_h

ltime_interval = 1/rate_l

fig = plt.figure(figsize=(12, 6))

# 丢失信号起始点

htime_len = hstrain.shape[0]/rate_h

htime = np.arange(-htime_len/2, htime_len/2 , htime_interval)

plth = fig.add_subplot(221)

plth.plot(htime, hstrain, 'y')

plth.set_xlabel('Time (seconds)')

plth.set_ylabel('H1 Strain')

plth.set_title('H1 Strain')

ltime_len = lstrain.shape[0]/rate_l

ltime = np.arange(-ltime_len/2, ltime_len/2 , ltime_interval)

pltl = fig.add_subplot(222)

pltl.plot(ltime, lstrain, 'g')

pltl.set_xlabel('Time (seconds)')

pltl.set_ylabel('L1 Strain')

pltl.set_title('L1 Strain')

pltref = fig.add_subplot(212)

pltref.plot(reftime, ref_H1)

pltref.set_xlabel('Time (seconds)')

pltref.set_ylabel('Template Strain')

pltref.set_title('Template')

fig.tight_layout()

plt.savefig("Gravitational_Waves_Original.png")

plt.show()

plt.close(fig)

结果

1393680-20190905151113396-166537440.png

3. 数据分析之概要

3.1 Pandas库入门

Pandas提供高性能易用数据类型和分析工具

import pandas as pd

1393680-20190905151320356-793282440.pngPandas库的Series类型 –一维

1393680-20190905151333357-1332580141.png也支持自定义索引

1393680-20190905151348368-1730792557.png

1393680-20190905151409379-820839486.png

b.index b.values 获得索引和数据 类似ndarray和字典

两套索引并存 但是不能混用

1393680-20190905151425355-1695895482.pngSeries类型也与字典类型类似 可以in, get()

1393680-20190905151436363-2089898078.png

1393680-20190905151444358-2053355412.png

1393680-20190905151451358-1651843189.png

Pandas库的DataFrame类型 –二维

由共用相同索引的一组列组成,实际上就是一个表格

1393680-20190905152236353-165462048.png

是一个表格型的数据类型,每列值类型可以不同

既有行索引也有列索引

常用于表达二维数据,单可以表达多维数据

1393680-20190905152244352-1901796334.png

1393680-20190905152314358-1107271999.png

1393680-20190905152327356-290171472.png

DataFrame基本操作类似Series,根据行列索引

Pandas库的数据数据类型操作

如何改变结构呢 增加 或重排:重新索引 删除:drop

1393680-20190905152339354-1795571380.png

1393680-20190905152351380-1595275655.png索引是不可修改类型 索引的操作就是对数据的操作 numpy不存在索引 必须通过维度来操作

1393680-20190905152401363-1300297812.png

1393680-20190905152415350-1973214390.png

Series只有0轴 DataFrame由0轴 1轴,drop默认操作0轴

Pandas库的数据类型运算

算术类型运算

1393680-20190905152424364-975708616.png

1393680-20190905152501389-1831532694.png

1393680-20190905152527364-448215505.png比较运算

数据和索引建立关联关系 达到操作索引就是操作数据

1393680-20190905152603355-1597852008.png

3.2 Pandas数据特征分析

1393680-20190905152617389-409022283.png

数据的排序

可以对索引排序

也可以对数据排序

1393680-20190905152706403-1439117078.png基本的统计分析函数

1393680-20190905152721377-348485139.png

1393680-20190905152745440-296755470.png

1393680-20190905152802362-1304891046.png累计统计分析

滚动计算(窗口计算)

1393680-20190905152842408-828055116.png数据的相关分析

1393680-20190905152922413-1932574552.png

1393680-20190905152935360-1494106058.png

你可能感兴趣的:(python数据分析与展示,嵩天)