文件读写
f = open('/Users/ruanhao/Desktop/pythonLearning/test.txt', 'r') # 'r'表示读
text_words = f.read() # 读文件
最后一步是调用close()方法关闭文件。文件使用完毕后必须关闭,因为文件对象会占用操作系统的资源,并且操作系统同一时间能打开的文件数量也是有限的:
f.close()
由于文件读写时都有可能产生IOError,一旦出错,后面的f.close()就不会调用。所以,为了保证无论是否出错都能正确地关闭文件,我们可以使用try ... finally来实现
try:
f = open('/Users/ruanhao/Desktop/pythonLearning/test.txt', 'r')
text_words = f.read() # 读文件
print(text_words)
except Exception as e:
raise e
finally:
if f:
f.close()
但是每次都这么写实在太繁琐,所以,Python引入了with语句来自动帮我们调用close()方法:
try:
with open('/Users/ruanhao/Desktop/pythonLearning/test.txt', 'r') as f:
pass
# print(f.read())
except Exception as e:
logging.exception(e)
调用read()会一次性读取文件的全部内容,如果文件有10G,内存就爆了,所以,要保险起见,可以反复调用read(size)方法,每次最多读取size个字节的内容。另外,调用readline()可以每次读取一行内容,调用readlines()一次读取所有内容并按行返回list。因此,要根据需要决定怎么调用。
如果文件很小,read()一次性读取最方便;如果不能确定文件大小,反复调用read(size)比较保险;如果是配置文件,调用readlines()最方便:
-
file-like Object
像open()函数返回的这种有个read()方法的对象,在Python中统称为file-like Object。除了file外,还可以是内存的字节流,网络流,自定义流等等。file-like Object不要求从特定类继承,只要写个read()方法就行。
StringIO就是在内存中创建的file-like Object,常用作临时缓冲。
-
二进制文件
前面讲的默认都是读取文本文件,并且是UTF-8编码的文本文件。要读取二进制文件,比如图片、视频等等,用'rb'模式打开文件即可:
try:
with open('/Users/ruanhao/Desktop/pythonLearning/1.jpg', 'rb') as image:
pass
# print(image.read())
except Exception as e:
logging.exception(e)
-
字符编码
要读取非UTF-8编码的文本文件,需要给open()函数传入encoding参数
遇到有些编码不规范的文件,你可能会遇到UnicodeDecodeError,因为在文本文件中可能夹杂了一些非法编码的字符。遇到这种情况,open()函数还接收一个errors参数,表示如果遇到编码错误后如何处理。最简单的方式是直接忽略:
f = open('/Users/michael/gbk.txt', 'r', encoding='gbk', errors='ignore')
-
写文件
写文件和读文件是一样的,唯一区别是调用open()函数时,传入标识符'w'或者'wb'表示写文本文件或写二进制文件(文件不存在的时候,使用'w'会新建一个文件):
with open('/Users/ruanhao/Desktop/pythonLearning/test.txt', 'w') as textopen:
textopen.write('hahah')
with open('/Users/ruanhao/Desktop/pythonLearning/test.txt', 'r') as f:
print(f.read())
要写入特定编码的文本文件,请给open()函数传入encoding参数,将字符串自动转换成指定编码。
以'w'模式写入文件时,如果文件已存在,会直接覆盖(相当于删掉后新写入一个文件)。如果我们希望追加到文件末尾怎么办?可以传入'a'以追加(append)模式写入。
with open('/Users/ruanhao/Desktop/pythonLearning/test.txt', 'a') as textopen:
textopen.write('\nhahahLOL')
with open('/Users/ruanhao/Desktop/pythonLearning/test.txt', 'r') as f:
print(f.read())
-
操作文件和目录
- 如果是posix,说明系统是Linux、Unix或Mac OS X,如果是nt,就是Windows
print(os.name) # 操作系统类型
系统
- 要获取详细的系统信息,可以调用uname()函数:
print(os.uname())
- 在操作系统中定义的环境变量,全部保存在os.environ这个变量中,可以直接查看:
print(os.environ)
- 要获取某个环境变量的值,可以调用os.environ.get('key')
print(os.environ.get('PATH'))
- 拼接文件路径使用os.path.join(),
- 拆分文件路径用os.path.split(),
tuplePath = os.path.split(path)
- 判断路径是否指向一个文件夹os.path.isdir(),
- 删除一个文件夹用os.rmdir(),
- 创建一个文件夹用os.mkdir(),
- 列出一个路径下的全部文件的列表os.listdir()
try:
current_root = os.path.abspath('.')
path = os.path.join(current_root, 'testdir')
if os.path.isdir(path):
os.rmdir(path)
os.mkdir(path)
except Exception as e:
logging.exception(e)
else:
pass
finally:
print([x for x in os.listdir('.')])
以上合并、拆分路径的函数并不要求目录和文件要真实存在,它们只对字符串进行操作!!
- 重命名用rename, 删除用remove (当前文件夹下)
try:
os.rename('1.jpg', 'image.jpg')
except Exception as e:
pass
try:
os.remove('testdir')
except Exception as e:
logging.exception(e)
可以用上面介绍的方法完成更多的功能:
# 过滤文件夹
f = [x for x in os.listdir('.') if os.path.isdir(x)]
print(f)
# 过滤文件
py = [x for x in os.listdir('.') if os.path.splitext(x)[1] == '.py']
print(py)
-
小结: 对文件及文件夹的操作,在os模块中,比如创建目录,删除目录,重命名文件,删除文件。对路径的操作在os.path模块中。如拼接路径,拆分路径,获取文件后缀(对路径的操作不需要路径指向实体一定存在,实质上只是对字符串的操作)
练习
利用os模块编写一个能实现dir -l输出的程序
编写一个程序,能在当前目录以及当前目录的所有子目录下查找文件名包含指定字符串的文件,并打印出相对路径。
import os
def by_fileType(filename):
if os.path.isdir(filename):
return 'zzzzzzzzzzzzzzzzzzzzzz'
else:
return filename
class FileManager(object):
def __init__(self):
pass
def currentlist(self, filepath):
if not os.path.isdir(filepath):
raise BaseException('该路径不是一个文件夹路径!')
fileList = (x for x in os.listdir(filepath))
for x in fileList:
print(x)
def allfiles(self, filepath):
self.filepath = filepath
if not os.path.isdir(filepath):
raise BaseException('该路径不是一个文件夹路径!')
fileList = [os.path.join(filepath, x) for x in os.listdir(filepath)]
fileList = sorted(fileList, key=by_fileType)
newdir = True
for filename in fileList:
if os.path.isdir(os.path.join(filepath, filename)):
newdir = True
self.allfiles(os.path.join(filepath, filename))
else:
if newdir:
newdir = False
print('=====> %s:' % filepath)
print(os.path.split(filename)[1])
序列化
把变量从内存中变成可存储或传输的过程称之为序列化
在Python中叫pickling,在其他语言中也被称之为serialization,marshalling,flattening等等,都是一个意思。
反过来,把变量内容从序列化的对象重新读到内存里称之为反序列化,即unpickling。
import pickle
p = dict(name = 'Bob', age = 20, socre = 88)
d = pickle.dumps(p)
with open('/Users/ruanhao/Desktop/pythonLearning/dir.txt', 'wb') as filemanager:
pickle.dump(d, filemanager)
注意,序列化一个文件用dumps,写入一个文件用dump
当我们要把对象从磁盘读到内存时,可以先把内容读到一个bytes,然后用pickle.loads()方法反序列化出对象,也可以直接用pickle.load()方法从一个file-like Object中直接反序列化出对象。我们打开另一个Python命令行来反序列化刚才保存的对象:
r = dict()
with open('/Users/ruanhao/Desktop/pythonLearning/dir.txt', 'rb') as f:
r = pickle.load(f)
print(pickle.loads(r))
最终读出来的是一个bytes数据, 需要再做一次反序列化
Pickle的问题和所有其他编程语言特有的序列化问题一样,就是它只能用于Python,并且可能不同版本的Python彼此都不兼容,因此,只能用Pickle保存那些不重要的数据,不能成功地反序列化也没关系。
JSON
如果我们要在不同的编程语言之间传递对象,就必须把对象序列化为标准格式,比如XML,但更好的方法是序列化为JSON,因为JSON表示出来就是一个字符串,可以被所有语言读取,也可以方便地存储到磁盘或者通过网络传输。JSON不仅是标准格式,并且比XML更快,而且可以直接在Web页面中读取,非常方便。
import json
with open('/Users/ruanhao/Desktop/pythonLearning/dir.txt', 'a') as filemanager:
json.dump(json.dumps(p), filemanager)