我正在尝试从Python中的hdf5文件读取数据。 我可以使用h5py读取hdf5文件,但无法弄清楚如何访问文件中的数据。
我的密码
import h5py
import numpy as np
f1 = h5py.File(file_name,'r+')
这可以正常工作并读取文件。 但是,如何访问文件对象f1中的数据?
如果文件包含Keras模型,则您可能需要用Keras加载它。
读取HDF5
import h5py
filename = 'file.hdf5'
with h5py.File(filename, 'r') as f:
# List all groups
print("Keys: %s" % f.keys())
a_group_key = list(f.keys())[0]
# Get the data
data = list(f[a_group_key])
写HDF5
#!/usr/bin/env python
import h5py
# Create random data
import numpy as np
data_matrix = np.random.uniform(-1, 1, size=(10, 3))
# Write data to HDF5
with h5py.File('file.hdf5', 'w') as data_file:
data_file.create_dataset('group_name', data=data_matrix)
有关更多信息,请参见h5py docs。
备择方案
JSON:非常适合编写人类可读的数据;非常常用(读和写)
CSV:超级简单的格式(读和写)
pickle:Python序列化格式(读和写)
MessagePack(Python软件包):更紧凑的表示形式(读和写)
HDF5(Python软件包):适用于矩阵(读和写)
XML:太*叹*(读和写)
对于您的应用程序,以下内容可能很重要:
其他编程语言的支持
阅读/写作表现
紧凑度(文件大小)
另请参阅:数据序列化格式的比较
如果您想寻找一种制作配置文件的方法,则可能需要阅读我的短文《 Python中的配置文件》。
要以numpy数组的形式获取HDF5数据集中的数据,可以执行f[key].value
您可以使用熊猫。
import pandas as pd
pd.read_hdf(filename,key)
FWIW,这在后台使用了PyTables。
除非要存储数据帧,否则不应依赖Pandas实现。 read_hdf依赖于HDF文件具有特定的结构; 也没有pd.write_hdf,因此您只能单向使用它。 看到这篇文章。
熊猫确实具有书写功能。 参见pd.DataFrame.to_hdf
读取文件
import h5py
f = h5py.File(file_name, mode)
通过打印存在的HDF5组来研究文件的结构
for key in f.keys():
print(key) #Names of the groups in HDF5 file.
提取数据
#Get the HDF5 group
group = f[key]
#Checkout what keys are inside that group.
for key in group.keys():
print(key)
data = group[some_key_inside_the_group].value
#Do whatever you want with data
#After you are done
f.close()
for key in data.keys(): print(key) #Names of the groups in HDF5 file.可以替换为list(data)
知道使用所有变量的确切结构:data.visit(print)
只是fyi,h5py.File(...)中的f应该大写。
@dannykim完成。
重要:最后需要data.close()。
错误python3.7 / site-packages / h5py / _hl / dataset.py:313:H5pyDeprecationWarning:dataset.value已被弃用。 请改用数据集[()]。"改为使用数据集[()]。",H5pyDeprecationWarning)
这是我刚刚编写的一个简单函数,它读取由keras中的save_weights函数生成的.hdf5文件,并返回包含图层名称和权重的字典:
def read_hdf5(path):
weights = {}
keys = []
with h5py.File(path, 'r') as f: # open file
f.visit(keys.append) # append all keys to list
for key in keys:
if ':' in key: # contains data if ':' in key
print(f[key].name)
weights[f[key].name] = f[key].value
return weights
https://gist.github.com/Attila94/fb917e03b04035f3737cc8860d9e9f9b。
尚未进行全面测试,但可以为我完成工作。
要将.hdf5文件的内容作为数组读取,可以执行以下操作
> import numpy as np
> myarray = np.fromfile('file.hdf5', dtype=float)
> print(myarray)
使用以下代码读取数据并将其转换为numpy数组
import h5py
f1 = h5py.File('data_1.h5', 'r')
list(f1.keys())
X1 = f1['x']
y1=f1['y']
df1= np.array(X1.value)
dfy1= np.array(y1.value)
print (df1.shape)
print (dfy1.shape)
不要忘记关闭文件,否则文件可能会损坏。
您需要做的是创建一个数据集。如果您查看快速入门指南,它将显示您需要使用文件对象来创建数据集。因此,f.create_dataset,然后您可以读取数据。这在文档中进行了解释。