Pytorch中的Tensorboard常用API
SummaryWriter函数
-
这个函数用于创建一个tensorboard文件，其中常用参数有
- log_dir：tensorboard文件的存放路径。不设置log_dir默认会在当前程序所在的文件夹下创建个runs文件夹存储
- flush_secs：表示写入tensorboard文件的时间间隔
- comment：文件夹名称的后缀
- filename_suffix：文件名字后缀
add_scalar函数
- 功能：记录标量的变化常用于Loss和Accuarcy曲线的记录
add_scalar(tag, scalar_value, global_step=None,walltime=None)
tag ( string ) – 数据标识符
scalar_value ( float或string/blobname ) – 要保存的值:相当于是x的值
global_step ( int ) – 要记录的全局步长值：相当于是y的值
walltime ( float ) – 记录训练的时间，默认 walltime (time.time()) 秒
new_style ( boolean ) – 是使用新样式（张量字段）还是旧样式（simple_value 字段）。新样式可能会导致更快的数据加载。
- 示例代码
writer = SummaryWriter(comment='_scalars', filename_suffix="12345678")
for x in range(100):
writer.add_scalar('y=pow_2_x', 2 ** x, x)
writer.close()
add_scalars函数
- 功能：记录标量的变化，常用于对比
add_scalars(main_tag, tag_scalar_dict,global_step=None, walltime=None)
main_tag ( string ) – 标签的父名称
tag_scalar_dict ( dict ) – 存储标签和对应值的键值对:相当于y的值。
global_step ( int ) – 要记录的全局步长值:相当于x的值
walltime ( float ) – 记录训练的时间，默认 walltime (time.time()) 秒
- 示例代码
max_epoch = 100
writer = SummaryWriter(comment='test_comment', filename_suffix="test_suffix")
for x in range(max_epoch):
writer.add_scalar('y=2x', x * 2, x)
writer.add_scalar('y=pow_2_x', 2 ** x, x)
writer.add_scalars('data/scalar_group', {"xsinx": x * np.sin(x),
"xcosx": x * np.cos(x)}, x)
writer.close()
add_histogram函数
- 功能：统计直方图与多分位数折线图
add_histogram(tag, values, global_step=None,bins='tensorflow', walltime=None)
• tag：图像的标签名，图的唯一标识
• values：要统计的参数
• global_step：y轴
• bins：取直方图的bins
- 示例代码
writer = SummaryWriter("histogram_logs")
for i in range(10):
x = np.random.random(1000)
writer.add_histogram('distribution centers', x + i, i)
writer.close()
add_image函数
- 功能：记录图像
add_image(tag, img_tensor, global_step=None,walltime=None, dataformats='CHW')
• tag：图像的标签名，图的唯一标识
• img_tensor：图像数据，注意尺度
• global_step：x轴
• dataformats：数据形式，CHW，HWC，HW
- 示例代码
writer = SummaryWriter(comment='test_your_comment', filename_suffix="_test_your_filename_suffix")
fake_img = torch.randn(3, 512, 512)
writer.add_image("fake_img", fake_img, 1)
torchvision.utils.make_grid函数
- 功能：制作网格图像
make_grid(tensor, nrow=8, padding=2,normalize=False, range=None, scale_each=False,pad_value=0)
• tensor：图像数据, B*C*H*W形式
• nrow：行数（列数自动计算）
• padding：图像间距（像素单位）
• normalize：是否将像素值标准化
• range：标准化范围
• scale_each：是否单张图维度标准化
• pad_value：padding的像素值
- 示例代码
writer = SummaryWriter(comment='test_your_comment', filename_suffix="_test_your_filename_suffix")
split_dir = os.path.join("..", "..", "data", "rmb_split")
train_dir = os.path.join(split_dir, "train")
transform_compose = transforms.Compose([transforms.Resize((32, 64)), transforms.ToTensor()])
train_data = RMBDataset(data_dir=train_dir, transform=transform_compose)
train_loader = DataLoader(dataset=train_data, batch_size=16, shuffle=True)
data_batch, label_batch = next(iter(train_loader))
img_grid = vutils.make_grid(data_batch, nrow=4, normalize=True, scale_each=True)
# img_grid = vutils.make_grid(data_batch, nrow=4, normalize=False, scale_each=False)
writer.add_image("input img", img_grid, 0)
add_graph函数
- 功能：可视化模型计算图
add_graph(model, input_to_model=None, verbose=False)
• model：模型，必须是 nn.Module
• input_to_model：输出给模型的数据
• verbose：是否打印计算图结构信息
model( torch.nn.Module ) – 要绘制的模型。
input_to_model ( torch.Tensor or list of torch.Tensor ) – 要输入的变量或变量元组
verbose(bool）– 是否在控制台中打印图形结构。
use_strict_trace ( bool ) – 是否将关键字参数严格传递给 torch.jit.trace。当您希望跟踪器记录您的可变容器类型（列表、字典）时传递 False.
- 示例代码
writer = SummaryWriter(comment='test_your_comment', filename_suffix="_test_your_filename_suffix")
# 模型
fake_img = torch.randn(1, 3, 32, 32)
lenet = LeNet(classes=2)
writer.add_graph(lenet, fake_img)
torch.summary函数
- 功能：查看模型信息，便于调试
summary(model, input_size, batch_size=-1,device="cuda")
• model：pytorch模型
• input_size：模型输入size
• batch_size：batch size
• device：“cuda” or “cpu”
- 示例代码
summary(lenet, (3, 32, 32), device="cpu")
参考链接