NativeScaler()与loss_scaler【loss.backward()和 optimizer.step()】

loss_scaler 函数，它的作用本质上是 loss.backward(create_graph=create_graph) 和 optimizer.step()。
loss_scaler 继承 NativeScaler 这个类。这个类的实例在调用时需要传入 loss, optimizer, clip_grad, parameters, create_graph 等参数，在 call () 函数的内部实现了 loss.backward(create_graph=create_graph) 功能和 optimizer.step() 功能。
源码

class NativeScaler:
    state_dict_key = "amp_scaler"
 
    def __init__(self):
        self._scaler = torch.cuda.amp.GradScaler()
 
    def __call__(self, loss, optimizer, clip_grad=None, clip_mode='norm', parameters=None, create_graph=False):
        self._scaler.scale(loss).backward(create_graph=create_graph)
        if clip_grad is not None:
            assert parameters is not None
            self._scaler.unscale_(optimizer)  # unscale the gradients of optimizer's assigned params in-place
            dispatch_clip_grad(parameters, clip_grad, mode=clip_mode)
        self._scaler.step(optimizer)
        self._scaler.update()
 
    def state_dict(self):
        return self._scaler.state_dict()
 
    def load_state_dict(self, state_dict):
        self._scaler.load_state_dict(state_dict)

例子

from timm.utils import NativeScaler
 
loss_scaler = NativeScaler()
loss_scaler(loss_G, optimizer, parameters=model_restoration.parameters())

loss_G.backward()
optimizer.step()
等价于下面的代码：
loss_scaler(loss_G, optimizer, parameters=model_restoration.parameters())