前言
最近在使用pytorch的時(shí)候，模型訓(xùn)練時(shí)，不需要使用forward，只要在實(shí)例化一個(gè)對象中傳入對應(yīng)的參數(shù)就可以自動調(diào)用 forward 函數(shù)
即：
forward 的使用
class Module(nn.Module):
def __init__(self):
super(Module, self).__init__()
# ......
def forward(self, x):
# ......
return x
data = ..... #輸入數(shù)據(jù)
# 實(shí)例化一個(gè)對象
module = Module()
# 前向傳播
module(data)
# 而不是使用下面的
# module.forward(data)
實(shí)際上
是等價(jià)于
forward 使用的解釋
等價(jià)的原因是因?yàn)?python calss 中的__call__和__init__方法.
class A():
def __call__(self):
print('i can be called like a function')
a = A()
a()
out：
i can be called like a function
__call__里調(diào)用其他的函數(shù)
class A():
def __call__(self, param):
print('i can called like a function')
print('傳入?yún)?shù)的類型是：{} 值為： {}'.format(type(param), param))
res = self.forward(param)
return res
def forward(self, input_):
print('forward 函數(shù)被調(diào)用了')
print('in forward, 傳入?yún)?shù)類型是：{} 值為: {}'.format( type(input_), input_))
return input_
a = A()
input_param = a('i')
print("對象a傳入的參數(shù)是：", input_param)
out:
i can called like a function
傳入?yún)?shù)的類型是：class ‘str'> 值為： i
forward 函數(shù)被調(diào)用了
in forward, 傳入?yún)?shù)類型是：class ‘str'> 值為: i
對象a傳入的參數(shù)是： i
補(bǔ)充：Pytorch 模型中nn.Model 中的forward() 前向傳播不調(diào)用 解釋
在pytorch 中沒有調(diào)用模型的forward（）前向傳播，只實(shí)列化后把參數(shù)傳入。
定義模型
class Module(nn.Module):
def __init__(self):
super(Module, self).__init__()
# ......
def forward(self, x):
# ......
return x
data = ..... #輸入數(shù)據(jù)
# 實(shí)例化一個(gè)對象
module = Module()
# 前向傳播 直接把輸入傳入實(shí)列化
module(data)
#沒有使用module.forward(data)
實(shí)際上module(data) 等價(jià)于module.forward(data)
等價(jià)的原因是因?yàn)?python calss 中的__call__ 可以讓類像函數(shù)一樣調(diào)用
當(dāng)執(zhí)行model(x)的時(shí)候，底層自動調(diào)用forward方法計(jì)算結(jié)果
class A():
def __call__(self):
print('i can be called like a function')
a = A()
a()
>>>i can be called like a function
在__call__ 里可調(diào)用其它的函數(shù)
class A():
def __call__(self, param):
print('我在__call__中，傳入?yún)?shù)',param)
res = self.forward(param)
return res
def forward(self, x):
print('我在forward函數(shù)中，傳入?yún)?shù)類型是值為: ',x)
return x
a = A()
y = a('i')
>>> 我在__call__中，傳入?yún)?shù) i
>>>我在forward函數(shù)中，傳入?yún)?shù)類型是值為: i
print("傳入的參數(shù)是：", y)
>>>傳入的參數(shù)是： i
以上為個(gè)人經(jīng)驗(yàn)，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。如有錯(cuò)誤或未考慮完全的地方，望不吝賜教。
您可能感興趣的文章:- pytorch forward兩個(gè)參數(shù)實(shí)例
- PyTorch中permute的用法詳解
- PyTorch中反卷積的用法詳解
