【Paper-Reading Day1】MULTIPLICATIVE FILTER NETWORKS
MULTIPLICATIVEFILTERNETWORKS1.Paper1.1网络结构就是说相较于之前的非线性激活结构,这里使用elementwisemultiplication这种方式实现非线性激活。z(1)=g(x;θ(1))z(i+1)=(W(i)z(i)+b(i))∘g(x;θ(i+1)),i=1,…,k−1f(x)=W(k)z(k)+b(k)\begin{aligned}z^{(1)}&=