论文笔记: 全波形反演的无监督学习: 将 CNN 与偏微分方程做成一个环
摘要: 分享对论文的理解, 原文见 Peng Jin, Xitong Zhang, Yinpeng Chen, Sharon Xiaolei Huang, Zicheng Liu, Youzuo Lin, Unsupervised learning of full-waveform
inversion: connecting CNN and partial differential equation in a loop.
论文发表于计算机方面的顶会 ICLR.
1. 论文贡献
- 提出一种无监督的 FWI 网络. 其实说 “无监督” 有些牵强, 因为它的监督信息 (速度模型) 通过正演获得的数据, 与原始数据之间可以计算损失.
- 做了一个数据集 OpenFWI, 在另一篇论文里面专门介绍. 对于这个方向的研究人员非常重要.
2. 论文工作
- 反演用 CNN
- 正演用 PDE
2.1 正演模型
∇ 2 p ( r , t ) − 1 v ( r ) 2 ∂ 2 p ( r , t ) ∂ t 2 = s ( r , t ) (1) \nabla^2 p(\mathbf{r}, t) - \frac{1}{v(\mathbf{r})^2} \frac{\partial^2 p(\mathbf{r}, t)}{\partial t^2} = s(\mathbf{r}, t) \tag{1} ∇2p(r,t)−v(r)21∂t2∂2p(r,t)=s(r,t)(1)
其中 p ( r , t ) p(\mathbf{r}, t) p(r,t) 是在 t t t 时刻, 位置 r \mathbf{r} r 的压力波场, v ( r ) v(\mathbf{r}) v(r) 是速度图, s ( r , t ) s(\mathbf{r}, t) s(r,t) 为源项.
正演过程为
p ~ = f ( v ^ ) (2) \tilde{\mathbf{p}} = f(\hat{\mathbf{v}}) \tag{2} p~=f(v^)(2)
标准的有限差分法
∂ 2 p ( r , t ) ∂ t 2 ≈ 1 ( Δ t ) 2 ( p r t + 1 − 2 p r t + p r t − 1 ) + O ( ( Δ t ) 2 ) (5) \frac{\partial^2 p(\mathbf{r}, t)}{\partial t^2} \approx \frac{1}{(\Delta t)^2} \left(p_\mathbf{r}^{t + 1} - 2 p_\mathbf{r}^t + p_\mathbf{r}^{t - 1} \right) + O((\Delta t)^2)\tag{5} ∂t2∂2p(r,t)≈(Δt)21(prt+1−2prt+prt−1)+O((Δt)2)(5)
其中 p r t p_\mathbf{r}^t prt 表示 t t t 时刻的波场, p r t + 1 p_\mathbf{r}^{t + 1} prt+1 表示 t + Δ t t + \Delta t t+Δt 时间的. O O O 表示同阶, 相应的数据被丢掉了.
根据链式法则, 可以计算损失 L \mathcal{L} L 对应对速度的梯度
∂ L ∂ v ( r ) = ∑ t = 0 T [ ∂ L ∂ p ( r , t ) ] ∂ p ( r , t ) ∂ v ( r ) (7) \frac{\partial \mathcal{L}}{\partial v(\mathbf{r})} = \sum_{t = 0}^T \left[\frac{\partial L}{\partial p(\mathbf{r}, t)}\right] \frac{\partial p(\mathbf{r}, t)}{\partial v(\mathbf{r})} \tag{7} ∂v(r)∂L=t=0∑T[∂p(r,t)∂L]∂v(r)∂p(r,t)(7)
2.2 反演损失函数
L ( p , p ~ ) = L pixel ( p , p ~ ) + L perceptual ( p , p ~ ) (8) \mathcal{L}(\mathbf{p}, \tilde{\mathbf{p}}) = \mathcal{L}_{\textrm{pixel}}(\mathbf{p}, \tilde{\mathbf{p}}) + \mathcal{L}_{\textrm{perceptual}}(\mathbf{p}, \tilde{\mathbf{p}}) \tag{8} L(p,p~)=Lpixel(p,p~)+Lperceptual(p,p~)(8)
其中 p \mathbf{p} p 和 p ~ \tilde{\mathbf{p}} p~ 分别表示输入与重构的地震波数据.
可以用 l 1 \mathcal{l}_1 l1 与 l 2 \mathcal{l}_2 l2 范数的加权和来定义像素损失
L pixel ( p , p ~ ) = λ 1 l 1 ( p , p ~ ) + λ 2 l 2 ( p , p ~ ) (9) \mathcal{L}_{\textrm{pixel}}(\mathbf{p}, \tilde{\mathbf{p}}) = \lambda_1 \mathcal{l}_1(\mathbf{p}, \tilde{\mathbf{p}}) + \lambda_2 \mathcal{l}_2(\mathbf{p}, \tilde{\mathbf{p}}) \tag{9} Lpixel(p,p~)=λ1l1(p,p~)+λ2l2(p,p~)(9)
L perceptual ( p , p ~ ) = λ 3 l 1 ( ϕ ( p ) , ϕ ( p ~ ) ) + λ 4 l 2 ( ϕ ( p ) , ϕ ( p ~ ) ) (9) \mathcal{L}_{\textrm{perceptual}}(\mathbf{p}, \tilde{\mathbf{p}}) = \lambda_3 \mathcal{l}_1(\phi(\mathbf{p}), \phi(\tilde{\mathbf{p}})) + \lambda_4 \mathcal{l}_2(\phi(\mathbf{p}), \phi(\tilde{\mathbf{p}})) \tag{9} Lperceptual(p,p~)=λ3l1(ϕ(p),ϕ(p~))+λ4l2(ϕ(p),ϕ(p~))(9)
其中 ϕ ( ⋅ ) \phi(\cdot) ϕ(⋅) 表示使用 ImageNet 训练的 VGG-16 特征提取网络.
3. 相关工作
- 物理驱动
- 数据驱动
4. 小结
正反演, 两条腿走路.