Skilful nowcasting of extreme precipitation with NowcastNet
论文地址：arxiv
摘要
降水预警系统要准确的短期预报系统，但是这类工作依然有很大的困难。由于基于物理的数值天气预报（NWP）的计算周转时间长，无法在临近预报中表现良好。
因此，作者提出了 NowcastNet，这个是基于物理条件的深度生成网络，利用卫星图像对欧洲不同地区的降水进行预报。通过对未见过的地区和年份进行预报，实现了空间与时间上的迁移学习。
正文
不同的研究表明，基于深度学习的方法在临近预报问题上甚至可以超越 NWP。
降水预报很困难，因为它是一个高度异质的事件，需要密集预测。平滑和模糊的预测很容易降低预报的可用性，因此必须捕捉降雨强度。NowcastNet 结合了物理和数据来进行实际的降水预报。
模型使用的数据集
使用的是由卫星获得的辐射数据预测降雨率。卫星图像有 11 个通道，覆盖了 3024 * 3024 km 的区域，每个图像的数据点为 12 * 12 km 的区域，所以图像的维度为 252 * 252。通道包含了 2 个可见光，2 个水汽，7 个红外波段。
降水数据仅适合于中心 504 * 504 km 的区域，网络大小为 2 * 2 km，所以维度也是 252 * 252。
卫星图像与降水数据的关系如下：
模型介绍
模型目标
使用低分辨率的卫星图像预测高分辨率的降水值。
模型架构
NowcastNet 有两个模块：
- 使用神经算子学习底层物理规律的演化网络
- 使用演化网络上下文进行最终预测的生成网络
演化网络的架构如下：
生成网络的架构如下：
噪声投影器被添加到生成网络中，该网络将潜在向量转换为所需的空间大小。所以该模型包含一个由 $\phi$ 参数化的确定性演化网络和一个由 $\theta$ 参数化的随机生成网络。Nowcasting 过程是基于物理条件的生成，利用潜在随机向量 $z$，表示为：
$$
P(\hat{X}{1:T} | Y{-T_0:0}, \phi; \theta) = \int P(\hat{X}{1:T} | Y{-T_0:0}, \phi(Y_{-T_0:0}), z; \theta) P(z) dz
$$
其中，$Y_{-T_0:0}$ 表示给定的过去卫星图像，$\hat{X}_{1:T}$ 表示预测的降水图像。
演化网络
演化网络是一个具有共享演化编码器的双路径 $U-Net$，用于学习上下文表示。运动解码器学习 $x$ 和 $y$ 方向的二维速度，而强度解码器学习所需时间的强度残差。每个卷积层应用谱归一化技术。输入和输出在时间维度上连接，以实现跳跃连接。
生成网络
生成网络基于演化网络的预测 $X_{1:T}^{‘’}$ 进制条件生成，并将低分辨率的过去卫星图像作为输入 $X_{-T_0:0}$。它从潜在随机向量 $z$ 生最终的降水场。该网络的骨干结构也是一个 $U-Net$ 编码器-解码器结构。
编码器的结构与演化编码器相同，并将 $X_{-T_0:0}$ 与 $X_{1:T}^{‘’}$ 的连接作为输入。解码器从编码器获取上下文输入，并结合潜在高斯向量 $z$ 的变换。噪声投影器以这个潜在向量 $z$ 作为输入，并将其转换为与编码器上下文相同的空间大小。
模型评估
原始输入数据由低分辨率的卫星图像组成，有 11 个不同的通道，适用于更大的上下文区域，而高分辨率预测由针对较小的中心区域进行。
使用 Adam 优化器（Adam optimizer），余弦退火学习率（cosine annealing learning rate），线性预热（linear warm-up）。
在训练初期，使用均方误差（Mean Squared Error），在后期使用加权平均绝对误差（Weighted Mean Absolute Error）。像素级权重的计算公式为min(1 + y, 24)，其中y为目标降水率。这有助于学习不太频繁但高值的降水事件，并确保网络不仅适应于主导的中低值降水事件。
以下是实际降水的情况与预测降水的情况：
可以看到，基于 nowcastnet 的模型可以捕捉到降雨事件。通过适当的预处理数据以捕捉对数趋势和数据的非平稳性，结果可以进一步改进。