Flow Matching: A Visual Introduction
7 months ago
- #generative models
- #machine learning
- #flow matching
- 流匹配（Flow Matching，FM）是一种通过将简单分布（如高斯噪声）的样本传输到复杂目标分布（如图像、视频）来训练生成模型的技术。
- 文章展示了一个玩具示例，其中使用线性流匹配将一维高斯噪声分布映射到双峰目标分布。
- 流匹配模型预测一个速度场，描述如何通过时间步t ∈ [0, 1]将噪声分布的样本移动到目标分布。
- 训练过程涉及使用噪声样本和目标样本之间的直线参考路径，最小化速度场的预期重构误差。
- 该模型实现为一个简单的神经网络，通过基于梯度的优化（Adam优化器）训练来预测速度场。
- 在推理阶段，通过对噪声样本应用欧拉积分来学习速度场，从而生成目标样本。
- 可视化内容包括学习到的速度场、路径密度以及目标分布与重构样本之间的比较。
- 流匹配可以扩展到更复杂的分布和更高维度，尽管这需要更复杂的模型和采样策略。