Jump Restore Light Transport

一句话总结

把统计学界的 Restore（再生型 MCMC）框架大幅推广并放松假设后引入图形学：用一个连续时间的”局部探索 + 全局再生”机制，把任意现有 MCMC 光线传输算法的局部分量当局部动力学、全局大步分量当再生分布，改造成一个对目标分布不变、可高度并行、且在等时比较下误差更低、方差更小、运行更快的新算法。

研究背景

• 领域现状：光线传输里求解高维积分靠蒙特卡洛。普通路径追踪独立采样，无视样本对最终结果的贡献。MCMC（自 Veach 把 Metropolis–Hastings 引入图形学起）通过构造马尔可夫过程引导采样贴合目标分布，此后几乎所有 MCMC 渲染算法都是 MH 的变体。
• 核心痛点：现代采样效率取决于两件事——局部探索（快速、有针对性地在当前邻域游走）与全局发现（跨越整个状态空间、不困在某个模态）。MH 同时在两方面吃力：
  • MH 链不仅 \(\pi\)-不变，还是 \(\pi\)-可逆的，可逆性导致大量回溯、收敛变慢；即便原提议链本身不可逆，MH 的接受/拒绝调整也会破坏这种不可逆性。
  • 若目标分布有分离的多个模态，MH 容易被困在一个模态里。图形学惯用的补救是把提议核写成”小步局部核 + 大步全局分布”的混合 \(Q_\ell(x,\cdot)=\ell\mu+(1-\ell)\zeta(x,\cdot)\)，但大步概率 \(\ell\) 难以普适地选好，且大步是”无信息”地插入——不管当前局部探索是否正高效，就可能把探索甩到别处；一旦被拒还会原地不动，拖慢速度。
• 本文 idea：借鉴 Wang et al. [2021] 的 Restore 算法，把”局部探索”和”全局发现”彻底解耦成两套独立机制，并推广到允许每段探索用各自的马尔可夫过程、允许全局转移依赖上一段的退出点，同时放松正确性所需的技术假设，使其在光线传输中理论上站得住脚。

方法

整体思路：不再让一条 MH 链既管局部又管全局，而是构造一个连续时间过程 \(X\)，由一段段”旅程（tour）”拼接而成。每段旅程模拟一个局部马尔可夫过程 \(Y_i\) 一段有限的寿命 \(\tau_i\)，寿命耗尽后由转移机制 \(\mu_i\) 把探索搬到状态空间的新区域，再开下一段。

flowchart LR
  A["局部动力学 Y_i<br/>(复用现有采样器的小步核 ζ)"] --> B["按 killing rate k 触发的<br/>指数时钟 τ_i 到点"]
  B --> C["全局再生 μ<br/>(复用现有大步分布)"]
  C --> A
  B --> D["拼接成连续时间过程 X<br/>π-不变"]
  D --> E["带持续时间 Δt_i 的加权估计"]

关键设计：

1. Restore 过程与不变性（核心贡献）。整体过程定义为 \(X_t:=Y^i_{t-\sigma_{i-1}}\)（在第 \(i\) 段旅程的时间区间内），\(\sigma_n=\sum_{i=1}^n\tau_i\)。旅程寿命建模为按 killing rate 衰减的指数时钟：\(\tau:=\inf\{t\ge 0:\int_0^t k(X_s)\,ds\ge\xi\}\)，\(\xi\sim\mathrm{Exp}(1)\)。作者证明，只要把 killing rate 取成 \[k_i=\frac{(L_i^*+c_i\mu_i^*)p}{p}\] （\(L_i\) 是局部动力学 \(Y_i\) 的生成元，\(L_i^*,\mu_i^*\) 是其关于参考测度 \(\lambda\) 的伴随算子，\(c_i>0\)），拼接过程 \(X\) 就对目标分布 \(\pi\) 不变。直觉上 killing rate 与目标密度成反比：密度低的地方杀得快，密度高的地方活得久。常数 \(c_i\) 正是第 \(i\) 段期望寿命的倒数：\(\mathbb{E}_{\mu_i}[\tau_i]=1/c_i\)。

2. 相对 Wang et al. [2021] 的三点推广。其一，允许每段旅程用各自的马尔可夫过程 \(Y_i\)，而非全程单一过程；其二，全局动力学可依赖上一段的退出点 \(Y^{i-1}_{\tau_{i-1}-}\)（原版用固定分布，因此只能解释成”反复再生同一条链”）；其三，放松正确性所需假设——原版对局部过程与目标密度的限制在光线传输里根本不满足，本文在补充材料给出适用于更一般设定的证明。

3. MH 是特例。把 \(\sigma_j\) 取成第 \(j\) 次拒绝的时刻，MH 就分解成一段段旅程，转移规则是 Dirac 核（拒绝即从原态重启）；若取混合提议 (18) 并把 \(\sigma_j\) 取成第 \(j\) 次接受大步的时刻，则转移规则恰好是大步分布 \(\mu\)。于是 MH 被完整地纳入本框架。

4. 无需估计归一化常数。当全局动力学与状态无关时，可由旅程寿命直接估计归一化常数 \(p\lambda\approx\tilde c_1\,\sigma_j/j\)，进而得到 \[\frac{\tilde c_1}{j}\int_0^{\sigma_j}f(X_t)\,dt\approx\lambda(pf)\] 渲染中被积量常写成 \(f=g/p\)，于是归一化常数被消掉——不像以往所有 MCMC 渲染算法都要在 bootstrapping 阶段估它。

5. Jump Restore 算法（可落地实例）。任何现有 MCMC 渲染算法都是离散时间链，先把它用参数为 1 的指数持有时间嵌入连续时间（此时离散链与连续过程共享生成元、动力学不变），得到的 Restore 过程叫 Jump Restore 过程。它本身是一个纯跳跃型马尔可夫过程，在当前态 \(x\) 的转移规则为 \[\frac{1}{1+k(x)}\zeta(x,\cdot)+\frac{k(x)}{1+k(x)}\mu\] 模拟时对每个状态各采一个”下一次局部转移”时间 \(t_1\sim\mathrm{Exp}(1)\) 与”下一次终止尝试”时间 \(t_2\sim\mathrm{Exp}(k(x))\)，谁先到就走谁：\(t_1

6. 实践设置。参考算法取 MH 链 \(M_\ell\)（混合提议），Jump Restore 复用它的局部分量 \(M_0\) 当局部动力学、大步分布当全局动力学 \(\mu\)。局部行为与参考算法一致，但每段局部探索的长度改由 killing 机制控制，全局发现也由再生步保证。若局部过程已 \(\pi\)-不变（\(L^*p=0\)），killing rate 进一步简化为 \(k_i=\tilde c_i\,u_i/p\)。

实验结果

数值实验选三种代表性算法，其提议核分别源自布朗运动、Langevin 动力学、Hamiltonian 动力学的时间离散——为与统计学名字对齐，文中称之为 Metropolis、MALA、H2MC（对应 Hachisuka et al. 2014 的多路复用 PSSMLT、Luan et al. 2020a、Li et al. 2015）。它们的 Restore 变体记作 Metropolis Restore、MALA Restore、H2MC Restore。

• 参数：MH 基线用常用的大步概率 \(\ell=0.3\)，并丢弃前 10000 次迭代消除 burn-in；Restore 变体只需设唯一自由常数 \(\tilde c_i=1\)。
• 实现于 pbrt 与 lmc 渲染系统，直接光与间接光均用；测试场景涵盖 Contemporary Bathroom、Glass of Water、Country Kitchen、Veach Ajar、Torus、Swimming Pool 等多种光传输特征；参考图用 BDPT 以 \(2^{20}\) spp 生成。度量含 \(L_1\)、\(L_2\)（MSE）、MRSE、RMSE、MAPE 及经验方差。
• 结论：Restore 变体在模态覆盖与视觉保真上一致优于对应标准版；\(L_2\) 误差与经验方差随时间下降更快。且 Restore 在等时比较下的优势比等 spp 更明显——因为它会在目标密度几乎消失处几乎立即杀掉局部探索，这些样本在估计式 (34) 里权重 \(\Delta t_i\) 极小、贡献几乎为零，却仍被计入 spp，导致等 spp 比较低估了 Restore 的效率。
• 硬件全程 CPU（双 AMD EPYC 7702，256 并发线程上限）；作者指出更高并行度的系统上结果可能进一步提升。
• 还纳入了 ERPT [Cline et al. 2005] 做对比：ERPT 与本方法概念相近（都用多条短链在不同区域局部探索），但 ERPT 仍会困在局部模态、链长与链数强依赖场景难以普适调参，且按像素运作，与本方法关系不如 MH 密切。

亮点与局限

• 亮点：
  • 通用改造器：不发明新采样器，而是把任意现有 MCMC 渲染算法”整段吃进”框架即可提速、降误差、降方差，落地成本低。
  • 把局部探索与全局发现彻底解耦成两套机制，保留不可逆性、避免 MH 的回溯与”大步打断高效探索”问题；全局再生只依局部条件（当前密度 + 已探索时长）结束旅程，而非全局判据。
  • 若旅程间转移与退出点无关，各段局部探索可完全并行且不引入 startup bias；同时消掉了归一化常数的 bootstrapping 估计。
  • 首次把连续时间 MCMC 引入图形学，理论正确性在补充材料严格证明。
• 局限：
  • 实践实现的主要难点在于计算 killing rate 里的 \(L_i^*p\) 项和模拟寿命 \(\tau_i\)；前者靠选用已 \(\pi\)-不变的局部过程规避，后者靠聚焦到 Jump Restore 这一特定实例（存在简单模拟法）规避——一般情形的高效实现仍是开放问题。
  • 演示只做了”简单但有启发性”的光线传输应用，且全程 CPU、受 256 线程上限制约，GPU/更大规模并行的收益尚待验证。
  • killing rate 反比于目标密度，会让密度极低区域采得的样本近乎无贡献却仍占 spp，需用等时而非等 spp 来公允衡量。

延伸思考

• 这是一篇”从统计学搬理论进图形学”的桥梁工作：Restore/再生型 MCMC 在统计界已有基础，作者的贡献在于放松其对局部过程与目标密度的苛刻假设，使其在路径空间这种病态被积函数上也能成立——这种”放松假设的推广”本身就有独立价值。
• “任意现有采样器即插即用”的定位很有工程吸引力：意味着 PSSMLT、MALA、H2MC 乃至未来的采样器都能免费拿到全局发现与并行化的红利，而不必重写。
• 作者点明框架的射程超出渲染——生成式 AI 里多模态分布的全局发现同样是核心难题，连续时间的局部/全局解耦或可迁移过去。
• 与 ERPT 的对照提示：一个好的 MCMC 框架应把”链长/链数/大步概率”这类难调的场景相关超参，替换成有理论支撑、自适应的机制（这里是与密度反比的 killing rate）。