import gradio as gr
from Misc import g_css, js_head, g_latex_del
js_head += """ <script type="text/javascript" src="https://cdn.jsdelivr.net/npm/katex@0.15.3/dist/katex.min.js" integrity="sha384-0fdwu/T/EQMsQlrHCCHoH10pkPLlKA1jL5dFyUOvB3lfeT2540/2g6YgSi2BL14p" crossorigin="anonymous"></script> """



def md_introduction_zh():
    global g_latex_del

    with gr.Accordion(label="0. Introduction", elem_classes="first_md", elem_id="introduction"):
        
        gr.Markdown(
            f"""
            扩散模型[\[1\]](#dpm)[\[2\]](#ddpm)是当前图像生成和视频生成使用的主要方式，但由于其晦涩的理论，很多工程师并不能很好地理解。本文将提供一种非常直观易懂的方式，方便读者理解把握扩散模型的原理。特别地，将以互动的形式，以一维随机随机变量的扩散模型进行举例，直观解释扩散模型的多个有趣的性质。

            扩散模型是一个概率模型。概率模型主要提供两方面的功能：计算给定样本出现的概率；采样生成新样本。扩散模型侧重于第二方面，方便采样新样本，从而实现"生成"的任务。

            扩散模型与一般的概率模型(如GMM)不同，直接建模随机变量的概率分布。扩散模型采用一种间接方式，利用“随机变量变换”的方式(如图1a)，逐步将待建模的概率分布(数据分布)转变成"标准正态分布"，同时，建模学习各个变换对应的后验概率分布(图1b-c)。有了最终的标准正态分布和各个后验概率分布，则可通过祖先采样(Ancestral Sampling)的方式，从反向逐步采样得到各个随机变量$Z_T \ldots Z_2,Z_1,X$的样本。同时也可通过贝叶斯公式和全概率公式确定初始的数据分布$q(x)$。

            可能会有这样的疑问：间接的方式需要建模学习T个后验概率分布，直接方式只需要建模学习一个概率分布，为什么要选择间接的方式呢？是这样子的：初始的数据分布可能很复杂，很难用一个概率模型直接表示；而对于间接的方式，各个后验概率分布的复杂度会简单许多，可以用简单的概率模型进行拟合。下面将会看到，当满足一些条件时，后验概率分布将非常接近高斯分布，所以可以使用简单的条件高斯模型进行建模。

            <center> <img src="file/fig1.png" width="820" style="margin-top:12px"/> </center>
            <center> Figure 1: Diffusion model schematic </center>
            """, latex_delimiters=g_latex_del, elem_classes="normal mds", elem_id="md_introduction_zh")
    return


def md_transform_zh():
    global g_latex_del

    with gr.Accordion(label="1. How To Transform", elem_classes="first_md", elem_id="transform"):
        
        gr.Markdown(
            r"""
            为了将初始的数据分布转换为简单的标准正态分布，扩散模型采用如下的变换方式
            \begin{align}
                Z = \sqrt{\alpha} X +  \sqrt{1-\alpha}\epsilon \qquad where \quad \alpha < 1, \quad \epsilon \sim \mathcal{N}(0, I)  \tag{1.1}
            \end{align}
            其中$X\sim q(x)$是任意的随机变量，$Z\sim q(Z)$是变换后的随机变量。

            此变换可分为两个子变换。

            第一个子变换是对随机变量$X$执行一个线性变换($\sqrt{\alpha}X$)，根据文献[\[3\]](#linear_transform)的结论，线性变换使$X$的概率分布“变窄变高”，并且"变窄变高"的程度与$\alpha$的值成正比。具体可看<a href="#demo_1">Demo 1</a>，左1图为随机生成的一维的概率分布，左2图是经过线性变换后的概率分布，可以看出，与左1图相比，左2图的曲线“变窄变高”了。读者可亲自测试不同的$\alpha$值，获得更直观的理解。

            第二个子变换是“加上独立的随机噪声”($\sqrt{1-\alpha}\epsilon$)，根据文献[\[4\]](#sum_conv)的结论，“加上独立的随机变量”等效于对两个概率分布执行卷积，由于随机噪声的概率分布为高斯形状，所以相当于执行”高斯模糊“的操作。经过模糊后，原来的概率分布将变得更加平滑，与标准正态分布将更加相似。模糊的程度与噪声大小($1-\alpha$)正相关。具体可看<a href="#demo_1">Demo 1</a>，左1图是随机生成的一维概率分布，左3图是经过变换后的结果，可以看出，变换后的曲线变光滑了，棱角变少了。读者可测试不同的$\alpha$值，感受噪声大小对概率分布曲线形状的影响。左4图是综合两个子变换后的结果。
            """, latex_delimiters=g_latex_del, elem_classes="normal mds", elem_id="md_transform_zh")
    return


def md_likelihood_zh():
    global g_latex_del

    with gr.Accordion(label="2. Likelihood of The Transform", elem_classes="first_md", elem_id="likelihood"):

        gr.Markdown(
            r"""
            由变换的方式(式1.1)可以看出，前向条件概率$q(z|x)$的概率分布为高斯分布，且只与$\alpha$的值有关，与$q(x)$的概率分布无关。
            \begin{align}
                q(z|x) &= \mathcal{N}(\sqrt{\alpha}x,\ 1-\alpha)    \tag{2.1}
            \end{align}
            具体可看<a href="#demo_2">Demo 2</a>，左3图展示了$q(z|x)$的形状，从图中可以看到一条均匀的斜线，这意味着$q(z|x)$的均值与x线性相关，方差固定不变。$\alpha$值的大小将决定斜线宽度和倾斜程度。
            """, latex_delimiters=g_latex_del, elem_classes="normal mds", elem_id="md_likelihood_zh")
    return


def md_posterior_zh():
    global g_latex_del

    with gr.Accordion(label="3. Posterior of The Transform", elem_classes="first_md", elem_id="posterior"):

        gr.Markdown(
            r"""
            后验概率分布没有闭合的形式，但可以通过一些方法，推断其大概的形状，并分析影响其形状的因素。

            根据Bayes公式，有
            \begin{align}
                q(x|z) = \frac{q(z|x)q(x)}{q(z)}    \tag{3.1}
            \end{align}

            当$z$是取固定值时，$q(z)$是常数，所以$q(x|z)$是关于$x$的概率密度函数，并且其形状只与${q(z|x)q(x)}$有关。
            \begin{align}
                q(x|z)  &=\propto q(z|x)q(x) 	\qquad \text{where z is fixed}  \tag{3.2}
            \end{align}
            
            实际上，$q(z)=\int q(z|x)q(x)dx$，也就是说，$q(z)$是对函数$q(z|x)q(x)$遍历$x$求和，所以，$q(z|x)q(x)$除以$q(z)$相当于对$q(z|x)q(x)$执行归一化。
            \begin{align}
                q(x|z) = \operatorname{Normalize}\big(q(z|x)q(x)\big)  \tag{3.3}
            \end{align}
            
            由式2.1可知，$q(z|x)$为高斯分布，于是有
            \begin{align}
                q(x|z)  &\propto \frac{1}{\sqrt{2\pi(1-\alpha)}}\exp{\frac{-(z-\sqrt{\alpha}x)^2}{2(1-\alpha)}}\ q(x)& 	\qquad &\text{where z is fixed}     \notag   \newline
                        &= \frac{1}{\sqrt{\alpha}}\frac{1}{\sqrt{2\pi\frac{1-\alpha}{\alpha}}}\exp{\frac{-(\frac{z}{\sqrt{\alpha}}-x)^2}{2\frac{1-\alpha}{\alpha}}}\ q(x)& 	     \notag     \newline
                        &= \frac{1}{\sqrt{\alpha}} \underbrace{\frac{1}{\sqrt{2\pi}\sigma}\exp{\frac{-(x-\mu)^2}{2\sigma^2}}}_{\text{GaussFun}}\ q(x)& \qquad &\text{where}\ \mu=\frac{z}{\sqrt{\alpha}}\quad \sigma=\sqrt{\frac{1-\alpha}{\alpha}}   \tag{3.4}
            \end{align}

            可以看出，<b>GaussFun</b>部分是关于$x$的高斯函数，均值为$\frac{z}{\sqrt{\alpha}}$，标准差为$\sqrt{\frac{1-\alpha}{\alpha}}$，所以$q(x|z)$的形状由“<b>GaussFun与$q(x)$相乘</b>”决定。

            根据”乘法“的特点，可以总结$q(x|z)$函数形状具有的特点。
            <ul>
                <li> $q(x|z)$的支撑集应该包含于GaussFun的支撑集，GaussFun的支撑集是一个超球体，中心位于均值$\mu$，半径约为3倍标准差$\sigma$。</li>
                <li> 当高斯函数的方差较小(较小噪声)，或者$q(x)$线性变化时，$q(x|z)$的形状将近似于高斯函数，函数形式较简单，方便建模学习。</li>
                <li> 当高斯函数的方差较大(较大噪声)，或者$q(x)$剧烈变化时，$q(x|z)$的形状将较复杂，与高斯函数有较大的差别，难以建模学习。</li>
            </ul>
            
            <a href="#approx_gauss">Appendix B</a>给出了较严谨的分析，当$\sigma$满足一些条件时，$q(x|z)$的近似于高斯分布。
            
            具体可看<a href="#demo_2">Demo 2</a>，左4图给出后验概率分布$q(x|z)$的形态，可以看出，其形状较不规则，像一条弯曲且不均匀的曲线。当$\alpha$较大时(噪声较小)，曲线将趋向于均匀且笔直。读者可调整不同的$\alpha$值，观察后验概率分布与噪声大小的关系；左5图，$\textcolor{blue}{蓝色虚线}$给出$q(x)$，$\textcolor{green}{绿色虚线}$给出式3.4中的GaussFun，$\textcolor{orange}{黄色实线}$给出两者相乘并归一化的结果，即固定z条件下后验概率$q(x|z=fixed)$。读者可调整不同z值，观察$q(x)$的波动变化对后验概率$q(x|z)$形态的影响。
            
            两个特殊状态下的后验概率分布$q(x|z)$值得考虑一下。
            <ul>
                <li> 当$\alpha \to 0$时，GaussFun的标准差趋向于<b>无穷大</b>，GaussFun变成一个很大支撑集的近似的均匀分布，$q(x)$与均匀分布<b>相乘</b>结果仍为$q(x)$，所以，不同$z$值对应的$q(x|z)$几乎变成一致，并与$q(x)$几乎相同。读者可在<a href="#demo_2">Demo 2</a>中，将$\alpha$设置为0.001，观察具体的结果。</li>
                <li> 当$\alpha \to 1$时，GaussFun的标准差趋向于<b>无穷小</b>，不同$z$值的$q(x|z)$收缩成一系列不同偏移量的Dirac delta函数, 偏移量等于$z$。但有一些例外，当$q(x)$存在为零的区域时，其对应的$q(x|z)$将不再为Dirac delta函数，而是零函数。可在<a href="#demo_2">Demo 2</a>中，将$\alpha$设置为0.999，观察具体的结果。</li>
            </ul>
            
            有一点需要注意一下，当$\alpha \to 0$时，较大$z$值对应的GaussFun的均值($\mu=\frac{z}{\sqrt{\alpha}}$)也急剧变大，也就是说，GaussFun位于离原点较远的地方，此时，$q(x)$的支撑集对应的GaussFun部分的“均匀程度”会略微有所下降, 从而会略微降低$q(x|z)$与$q(x)$的相似度，但这种影响会随着$\alpha$减小而进一步降低。读者可在<a href="#demo_2">Demo 2</a>中观察此影响，将$\alpha$设置为0.001，$q(x|z=-2)$与$q(x)$会略微有一点差别，但$q(x|z=0)$与$q(x)$却看不出区别。
            
            关于高斯函数的"均匀程度"，有如下两个特点：标准差越大，均匀程度越大；离均值越远，均匀程度越小。
            """, latex_delimiters=g_latex_del, elem_classes="normal mds", elem_id="md_posterior_zh")
    return


def md_forward_process_zh():
    global g_latex_del

    title = "4. Transform Data Distribution To Normal Distribution"
    with gr.Accordion(label=title, elem_classes="first_md", elem_id="forward_process"):

        gr.Markdown(
            r"""
            对于任意的数据分布$q(x)$，均可连续应用上述的变换(如式4.1~4.4)，随着变换的次数的增多，输出的概率分布将变得越来越接近于标准正态分布。对于较复杂的数据分布，需要较多的次数或者较大的噪声。

            具体可看<a href="#demo_3_1">Demo 3.1</a>，第一子图是随机生成的一维概率分布，经过7次的变换后，最终的概率分布与标准正态分布非常相似。相似的程度与迭代的次数和噪声大小正相关。对于相同的相似程度，如果每次所加的噪声较大(较小的$\alpha$值)，那所需变换的次数将较少。读者可尝试不同的$\alpha$值和次数，观测最终概率分布的相似程度。

            起始概率分布的复杂度会比较高，随着变换的次数增多，概率分布$q(z_t)$的复杂度将会下降。根据第3节结论，更复杂的概率分布对应更复杂的后验概率分布，所以，为了保证后验概率分布与高斯函数较相似(较容易学习)，在起始阶段，需使用较大的$\alpha$(较小的噪声)，后期阶段可适当使用较小的$\alpha$(较大的噪声)，加快向标准正态分布转变。

            在<a href="#demo_3_1">Demo 3.1</a>的例子可以看到，随着变换次数增多，$q(z_t)$的棱角变得越来越少，同时，后验概率分布$q(z_{t-1}|z_t)$图中的斜线变得越来越笔直匀称，越来越像条件高斯分布。

            \begin{align}
                Z_1   &= \sqrt{\alpha_1} X + \sqrt{1-\alpha_1}\epsilon_1 			\tag{4.1}   \newline
                Z_2   &= \sqrt{\alpha_2} Z_1 + \sqrt{1-\alpha_2}\epsilon_2 			\tag{4.2}   \newline
                      &\dots														\notag      \newline
                Z_{t} &= \sqrt{\alpha_t}Z_{t-1} + \sqrt{1-\alpha_t}\epsilon_{t}	    \tag{4.3}   \newline
                      &\dots													    \notag      \newline
                Z_{T} &= \sqrt{\alpha_T}Z_{T-1} + \sqrt{1-\alpha_T}\epsilon_{T}	    \tag{4.4}   \newline
                      &where \quad \alpha_t < 1   \qquad t\in {1,2,\dots,T}         \notag
            \end{align}

            把式4.1代入式4.2，同时利用高斯分布的性质，可得出$q(z_2|x)$的概率分布的形式
            \begin{align}
                z_2 &= \sqrt{\alpha_2}(\sqrt{\alpha_1}x + \sqrt{1-\alpha_1}\epsilon_1) + \sqrt{1-\alpha_2}\epsilon_2	    \tag{4.5}   \newline
                    &= \sqrt{\alpha_2\alpha_1}x + \sqrt{\alpha_2-\alpha_2\alpha_1}\epsilon_1 + \sqrt{1-\alpha_2}\epsilon_2  \tag{4.6}   \newline
                    &= \mathcal{N}(\sqrt{\alpha_1\alpha_2}x,\ 1-\alpha_1\alpha_2)                                           \tag{4.7}
            \end{align}
            
            同理，可递推得出
            \begin{align}
                q(z_t|x) &= \mathcal{N}(\sqrt{\alpha_1\alpha_2\cdots\alpha_t}x,\ 1-\alpha_1\alpha_2\cdots\alpha_t) = \mathcal{N}(\sqrt{\bar{\alpha_t}}x,\ 1-\bar{\alpha_t})  \qquad where\ \bar{\alpha_t} \triangleq \prod_{j=1}^t\alpha_j      \tag{4.8}
            \end{align}
            
            比较式4.8和式2.1的形式，可发现，两者的形式是完全一致的。
            
            如果只关注首尾两个变量之间的关系，那么连续t次的小变换可用一次大变换替代，大变换的$\alpha$是各个小变换的$\alpha$累积，因为两种变换对应的联合概率分布相同。
            
            读者可在<a href="#demo_3_1">Demo 3.1</a>中做一个实验，对同样的输入分布$q(x)$，使用两种不同的变换方式：1)使用三个变换，$\alpha$均为0.95; 2)使用一个变换，$\alpha$设置为0.857375。分别执行变换，然后比较变换后的两个分布，将会看到，两个分布是完全相同的。
            
            在DDPM[\[2\]](#ddpm)论文中，作者使用了1000步(T=1000)，将数据分布$q(x)$转换至$q(z_T)$，$q(z_T|x)$的概率分布如下：
            \begin{align}
                q(z_T|x) &= \mathcal{N}(0.00635\ x,\ 0.99998)    \tag{4.9}
            \end{align}
            
            如果只考虑$X,Z_T$的联合分布$q(x,z_T)$，也可使用一次变换代替，变换如下:
            \begin{align}
                Z_T = \sqrt{0.0000403}\ X + \sqrt{1-0.0000403}\ \epsilon = 0.00635\ X + 0.99998\ \epsilon 			 \tag{4.10}
            \end{align}
            可以看出，应用两种变换后，变换后的分布$q(z_T|x)$相同，因此，$q(x, z_T)$也相同。
            """, latex_delimiters=g_latex_del, elem_classes="normal mds", elem_id="md_forward_process_zh")
    return


def md_backward_process_zh():
    global g_latex_del

    title = "5. Restore Data Distribution From Normal Distribution"
    with gr.Accordion(label=title, elem_classes="first_md", elem_id="backward_process"):

        gr.Markdown(
            r"""
            如果知道了最终的概率分布$q(z_T)$及各个转换过程的后验概率$q(x|z),q(z_{t-1}|z_t)$，则可通过“贝叶斯公式”和“全概率公式”恢复数据分布$q(x)$，见式5.1~5.4。当最终的概率分布$q(z_T)$与标准正态分布很相似时，可用标准正态分布代替。
            
            具体可看<a href="#demo_3_2">Demo 3.2</a>。示例中$q(z_T)$使用$\mathcal{N}(0,1)$代替，同时通过JS Div给出了误差大小。恢复的概率分布$q(z_t)$及$q(x)$使用$\textcolor{green}{绿色曲线}$标识，原始的概率分布使用$\textcolor{blue}{蓝色曲线}$标识。可以看出，数据分布$q(x)$能够被很好地恢复回来，并且误差(JS Divergence)会小于标准正态分布替换$q(z_T)$引起的误差。
            \begin{align}
                q(z_{T-1}) &= \int q(z_{T-1},z_T)dz_T = \int q(z_{T-1}|z_T)q(z_T)dz_T               	    \tag{5.1}   \newline
                           & \dots	                                                                        \notag      \newline
                q(z_{t-1}) &= \int q(z_{t-1},z_t)dz_t = \int q(z_{t-1}|z_t)q(z_t)dz_t                       \tag{5.2}   \newline
                           & \dots	                                                                        \notag      \newline
                q(z_1)     &= \int q(z_1,z_2) dz_1    = \int q(z_1|z_2)q(z_2)dz_2                           \tag{5.3}   \newline
                q(x)       &= \int q(x,z_1) dz_1      = \int q(x|z_1)q(z_1)dz_1                             \tag{5.4}   \newline
            \end{align}
            在本文中，将上述恢复过程(式5.1~5.4)所使用的变换称之为“后验概率变换”。例如，在式5.4中，变换的输入为概率分布函数$q(z_1)$，输出为概率分布函数$q(x)$，整个变换由后验概率分布$q(x|z_1)$决定。此变换也可看作为一组基函数的线性加权和，基函数为不同条件下的$q(x|z_1)$，各个基函数的权重为$q(z_1)$。在<a href="#posterior_transform">第7节</a>，将会进一步介绍此变换的一些有趣性质。
            
            在<a href="#posterior">第3节</a>中，我们考虑了两个特殊的后验概率分布。接下来，分析其对应的”后验概率变换“。
            <ul>
                <li> 当$\alpha \to 0$时，不同$z$值的$q(x|z)$均与$q(x)$几乎相同，也就是说，线性加权和的基函数几乎相同。此状态下，<b>不管输入如何变化，变换的输出总为$q(x)$</b>。</li>
                <li> 当$\alpha \to 1$时，不同$z$值的$q(x|z)$收缩成一系列不同偏移量的Dirac delta函数及零函数。此状态下，只要输入分布的支撑集(support set)包含于$q(x)$的支撑集，变换的输出与输入将保持一致。</li>
            </ul>
            
            在<a href="#forward_process">第4节</a>中提到，DDPM[\[2\]](#ddpm)论文所使用的1000次变换可使用一次变换表示：
            \begin{align}
                Z_T = \sqrt{0.0000403}\ X + \sqrt{1-0.0000403}\ \epsilon = 0.00635\ X + 0.99998\ \epsilon 			 \tag{5.5}
            \end{align}
            由于$\alpha=0.0000403$非常小，其对应的GaussFun(式3.4)的标准差达到157.52。如果把$q(x)$的支撑集限制在单位超球范围内($\lVert x \rVert_2 < 1$)，那当$z_T \in [-2, +2]$时，对应的各个$q(x|z_T)$均与$q(x)$非常相似。在这种状态下，对于$q(x|z_T)$相应的后验概率变换，不管输入分布的形状的如何，只要支撑集在$[-2,+2]$范围内，其输出分布都将是$q(x)$。
            
            <b>所以，可以总结，在DPM模型中，如果$q(x)$的支撑集是有限的，并且最终变量$Z_T$的信噪比足够大，那恢复$q(x)$的过程可以使用任意的分布，不必一定需要使用标准正态分布。</b>
            
            读者可亲自做一个类似的实验。在<a href="#demo_3_1">Demo 3.1</a>中，将start_alpha设置0.25，end_alpha也设置为0.25，step设置为7，此时$q(z_7)=\sqrt{0.000061}X + \sqrt{1-0.000061}\epsilon$，与DDPM的$q(z_T)$基本相似。点击<b>apply</b>执行前向变换($\textcolor{blue}{蓝色曲线}$)，为接下来的反向恢复做准备。在<a href="#demo_3_2">Demo 3.2</a>中，noise_ratio设置为1，为末端分布$q(z_7)$引入100%的噪声，切换nose_random_seed的值可改变噪声的分布，取消选择backward_pdf，减少画面的干扰。点击<b>apply</b>将通过后验概率变换恢复$q(x)$，将会看到，不管输入的$q(z_7)$的形状如何，恢复的$q(x)$均与原始的$q(x)$完全相同, JS Divergence为0，恢复的过程使用$\textcolor{red}{红色曲线}$画出。
            
            另外有一点值得注意一下，在深度学习任务中，常将输入样本的各个维度缩放在[-1,1]范围内，也是说在一个超立方体内(hypercube)。超立方体内任意两点的最大欧氏距离会随着维度的增多而变大，比如，对于一维，最大距离为$2$，对于二维，最大距离为$2\sqrt{2}$，对于三维，最大距离为$2\sqrt{3}$，对于n维，最大距离为$2\sqrt{n}$。所以，对于维度较高的数据，需要$Z_T$变量有更高的信噪比，才能让恢复过程的起始分布接受任意的分布。
             
            """, latex_delimiters=g_latex_del, elem_classes="normal mds", elem_id="md_backward_process_zh")
    return


def md_fit_posterior_zh():
    global g_latex_del

    title = "6. Fitting Posterior With Conditional Gaussian Model"
    with gr.Accordion(label=title, elem_classes="first_md", elem_id="fit_posterior"):
        
        # because of the render bug in gradio markdown, some formulas are render in ExtraBlock.js
        gr.Markdown(
            r"""
            由<a href="#posterior">第3节</a>前半部分可知，各个后验概率分布是未知的，并且与$q(x)$有关。所以，为了恢复数据分布或者从数据分布中采样，需要对各个后验概率分布进行学习估计。

            由<a href="#posterior">第3节</a>后半部分可知，当满足一定条件时，各个后验概率分布$q(x|z)、q(z_{t-1}|z_t)$近似于高斯概率分布，所以可通过构建一批条件高斯概率模型$p(x|z),p(z_{t-1}|z_t)$，学习拟合对应的$q(x|z),q(z_{t-1}|z_t)$。

            由于模型表示能力和学习能力的局限性，拟合过程会存在一定的误差，进一步会影响恢复$q(x)$的准确性。拟合误差大小与后验概率分布的形状有关。由<a href="#posterior">第3节</a>可知，当$q(x)$较复杂或者所加噪声较大时，后验概率分布会较复杂，与高斯分布差别较大，从而导致拟合误差，进一步影响恢复$q(x)$。
            
            具体可看<a href="#demo_3_3">Demo 3.3</a>，读者可测试不同复杂程度的$q(x)$和$\alpha$，观看后验概率分布$q(z_{t-1}|z_t)$的拟合程度，以及恢复$q(x)$的准确度。恢复的概率分布使用$\textcolor{orange}{橙色}$标识，同时也通过JS divergence给出误差。

            关于拟合的目标函数，与其它概率模型类似，可$\textcolor{red}{优化交叉熵损失}$，使$p(z_{t-1}|z_t)$逼近于$q(z_{t-1}|z_t)$。由于$(z_{t-1}|z_t)$是条件概率，所以需要综合考虑各个条件，以<b>各个条件发生的概率$q(z_t)$</b>加权平均<b>各个条件对应的交叉熵</b>。最终的损失函数形式如下:
            \begin{align}
                loss &= -\int q(z_t)\ \overbrace{\int q(z_{t-1}|z_t) \log \textcolor{blue}{p(z_{t-1}|z_t)}dz_{t-1}}^{\text{Cross Entropy}}\ dz_t        \tag{6.1}     \newline
                     &= -\iint q(z_{t-1},z_t) \log \textcolor{blue}{p(z_{t-1}|z_t)}dz_{t-1}dz_t                                                         \tag{6.2} 
            \end{align}
            也可以KL散度作为目标函数进行优化，KL散度与交叉熵是等价的[\[10\]](#ce_kl)。
            <span id="zh_fit_0">
                loss &= \int q(z_t) KL(q(z_{t-1}|z_t) \Vert \textcolor{blue}{p(z_{t-1}|z_t)})dz_t                                                             \tag{6.3}      \newline
                     &= \int q(z_t) \int q(z_{t-1}|z_t) \log \frac{q(z_{t-1}|z_t)}{\textcolor{blue}{p(z_{t-1}|z_t)}} dz_{t-1} dz_t                                 \tag{6.4}      \newline 
                     &= -\int q(z_t)\ \underbrace{\int q(z_{t-1}|z_t) \log \textcolor{blue}{p(z_{t-1}|z_t)}dz_{t-1}}{underline}{\text{Cross Entropy}}\ dz_t + \underbrace{\int q(z_t) \int q(z_{t-1}|z_t) \log q(z_{t-1}|z_t)}{underline}{\text{Is Constant}} dz  \tag{6.5}
            </span>
            
            式6.2的积分没有闭合的形式，不能直接优化。可使用蒙特卡罗(Monte Carlo)积分近似计算，新的目标函数如下:
            \begin{align}
                loss &= -\iint q(z_{t-1},z_t) \log \textcolor{blue}{p(z_{t-1}|z_t)}dz_{t-1}dz_t                                                     \tag{6.6}      \newline
                     &\approx -\sum_{i=0}^N \log \textcolor{blue}{p(Z_{t-1}^i|Z_t^i)} \qquad where \quad (Z_{t-1}^i,Z_t^i) \sim q(z_{t-1},z_t)      \tag{6.7} 
            \end{align}

            上述的样本$(Z_{t-1}^i,Z_t^i)$服从联合概率分布$q(z_{t-1},z_t)$，可通过祖先采样的方式采样得到。具体方式如下：通过正向转换的方式(式4.1~4.4)，逐步采样$X,Z_1,Z_2\dots Z_{t-1},Z_t$，然后留下$(Z_{t-1},Z_t)$作为一个样本。但这种采样方式比较慢，可利用$q(z_t|x)$概率分布已知的特点(式4.8)加速采样，先从$q(x)$采样$X$，然后由$q(z_{t-1}|x)$采样$Z_{t-1}$，最后由$q(z_t|z_{t-1})$采样$Z_t$，于是得到一个样本$(Z_{t-1},Z_t)$。

            可能有些人会有疑问，式6.3的形式跟DPM[\[1\]](#dpm)和DDPM[\[2\]](#ddpm)论文里的形式不太一样。实际上，这两个目标函数是等价的，下面给出证明。

            对于一致项(Consistent Term)，证明如下:

            \begin{align}
                loss &= -\iint q(z_{t-1},z_t)\ \log \textcolor{blue}{p(z_{t-1}|z_t)}dz_{t-1}dz_t                                                                                            \tag{6.8}           \newline
                     &= -\iint \int q(x)q(z_{t-1}, z_t|x)dx\ \log \textcolor{blue}{p(z_{t-1}|z_t)}dz_{t-1}dz_t                                                                              \tag{6.9}           \newline
                     &= \overbrace{\iint \int q(x)q(z_{t-1}, z_t|x) \log q(z_{t-1}|z_t,x)dxdz_{t-1}dz_t}^{\text{This Term Is Constant And Is Denoted As}\ \textcolor{orange}{C_1}}          \tag{6.10}          \newline
                     &\quad - \iint \int q(x)q(z_{t-1}, z_t|x) \log \textcolor{blue}{p(z_{t-1}|z_t)}dxdz_{t-1}dz_t - \textcolor{orange}{C_1}                                                \tag{6.11}          \newline
                     &= \iint \int q(x)q(z_{t-1},z_t|x) \log \frac{q(z_{t-1}|z_t,x)}{\textcolor{blue}{p(z_{t-1}|z_t)}}dxdz_{t-1}dz_t - \textcolor{orange}{C_1}                              \tag{6.12}          \newline
                     &= \iint q(x)q(z_t|x)\int q(z_{t-1}|z_t,x) \log \frac{q(z_{t-1}|z_t,x)}{\textcolor{blue}{p(z_{t-1}|z_t)}}dz_{t-1}\ dz_tdx - \textcolor{orange}{C_1}                   \tag{6.13}          \newline
                     &= \iint \ q(x)q(z_t|x) KL(q(z_{t-1}|z_t,x) \Vert \textcolor{blue}{p(z_{t-1}|z_t)}) dz_t dx - \textcolor{orange}{C_1}                                                  \tag{6.14}          \newline
                     &\propto \iint \ q(x)q(z_t|x) KL(q(z_{t-1}|z_t,x) \Vert \textcolor{blue}{p(z_{t-1}|z_t)}) dz_t dx                                                                      \tag{6.15}          \newline
            \end{align}

            上式中的$C_1$项是一个固定值，不包含待优化的参数，其中，$q(x)$是固定的概率分布，$q(z_{t-1}|z_t)$也是固定概率分布，具体形式由$q(x)$及系数$\alpha$确定。

            对于重构项(Reconstruction Term)，可通过类似的方式证明：
            \begin{align}
                loss &= -\int q(z_1)\overbrace{\int q(x|z_1)\log \textcolor{blue}{p(x|z_1)}dx}^{\text{Cross Entropy}}\ dz_1     \tag{6.16}   \newline
                &= -\iint q(z_1,x)\log \textcolor{blue}{p(x|z_1)}dxdz_1                 \tag{6.17}   \newline
                &= -\int q(x)\int q(z_1|x)\log \textcolor{blue}{p(x|z_1)}dz_1\ dx       \tag{6.18}
            \end{align}
            
            因此，式6.1的目标函数与DPM的目标函数是等价的。
             
            根据一致项证明的结论，以及交叉熵与KL散度的关系，可得出一个有趣的结论：
            <span id="zh_fit_1">
                \mathop{\min}{underline}{\textcolor{blue}{p}} \int q(z_t) KL(q(z_{t-1}|z_t) \Vert \textcolor{blue}{p(z_{t-1}|z_t)})dz_t  \iff  \mathop{\min}{underline}{\textcolor{blue}{p}} \iint \ q(z_t)q(x|z_t) KL(q(z_{t-1}|z_t,x) \Vert \textcolor{blue}{p(z_{t-1}|z_t)})dxdz_t           \tag{6.19}
            </span>
            比较左右两边的式子，可以看出，右边的目标函数比左边的目标函数多了一个条件变量$X$，同时也多了一个关于$X$积分，并且以$X$的发生的概率$q(x|z_t)$作为积分的加权系数。
            
            依照类似的思路，可推导出一个更通用的关系：
            <span id="zh_fit_2">
                \mathop{\min}{underline}{\textcolor{blue}{p}}  KL(q(z) \Vert \textcolor{blue}{p(z)})  \iff  \mathop{\min}_{\textcolor{blue}{p}} \int \ q(x) KL(q(z|x) \Vert \textcolor{blue}{p(z)})dx               \tag{6.20}
            </span>
            关于此结论的详细推导，可见<a href="#cond_kl">Appendix A</a>。
            """, latex_delimiters=g_latex_del, elem_classes="normal mds", elem_id="md_fit_posterior_zh")
    return


def md_posterior_transform_zh():
    global g_latex_del

    with gr.Accordion(label="7. Posterior Transform", elem_classes="first_md", elem_id="posterior_transform"):

        gr.Markdown(
            r"""
            <h3 style="font-size:18px"> Non-expanding mapping and Stationary Distribution </h3>
            \begin{align}
                q(x) &= \int q(x,z) dz = \int q(x|z)q(z)dz      \tag{7.1}
            \end{align}

            根据<a href="#non_expanping">Appendix B</a>的Corollary 1和Corollary 2可知，后验概率变换是一个non-expanding mapping。也是说，对任意的两个概率分布$q_{i1}(z)和q_{i2}(z)$，经过后验概率变换后得到$q_{o1}(x)$和$q_{o2}(x)$，$q_{o1}(z)$和$q_{o2}(z)$的距离<b>总是小于或等于</b>$q_{i1}(x)$和$q_{i2}(x)$的距离。这里的距离可使用KL Divergence或Total Variance或度量。
            \begin{align}
                d(q_{o1}(z),\ q_{o2}(z)) \le d(q_{i1}(x),\ q_{i2}(x))                   \tag{7.2}
            \end{align}
            根据<a href="#non_expanping">Appendix B</a>的分析可知，在大多数情况，上述的等号并不会成立。并且，<b>当$\alpha$越小时(噪声越多)，$d(q_{o1},q_{o2})$会越小于$d(q_{i1},q_{i2})$</b>。

            读者可查看<a href="#demo_4_1">Demo 4.1</a>，左侧三个图呈现一个变换的过程，左1图是任意的数据分布$q(x)$，左3图是变换后的概率分布，左2图是后验概率分布。可更改随机种子生成新的数据分布，调整$\alpha$值引入不同程度的噪声。左侧最后两个图展示变换的“压缩性质”，左4图展示随机生成的两个输入分布，同时给出其距离度量值$div_{in}$；左5图展示经过变换后的两个输出分布，输出分布之间的距离标识为$div_{out}$。读者可改变输入的随机种子，切换不同的输入。可在图中看到，对于任意的输入，$div_{in}$总是小于$div_{out}$。另外，也可改变$\alpha$的值，将会看到，$\alpha$越小(噪声越大)，$\frac{div_{out}}{div_{in}}$的比值也越小，即收缩率越大。
            
            根据<a href="#stationary">Appendix C</a>的分析可知：后验概率变换可视为markov chain的一步跳转，并且，<b>当$q(x)$和$\alpha$满足一些条件时，此markov chain会收敛于惟一的稳态分布</b>。另外，通过大量实验发现，<b>稳态分布与数据分布$q(x)$非常相似，当$\alpha$越小时，稳态分布与$q(x)$越相似</b>。特别地，根据<a href="#backward_process">第5节</a>的结论，<b>当$\alpha \to 0$时，经过一步变换后，输出分布即是$q(x)$，所以稳态分布必定是$q(x)$</b>。
            
            读者可看<a href="#demo_4_2">Demo 4.2</a>，此部分展示迭代收敛的例子。选择合适的迭代次数，点中“apply iteration transform”，将逐步画出迭代的过程，每个子图均会展示各自变换后的输出分布($\textcolor{green}{绿色曲线}$)，收敛的参考点分布$q(x)$以$\textcolor{blue}{蓝色曲线}$画出，同时给出输出分布与$q(x)$之间的距离$dist$。可以看出，随着迭代的次数增加，输出分布与$q(x)$越来越相似，并最终会稳定在$q(x)$附近。对于较复杂的分布，可能需要较多迭代的次数或者较大的噪声。迭代次数可以设置为上万步，但会花费较长时间。

            对于一维离散的情况，$q(x|z)$将离散成一个矩阵(记为$Q_{x|z}$)，$q(z)$离散成一个向量(记为$\boldsymbol{q_i}$)，积分操作$\int q(x|z)q(z)dz$将离散成"矩阵-向量"乘法操作，所以后验概率变换可写成
            \begin{align}
                \boldsymbol{q_o} &= Q_{x|z}\ \boldsymbol{q_i} &             \quad\quad        &\text{1 iteration}         \tag{7.3}       \newline
                \boldsymbol{q_o} &= Q_{x|z}\ Q_{x|z}\ \boldsymbol{q_i} &    \quad\quad        &\text{2 iteration}         \tag{7.4}       \newline
                    & \dots &                                                                                             \notag          \newline
                \boldsymbol{q_o} &= (Q_{x|z})^n\ \boldsymbol{q_i} &         \quad\quad        &\text{n iteration}         \tag{7.5}       \newline
            \end{align}
            于是，为了更深入地理解变换的特点，<a href="#demo_4_2">Demo 4.2</a>也画出矩阵$(Q_{x|z})^n$的结果。从图里可以看到，当迭代趋向收敛时，矩阵$(Q_{x|z})^n$的行向量将变成一个常数向量，即向量的各分量都相等。在二维密度图里将表现为一条横线。
            
            对于一维离散的markov chain，收敛速度与转移概率矩阵的第二大特征值的绝对值($\lvert \lambda_2 \rvert$)反相关，$\lvert \lambda_2 \rvert$越小，收敛速度越快。经过大量的实验发现，$\alpha$与$\lvert \lambda_2 \rvert$有着明确的线性关系，$\alpha$越小，$\lvert \lambda_2 \rvert$也越小。所以，<b>$\alpha$越小(噪声越大)，收敛速度越快</b>。 特别地，当$\alpha \to 0$时，由<a href="#posterior">第3节</a>的结论可知，各个$z$对应的后验概率分布趋向一致，而由文献<a href="#non_neg_lambda">[21]</a>的Theorem 21可知，$\lvert \lambda_2 \rvert$小于任意两个$z$对应的后验概率分布的L1距离，所以，可知$\lvert \lambda_2 \rvert \to 0$。
            
            </br>
            <h3 style="font-size:18px"> Anti-noise Capacity In Restoring Data Distribution </h3>
            由上面的分析可知，在大多数情况下，"后验概率变换"是一个收缩映射，所以存在如下的关系：
            \begin{align}
                d(q(x),\ q_o(x)) < d(q(z),\ q_i(z))         \tag{7.12}
            \end{align}
            其中，$q(z)$是理想的输入分布，$q(x)$理想的输出分布，$q(x)=\int q(x|z)q(z)dz$，$q_i(z)$是任意的输入分布，$q_o(x)$是变换后的输出分布，$q_o(x)=\int q(x|z)q_i(z)dz$。
            
            上式表明，输出的分布$q_o(x)$与理想输出分布$q(x)$之间的距离总会<b>小于</b>输入分布$q_i(z)$与理想输入分布$q(x)$的距离。所以，<b>”后验概率变换“天然具备一定的抵抗噪声能力</b>。这意味着，在恢复$q(x)$的过程中(<a href="#backward_process">第5节</a>)，哪怕输入的“末尾分布$q(z_T)”$存在一定的误差，经过一系列变换后，输出的“数据分布$q(x)$“的误差也会比输入的误差更小。
            
            具体可看<a href="#demo_3_2">Demo 3.2</a>，通过增加“noise ratio”的值可以向“末尾分布$q(z_T)$”添加噪声，点击“apply”按钮将逐步画出恢复的过程，恢复的分布以$\textcolor{red}{红色曲线}$画出，同时也会通过JS散度标出误差的大小。将会看到，恢复的$q(x)$的误差总是小于$q(z_T)$的误差。
            
            由上面的讨论可知，$\alpha$越小(即变换过程中使用的噪声越大)，收缩映射的收缩率越大，相应地，抗噪声的能力也越强。特别地，当$\alpha \to 0$时，抗噪声能力无限大，不论多大噪声的输入，输出都为$q(x)$。
            
            </br>
            <h3 style="font-size:18px"> Markov Chain Monte Carlo Sampling</h3>
            
            在DPM模型中，通常是通过Ancestral Sampling的方式进行采样。由上面的分析可知，当$\alpha$足够小时，后验概率变换会收敛于$q(x)$，所以，可通过Markov Chain Monte Carlo的方式进行采样。如图7.1所示。图中$\alpha$代表一个较大的噪声的后验概率变换，较大的噪声使稳态分布更接近于数据分布$q(x)$，但由<a href="#posterior">第3节</a>可知，较大噪声的后验变换不利于拟合，所以把较大噪声的后验概率变换分成多个小噪声的后验概率变换。
            
            <center> <img src="file/7.1.png" width="1024" style="margin-top:12px"/> </center>
            <center> Figure 7.1: Markov Chain Monte Carlo Sampling</center>
            
            """, latex_delimiters=g_latex_del, elem_classes="normal mds", elem_id="md_posterior_transform_zh")
    return


def md_deconvolution_zh():
    global g_latex_del
    
    title = "8. Can the data distribution be restored by deconvolution?"
    with gr.Accordion(label=title, elem_classes="first_md", elem_id="deconvolution"):

        gr.Markdown(
            r"""
            在<a href="#introduction">第1节</a>中提到，式2.1的变换可分为两个子变换，第一个子变换为”线性变换“，第二个为“加上独立高斯噪声”。线性变换相当于对概率分布进行拉伸变换，所以存在逆变换。"加上独立高斯噪声”相当于对概率分布执行卷积操作，卷积操作可通过逆卷积恢复。所以，理论上，可通过“逆线性变换”和“逆卷积”从最终的概率分布$q(z_T)$恢复数据分布$q(x)$。
            
            但实际上，会存在一些问题。由于逆卷积对误差极为敏感，具有很高的输入灵敏度，很小的输入噪声就会引起输出极大的变化[\[11\]](#deconv_1)[\[12\]](#deconv_2)。而在扩散模型中，会使用标准正态分布近似代替$q(z_T)$，因此，在恢复的起始阶段就会引入噪声。虽然噪声较小，但由于逆卷积的敏感性，噪声会逐步放大，影响恢复。
            
            另外，也可以从另一个角度理解“逆卷积恢复”的不可行性。由于前向变换的过程(式4.1~4.4)是确定的，所以卷积核是固定的，因此，相应的“逆卷积变换“也是固定的。由于起始的数据分布$q(x)$可以是任意的分布，所以，通过一系列固定的“卷积正变换”，可以将任意的概率分布转换成近似$\mathcal{N}(0,I)$的分布。如“逆卷积变换“可行，则意味着，可用一个固定的“逆卷积变换"，将$\mathcal{N}(0,I)$分布恢复成任意的数据分布$q(x)$，这明显是一个悖论。同一个输入，同一个变换，不可能会有多个输出。
            """, latex_delimiters=g_latex_del, elem_classes="normal mds", elem_id="md_deconvolution_zh")
    return


def md_cond_kl_zh():
    global g_latex_del

    title = "Appendix A Conditional KL Divergence"
    with gr.Accordion(label=title, elem_classes="first_md", elem_id="cond_kl"):
        gr.Markdown(
            r"""
            本节主要介绍<b>KL散度</b>与<b>条件KL散度</b>之间的关系。在正式介绍之前，先简单介绍<b>熵</b>和<b>条件熵</b>的定义，以及两者之间存在的不等式关系，为后面的证明作准备。

            <h3 style="font-size:18px">熵及条件熵</h3>
            对于任意两个随机变量$Z,X$，<b>熵</b>(Entropy)定义如下<a href="#entropy">[16]</a>：
            \begin{align}
               \mathbf{H}(Z) = \int -p(z)\log{p(z)}dz    \tag{A.1}
            \end{align}
            <b>条件熵</b>(Conditional Entropy)的定义如下<a href="#cond_entropy">[17]</a>：
            \begin{align}
               \mathbf{H}(Z|X) = \int p(x) \overbrace{\int -p(z|x)\log{p(z|x)}dz}^{\text{Entropy}}\ dx    \tag{A.2}
            \end{align}
            两者存在如下的不等式关系：
            \begin{align}
               \mathbf{H}(Z|X) \le \mathbf{H}(Z)         \tag{A.3}
            \end{align}
            也就是说，<b>条件熵总是小于或者等于熵</b>，当且仅当X与Z相互独立时，两者相等。此关系的证明可看文献<a href="#cond_entropy">[17]</a>。
            
            <h3 style="font-size:18px"> KL散度及条件KL散度 </h3>
            仿照条件熵定义的方式，引入一个新定义，<b>条件KL散度</b>，记为$KL_{\mathcal{C}}$。由于KL散度的定义是非对称的，所以存在两种形式，如下：
            \begin{align}
               KL_{\mathcal{C}}(q(z|x) \Vert \textcolor{blue}{p(z)}) = \int \ q(x) KL(q(z|x) \Vert \textcolor{blue}{p(z)})dx                        \tag{A.4}     \newline
               KL_{\mathcal{C}}(q(z) \Vert \textcolor{blue}{p(z|x)}) = \int \ \textcolor{blue}{p(x)} KL(q(z) \Vert \textcolor{blue}{p(z|x)})dx      \tag{A.5}
            \end{align}
            
            与条件熵类似，<b>两种形式的条件KL散度</b>也都存在类似的不等式关系：
            \begin{align}
               KL_{\mathcal{C}}(q(z|x) \Vert \textcolor{blue}{p(z)}) \ge KL(q(z) \Vert \textcolor{blue}{p(z)})        \tag{A.6}   \newline
               KL_{\mathcal{C}}(q(z) \Vert \textcolor{blue}{p(z|x)}) \ge KL(q(z) \Vert \textcolor{blue}{p(z)})        \tag{A.7}
            \end{align}
            也就是说，<b>条件KL散度总是大于或者等于KL散度</b>，当且仅当X与Z相互独立时，两者相等。
             
            下面对式A.5和式A.6的结论分别证明。
            
            对于式A.6，证明如下：
            \begin{align}
                KL_{\mathcal{C}}(q(z|x) \Vert \textcolor{blue}{p(z)}) &= \int \ q(x) KL(q(z|x) \Vert \textcolor{blue}{p(z)})dx      \tag{A.8}    \newline
                    &= \iint q(x) q(z|x) \log \frac{q(z|x)}{\textcolor{blue}{p(z)}}dzdx                                             \tag{A.9}    \newline
                    &= -\overbrace{\iint - q(x)q(z|x) \log q(z|x) dzdx}^{\text{Conditional Entropy }\mathbf{H}_q(Z|X)} - \iint q(x) q(z|x) \log \textcolor{blue}{p(z)} dzdx          \tag{A.10}   \newline
                    &= -\mathbf{H}_q(Z|X) - \int \left\lbrace \int q(x) q(z|x)dx \right\rbrace \log \textcolor{blue}{p(z)}dz                                                        \tag{A.11}   \newline
                    &= -\mathbf{H}_q(Z|X) + \overbrace{\int - q(z) \log p(z)dz}^{\text{Cross Entropy}}                                                                              \tag{A.12}   \newline
                    &= -\mathbf{H}_q(Z|X) + \int q(z)\left\lbrace \log\frac{q(z)}{\textcolor{blue}{p(z)}} -\log q(z)\right\rbrace dz                                                \tag{A.13}   \newline
                    &= -\mathbf{H}_q(Z|X) + \int q(z)\log\frac{q(z)}{\textcolor{blue}{p(z)}}dz + \overbrace{\int - q(z)\log q(z)dz}^{\text{Entropy } \mathbf{H}_q(Z)}               \tag{A.14}   \newline
                    &= KL(q(z) \Vert \textcolor{blue}{p(z)}) + \overbrace{\mathbf{H}_q(Z) - \mathbf{H}_q(Z|X)}^{\ge 0}              \tag{A.15}  \newline
                    &\le KL(q(z) \Vert \textcolor{blue}{p(z)})      \tag{A.16}
            \end{align}
            其中式A.15应用了"条件熵总是小于或者等于熵"的结论。于是，得到式A.6的关系。
            
            对于式A.7，证明如下：
            \begin{align}
                KL(\textcolor{blue}{q(z)} \Vert p(z)) &= \int \textcolor{blue}{q(z)}\log\frac{\textcolor{blue}{q(z)}}{p(z)}dz    \tag{A.15}          \newline
                        &= \int q(z)\log\frac{q(z)}{\int p(z|x)p(x)dx}dz 						 	\tag{A.16}          \newline
                        &= \textcolor{orange}{\int p(x)dx}\int q(z)\log q(z)dz - \int q(z)\textcolor{red}{\log\int p(z|x)p(x)dx}dz	\qquad \ \textcolor{orange}{\int p(x)dx=1}			    \tag{A.17}      \newline
                        &\le \iint p(x) q(z)\log q(z)dzdx - \int q(z)\textcolor{red}{\int p(x)\log p(z|x)dx}dz \ \qquad 	 \textcolor{red}{\text{jensen\ inequality}}                     \tag{A.18}      \newline
                        &= \iint p(x)q(z)\log q(z)dzdx - \iint p(x)q(z)\log p(z|x)dzdx			 	    \tag{A.19}          \newline
                        &= \iint p(x)q(z)(\log q(z) - \log p(z|x))dzdx								    \tag{A.20}          \newline
                        &= \iint p(x)q(z)\log \frac{q(z)}{p(z|x)}dzdx								    \tag{A.21}          \newline
                        &= \int p(x)\left\lbrace \int q(z)\log \frac{q(z)}{p(z|x)}dz\right\rbrace dx    \tag{A.22}          \newline
                        &= \int p(x)KL(\textcolor{blue}{q(z)} \Vert p(z|x))dx                           \tag{A.23}          \newline
                        &= KL_{\mathcal{C}}(q(z) \Vert \textcolor{blue}{p(z|x)})                        \tag{A.24}
            \end{align}
            于是，得到式A.7的关系。
           
            从式A.15可得出另外一个<b>重要的结论</b>。
            
            KL散度常用于拟合数据的分布。在此场景中，数据潜在的分布用$q(z)$表示，参数化的模型分布用$\textcolor{blue}{p_\theta(z)}$表示。在优化的过程中，由于$q(z|x)$和$q(x)$均保持不变，所以式A.15中的$\mathbf{H}(Z) - \mathbf{H}(Z|X)$为一个常数项。于是，可得到如下的关系
            <span id="zh_cond_kl_2">
                \mathop{\min}{underline}{\textcolor{blue}{p_\theta}}  KL(q(z) \Vert \textcolor{blue}{p_\theta(z)})  \iff  \mathop{\min}{underline}{\textcolor{blue}{p_\theta}} \int \ q(x) KL(q(z|x) \Vert \textcolor{blue}{p_\theta(z)})dx   \tag{A.25}
            </span>
            
            把上述的关系与Denoised Score Matching<a href="#dsm">[18]</a>作比较，可发现一些相似的地方。两者均引入一个新变量$X$，并且将拟合的目标分布q(z)代替为q(z|x)。代替后，由于q(z|x)是条件概率分布，所以，两者均考虑了所有的条件，并以条件发生的概率$q(x)$作为权重系数执行加权和。
            <span id="zh_cond_kl_3">
                \mathop{\min}{underline}{\textcolor{blue}{\psi_\theta}} \frac{1}{2} \int q(z) \left\lVert \textcolor{blue}{\psi_\theta(z)} - \frac{\partial q(z)}{\partial z} \right\rVert^2 dz \iff  \mathop{\min}{underline}{\textcolor{blue}{\psi_\theta}} \int q(x)\ \overbrace{\frac{1}{2} \int q(z|x) \left\lVert \textcolor{blue}{\psi_\theta(z)} - \frac{\partial q(z|x)}{\partial z} \right\rVert^2 dz}^{\text{Score Matching of }q(z|x)}\ dx      \tag{A.26}
            </span>
            
            上述加权和的操作有点类似于"全概率公式消元"。
            \begin{align}
                q(z) = \int q(z,x) dx = \int q(x) q(z|x) dx     \tag{A.27}
            \end{align}
            
            """, latex_delimiters=g_latex_del, elem_classes="normal mds", elem_id="md_cond_kl_zh")
    return


def md_approx_gauss_zh():
    global g_latex_del

    title = "Appendix B When does the Posterior Approximate to Gaussian ?"
    with gr.Accordion(label=title, elem_classes="first_md", elem_id="approx_gauss"):
        gr.Markdown(
            r"""
            由式3.4可知，$q(x|z)$有如下的形式
            \begin{align}
                q(x|z)  &=  \operatorname{Normalize} \Big(\  \frac{1}{\sqrt{2\pi}\sigma}\exp{\frac{-(x-\mu)^2}{2\sigma^2}}\ q(x)\ \Big)& \qquad &\text{where}\ \mu=\frac{z}{\sqrt{\alpha}}\quad \sigma=\sqrt{\frac{1-\alpha}{\alpha}}       \tag{B.1}   \newline
                &\propto \underbrace{\frac{1}{\sqrt{2\pi}\sigma}\exp{\frac{-(x-\mu)^2}{2\sigma^2}}}_{\text{GaussFun}}\ q(x)     \tag{B.2}
            \end{align}

            下面证明，如果满足如下两个假设，$q(x|z)$近似于高斯分布。
            <ul>
            <li>
            假设在GaussFun的支撑集内，$q(x)$是线性变化的。以GaussFun的均值为中心，对$q(x)$进行泰勒展开。由泰勒展开的性质可知，当GaussFun的标准差$\sigma$足够小时，上述假设可以满足。
            \begin{align}
                q(x) &\approx  q(\mu) + \nabla_xq(\mu)(x-\mu)& \quad &\text{where}\quad q(\mu)\triangleq q(x)\bigg|_{x=\mu} \quad \nabla_xq(\mu)\triangleq \nabla_xq(x)\bigg|_{x=\mu}       \tag{B.3}   \newline
                      &= q(\mu)\big(1+ \frac{\nabla_xq(\mu)}{q(\mu)}(x-\mu)\big)&	    \tag{B.4}   \newline
                      &= q(\mu)\big(1+ \nabla_x\log{q(\mu)}(x-\mu)\big)& \quad &\text{where}\quad \nabla_x\log{q(\mu)}\triangleq \nabla_x\log{q(x)}\bigg|_{x=\mu}       \tag{B.5}
            \end{align}
            </li>
            <li>
            假设在GaussFun的支撑集内，$\log\big(1+\nabla_x\log{q(\mu)}(x-\mu)\big)$可近似为 $\nabla_x\log{q(\mu)}(x-\mu)$。对$\log(1+y)$进行泰勒展开，由泰勒展开的性质可知，当$\lVert y\rVert_2$较小时，$\log(1+y)$可近似为$y$。当$\sigma$足够小时，$\lVert x-u\rVert_2$将较小，$\nabla_x\log{q(\mu)}(x-\mu)$也将较小，所以上述假设可以满足。一般情况下，当$\nabla_x\log{q(\mu)}(x-\mu)<0.1$时，近似的误差较小，可忽略。
            \begin{align}
                \log(1+y) &\approx \log(1+y)\bigg|_{y=0} + \nabla_y\log(1+y)\bigg|_{y=0}(y-0)       \tag{B.6}   \newline
                          &= y              \tag{B.7}
            \end{align}
            </li>
            </ul>
            利用上面的两个假设，可对$q(x|z)$进行如下的推导：

            \begin{align}
                q(x|z) &\propto \frac{1}{\sqrt{2\pi}\sigma}\exp{\frac{-(x-\mu)^2}{2\sigma^2}}\ q(x)        \tag{B.8}   \newline
                       &\approx \frac{1}{\sqrt{2\pi}\sigma}\exp{\frac{-(x-\mu)^2}{2\sigma^2}}\  q(\mu)\big(1+ \nabla_x\log{q(\mu)}(x-\mu)\big)          \tag{B.9}   \newline
                       &= \frac{q(\mu)}{\sqrt{2\pi}\sigma}\exp\left(\frac{-(x-\mu)^2}{2\sigma^2}+\log\big(1+ \nabla_x\log{q(\mu)}(x-\mu)\big)\right)    \tag{B.10}  \newline
                       &\approx \frac{q(\mu)}{\sqrt{2\pi}\sigma}\exp\left(\frac{-(x-\mu)^2}{2\sigma^2}+\nabla_x\log{q(\mu)}(x-\mu)\right)               \tag{B.11}  \newline
                       &= \frac{q(\mu)}{\sqrt{2\pi}\sigma}\exp\left(-\frac{(x-\mu)^2-2\sigma^2\nabla_x\log{q(\mu)}(x-\mu)}{2\sigma^2}\right)            \tag{B.12}  \newline
                       &= \frac{q(\mu)}{\sqrt{2\pi}\sigma}\exp\left(-\frac{\big(x-\mu-\sigma^2\nabla_x\log{q(\mu)}\big)^2}{2\sigma^2}+\frac{\big(\sigma^2\nabla_x\log{q(\mu)}\big)^2}{2\sigma^2}\right)             \tag{B.13}   \newline
                       &= \exp\left(-\frac{\big(x-\mu-\sigma^2\nabla_x\log{q(\mu)}\big)^2}{2\sigma^2}\right) \underbrace{\frac{q(\mu)}{\sqrt{2\pi}\sigma} \exp\left( \frac{1}{2}\big(\sigma\nabla_x\log{q(\mu)}\big)^2\right)}_{\text{const}}       \tag{B.14}
            \end{align}

            其中，式B.9应用了假设1的结论，式B.11应用了假设2的结论。

            式B.14中的const项是常数项，不会影响函数的形状。另外，由上面可知，$q(x|z)$具有自归一化的功能，所以，$q(x|z)$是一个高斯概率密度函数，均值为$\mu+\sigma^2\nabla_x\log{q(\mu)}$，方差为$\sigma^2$。
            """, latex_delimiters=g_latex_del, elem_classes="normal mds", elem_id="md_approx_gauss_zh")

    return


def md_non_expanding_zh():
    global g_latex_del

    title = "Appendix C Posterior Transform is a Non-expanding Mapping"
    with gr.Accordion(label=title, elem_classes="first_md", elem_id="non_expanding"):
        gr.Markdown(
            r"""
            <b>Corollary 1</b>
            
            以KL Divergence为度量，markov chain的转移变换是non-expanding的<a href="#elem">[23]</a>，即
            \begin{align}
                KL\big(p(x), q(x)\big) &\le KL\big(p(z), q(z)\big)          \tag{C.1} \newline
            \end{align}
            其中，$p(z)$和$q(z)$是任意的概率密度函数，$r(x|z)$是markov chain的转移概率密度函数，$p(x) = \int r(x|z)p(z)dz$，$q(x) = \int r(x|z) q(z) dz$。
            
            证明：
            
            对于$p(x,z)$和$q(x,z)$的KL divergence，存在如下的关系：
            \begin{align}
                KL\big(p(x,z), q(x,z)\big) &= \iint p(x,z)\log \frac{p(x,z)}{q(x,z)}dxdz    \tag{C.2} \newline
                & = \iint p(x,z)\log \frac{p(x)p(x|z)}{q(x)q(x|z)}dxdz                      \tag{C.3} \newline
                &= \iint p(x,z)\log \frac{p(x)}{q(x)}dxdz + \iint p(x,z) \log\frac{p(x|z)}{q(x|z)} dxdz     \tag{C.4} \newline
                &= \int \int p(x,z) dz\ \log \frac{p(x)}{q(x)}dx + \int p(z)\int p(x|z) \log\frac{p(x|z)}{q(x|z)} dx\ dz    \tag{C.5} \newline
                &= KL\big(p(x), q(x)\big) + \int p(z) KL\big(p(x|z), q(x|z)\big)dz      \tag{C.6} \newline
            \end{align}
            
            类似地，调换$Z$和$X$的顺序，可得到下面的关系：
            \begin{align}
                KL\big(p(x,z), q(x,z)\big) &= KL\big(p(z), q(z)\big) + \int p(x) KL\big(p(z|x), q(z|x)\big)dx       \tag{C.7}
            \end{align}
            
            比较两个关系式，可得：
            \begin{align}
                KL\big(p(z), q(z)\big) + \int p(x) KL\big(p(z|x), q(z|x)\big)dx =  KL\big(p(x), q(x)\big) + \int p(z) KL\big(p(x|z), q(x|z)\big)dz      \tag{C.8}
            \end{align}
            
            由于$q(x|z)$和$p(x|z)$都是markov chain的转移概率密度，均等于$r(x|z)$，所以$\int p(z) KL\big(p(x|z), q(x|z)\big)dz$等于0。于是，上式简化为：
            \begin{align}
                KL\big(p(x), q(x)\big) = KL\big(p(z), q(z)\big) - \int p(x) KL\big(p(z|x), q(z|x)\big)dx            \tag{C.9}
            \end{align}
            
            由于KL divergence总是大于或者等于0，所以，加权和$\int p(x) KL\big(p(z|x), q(z|x)\big)dx$也是大于等于0。于是，可得：
            \begin{align}
                KL\big(p(x), q(x)\big) \le KL\big(p(z), q(z)\big)                   \tag{C.10}
            \end{align}
            
            </br>
            
            上式等号成立的条件是$\int p(x) KL\big(p(z|x), q(z|x)\big)dx$等于0，这要求对不同的条件$x$，$p(z|x)$与$q(z|x)$均要相等。在大多数情况下，当$p(z)$和$q(z)$不同时，$p(z|x)$也和$q(z|x)$不同。这意味着，在大多数情况下，有
            \begin{align}
                KL\big(p(x), q(x)\big) < KL\big(p(z), q(z)\big)         \tag{C.11}
            \end{align}
            
            </br></br>
            <b>Corollary 2</b>
            
            以Total Variance(L1 distance)为度量，markov chain的转移变换是non-expanding，即
            \begin{align}
                \left\lVert p(x)-q(x) \right\rVert_1\ &\le\ \left\lVert p(z) - q(z) \right\rVert_1  \tag{C.12}
            \end{align}
            
            其中，$p(z)$和$q(z)$是任意的概率密度函数，$r(x|z)$是markov chain的转移概率密度函数，$p(x) = \int r(x|z)p(z)dz$，$q(x) = \int r(x|z) q(z) dz$。
            
            证明：
            \begin{align}
                \left\lVert p(x)-q(x) \right\rVert_1\ &= \int \big\lvert p(x) - q(x) \big\rvert dx  \tag{C.13} \newline
                &=  \int \left\lvert \int r(x|z) p(z) dz - \int r(x|z)q(z)dz \right\rvert dx        \tag{C.14} \newline
                &=  \int \left\lvert \int r(x|z) \big(p(z)-q(z)\big) dz \right\rvert dx             \tag{C.15} \newline
                &\le \int \int r(x|z) \left\lvert \big(p(z)-q(z)\big) \right\rvert dz dx	        \tag{C.16} \newline
                &= \int \int r(x|z)dx \left\lvert \big(p(z)-q(z)\big) \right\rvert dz               \tag{C.17} \newline
                &= \int \left\lvert \big(p(z)-q(z)\big) \right\rvert dz                             \tag{C.18} \newline
                &= \left\lVert p(z) - q(z) \right\rVert_1                                           \tag{C.19}
            \end{align}
            
            其中，式C.16应用了绝对值不等式，式C.18利用了$r(x|z)$是概率分布的性质。
            
            证明完毕。
            
            </br>
            
            图C.1展示了一个一维随机变量的例子，可以更直观地理解上述推导的过程。
            
            上述等式的成立的条件是：各个绝对值括号内的非零项均是同样的符号。如图C.1(a)，包含5个绝对值括号，每个对应一行，每个括号内有5项，当且仅当每行各个非零项同号时，上述的等式才成立。如果出现不同号的情况，则会导致$\lVert p(x)-q(x) \rVert_1\ <\ \lVert p(z) - q(z) \rVert_1$。不同号出现的数量与转移概率矩阵的非零元素有关，一般情况下，非零元素越多，不同号出现的数量会越多。
            
            在后验概率变换中，一般情况下，当$\alpha$越小(噪声越多)时，转移概率密度函数会有越多的非零元素，如图C.2(a)所示；当$\alpha$越大(噪声越小)时，转移概率密度函数会有越少的非零元素，如图C.2(b)所示。
            
            所以，有这么一个规律：<b>当$\alpha$越小时，则会导致$\lVert p(x)-q(x) \rVert_1$越小于$\lVert p(z) - q(z) \rVert_1$，也就是说，这个变换的压缩率越大</b>。
            
            <center> <img src="file/C1.png" width="1024" style="margin-top:12px"/> </center>
            <center> Figure C.1: Non-expanding under L1 norm  </center>
            </br>
            <center> <img src="file/C2.png" width="568" style="margin-top:12px"/> </center>
            <center> Figure C.2: More non-zero elements as $\alpha$ gets smaller </center>
            """, latex_delimiters=g_latex_del, elem_classes="normal mds", elem_id="md_non_expanding_zh")

    return


def md_stationary_zh():
    global g_latex_del

    title = "Appendix D Posterior Transform Converges to the Unique Stationary Distribution"
    with gr.Accordion(label=title, elem_classes="first_md", elem_id="stationary"):
        gr.Markdown(
            r"""
            根据文献<a href="#mc_basic_t3">[19]</a>Theorem 3的结论，<b>非周期(aperiodic)不可约(irreducible)的markov chain会收敛于惟一的稳态分布</b>。
            
            下面将表明，当满足一定的条件时，后验概率变换是一个非周期不可约的markov chain的转移概率密度函数。
            
            为了表述方便，下面以一个更通用的形式来描述扩散模型的前向变换。
            \begin{align}
                Z = \sqrt{\alpha}X + \sqrt{\beta}\ \epsilon     \tag{D.1} \newline
            \end{align}
            
            由<a href="#transform">第1节</a>可知，$\sqrt{\alpha}X$会对$X$的概率密度函数执行缩放，所以$\alpha$控制着缩放的强度，$\beta$控制着添加噪声的大小。当$\beta = 1-\alpha$时，上述的变换与式1.1一致。
            
            新变换对应的后验概率分布的形式如下：
            \begin{align}
                q(x|z=c)  =  \operatorname{Normalize} \Big(\  \overbrace{\frac{1}{\sqrt{2\pi}\sigma}\exp{\frac{-(x-\mu)^2}{2\sigma^2}}}^{\text{GaussFun}}\ q(x)\ \Big)  \tag{D.2} \newline
                 \text{where}\ \mu=\frac{c}{\sqrt{\alpha}}\qquad \sigma=\sqrt{\frac{\beta}{\alpha}} \qquad \text{$c$ is a fixed value}  \notag
            \end{align}
            
            当$\beta = 1-\alpha$时，上述的变换与式3.4一致。
            
            为了表述方便，下面以$g(x)$表示式D.2中GaussFun。
            
            由于$\sqrt{\alpha}X$会缩放$X$的概率密度函数$q(x)$，这会使分析转移概率密度函数$q(x|z)$的非周期性和不可约性变得更复杂。所以，为了分析方便，先假设$\alpha=1$，后面再分析$\alpha \neq 1$且$\beta = 1-\alpha$的情况。
            
            <center> <img src="file/D1.png" width="960" style="margin-top:12px"/> </center>
            <center> Figure D.1: Only one component in support </center>
            
            <center> <img src="file/D2.png" width="960" style="margin-top:12px"/> </center>
            <center> Figure D.2: One component which can communicate with each other </center>
             
            </br>
            <h3 style="font-size:24px"> $\alpha=1$ </h3>
             
            当$\alpha=1$时，如果$q(x)$和$\beta$满足下面两个条件之一，则$q(x|z)$对应的markov chain是非周期且不可约的。
            
            <ol style="list-style-type:decimal">
            <li>如果$q(x)$的支撑集只存在一个connected component。</li>
            <li>如果$q(x)$的支撑集存在多个connected component，但各个connected component之间的距离小于$3$倍$\sigma$。也就是说，间隙能被$g(x)$的有效区域的半径所覆盖。</li>
            </ol>
            
            证明如下：
            
            <ol style="list-style-type:decimal">
            <li>
            对$q(x)$支撑集内的任意点$c$，当$z=c$和$x=c$时，$q(x=c)>0$；由式D.2可知，$g(x)$的中心位于$c$，所以$g(x)$在$x=c$处也大于0。于是，根据式D.2中相乘的关系可知，$q(x=c|z=c)>0$。因此，$q(x|z)$对应的markov chain是非周期的。 
            
            对$q(x)$支撑集内的任意点$c$，当$z=c$时，$g(x)$的中心位于$c$, 所以存在一个以$c$为中心的超球($\lVert x-c\rVert_2 < \delta$)，在此超球内，$q(x|z=c)>0$，也就是说，状态$c$可以访问(access)附近的其它状态。由于支撑集内每个状态都具有此性质，所以，整个支撑集内的状态构成一个$\textcolor{red}{\text{Communicate Class}}$<a href="#mc_basic_d4">[14]</a>。因此，$q(x|z)$对应的markov chain是不可约的。
            
            所以，满足条件1的markov chain是非周期和不可约的。可看图D.1的例子，其展示了单个connected component的例子。
            </li>
            
            <li>
            当$q(x)$支撑集存在多个connected component时，markov chain可能存在多个communicate class。但当各间隙小于$g(x)$的3倍标准差时，那各个component的状态的将可互相访问(access)，因此，$q(x|z)$对应的markov chain也只存在一个communicate class，与条件1的情况相同。所以，满足条件2的markov chain是非周期和不可约的。
            
            可看图d2的例子，其展示了多个connected component的例子。
            </li>
            </ol>
            
            <center> <img src="file/D3.png" width="960" style="margin-top:12px"/> </center>
            <center> Figure D.3: Two component which <b>cannot</b> communicate with each other </center>
            
            </br>
            <h3 style="font-size:24px"> $\alpha \neq 1$ </h3>
            
            当$\alpha \neq 1$时，对$q(x)$支撑集内的任意点$c$，由式D.2可知，$g(x)$的中心不再是$c$，而是$\frac{c}{\sqrt{\alpha}}$。也就是说$g(x)$的中心会偏离$c$，偏离的距离为$\lVert c\rVert(\frac{1-\sqrt{\alpha}}{\sqrt{\alpha}})$。可以看出，$\lVert c\rVert$越大，偏离越多。具体可看图D.4(c)和图D.4(d)的例子，在图D.4(d)中，当$z=2.0$，$g(x)$的中心明显偏离$x=2.0$。本文将此现象称之为<b>中心偏离现象</b>。
            
            <b>中心偏离现象</b>将会影响markov chain一些状态的性质。
            
            当偏离的距离明显大于$3\sigma$时，$g(x)$在$x=c$及其附近<b>可能均为零</b>，于是，$q(x=c|z=c)$将<b>可能等于0</b>，并且在$x=c$附近$q(x|z=c)$<b>也可能等于0</b>。所以，状态$c$不一定可访问附近的状态。这一点与$\alpha=1$的情况不同。具体可图D.5的例子，$\textcolor{green}{\text{绿色曲线}}$是$z=6.0$的$g(x)$，$\textcolor{orange}{\text{黄线曲线}}$是$q(x|z=6.0)$，由于$g(x)$的中心偏离$x=6.0$太多，导致$q(x=6.0|z=6.0)=0$。
            
            当偏离的距离明显小于$3\sigma$时，$g(x)$在$x=c$及其附近<b>均不为零</b>，于是，$q(x=c|z=c)$将<b>不等于0</b>，并且在$x=c$附近$q(x|z=c)$<b>也不等于0</b>。所以，状态$c$可访问附近的状态，并且是非周期的。
            
            当$c$满足什么要求时，$g(x)$中心的偏离距离会小于$3\sigma$呢？
            \begin{align}
                \lVert c\rVert(\frac{1-\sqrt{\alpha}}{\sqrt{\alpha}})\ <\  3\frac{\sqrt{\beta}}{\sqrt{\alpha}} \qquad \Rightarrow \qquad \lVert c\rVert \ <\ 3\frac{\sqrt{\beta}}{1-\sqrt{\alpha}}      \tag{D.3} \newline
            \end{align}
            
            由上可知，存在一个上限，只要$\lVert c\rVert$小于这个上限，可保证偏离量小于$3\sigma$。
            
            当$\beta=1-\alpha$时，上式变为
            \begin{align}
                \lVert c\rVert \ <\ 3\frac{\sqrt{1-\alpha}}{1-\sqrt{\alpha}}    \tag{D.4} \newline
            \end{align}
            
            $3\frac{\sqrt{1-\alpha}}{1-\sqrt{\alpha}}$与$\alpha$有着严格的单调递减的关系。
            
            当$\alpha \in (0, 1)$时，
            \begin{align}
                3\frac{\sqrt{1-\alpha}}{1-\sqrt{\alpha}} > 3        \tag{D.5} \newline
            \end{align}
            
            根据上面的分析，可总结出以下的结论：
            
            <ol style="list-style-type:decimal">
            <li>
            <b>如果$q(x)$的支撑集只存在一个connected component，并且支撑集的点离原点的距离均小于$ 3\frac{\sqrt{1-\alpha}}{1-\sqrt{\alpha}}$，那么$q(x|z)$对应的markov chain是非周期和不可约的。</b>
            </li>
            
            <li>
            如果$q(x)$的支撑集存在多个connected component，由于$g(x)$的中心偏离效应，准确判断两个component之间是否可以互相访问变得更加复杂，这里不再详细分析。但下面给出一个保守的结论：<b>如果支撑集的点离原点的距离均小于$1$，并且各个connected component之间的间隙均小于$2\sigma$，那么$q(x|z)$对应的markov chain是非周期和不可约的。</b>
            </li>
            </ol>
            
            <center> <img src="file/D4.png" width="1280" style="margin-top:12px"/> </center>
            <center> Figure D.4: Center Deviation of the GaussFun </center>
            </br>
            <center> <img src="file/D5.png" width="568" style="margin-top:12px"/> </center>
            <center> Figure D.5: Deviation is More Than $3\sigma$ </center>
            
            """, latex_delimiters=g_latex_del, elem_classes="normal mds", elem_id="md_stationary_zh")

    return


def md_reference_zh():
    global g_latex_del

    with gr.Accordion(label="Reference", elem_classes="first_md", elem_id="reference"):

        gr.Markdown(
            r"""
            <a id="dpm" href="https://arxiv.org/abs/1503.03585"> [1] Deep Unsupervised Learning Using Nonequilibrium Thermodynami </a>

            <a id="ddpm" href="https://arxiv.org/abs/1503.03585"> [2] Denoising Diffusion Probabilistic Models </a>

            <a id="linear_transform" href="https://stats.libretexts.org/Bookshelves/Probability_Theory/Probability_Mathematical_Statistics_and_Stochastic_Processes_(Siegrist)/03%3A_Distributions/3.07%3A_Transformations_of_Random_Variables"> [3] Linear Transformations of Random Variable </a>

            <a id="sum_conv" href="https://stats.libretexts.org/Bookshelves/Probability_Theory/Probability_Mathematical_Statistics_and_Stochastic_Processes_(Siegrist)/03%3A_Distributions/3.07%3A_Transformations_of_Random_Variables"> [4] Sums and Convolution </a>

            <a id="fixed_point" href="https://en.wikipedia.org/wiki/Banach_fixed-point_theorem"> [5] Banach fixed-point theorem </a>

            <a id="ctr" href="https://en.wikipedia.org/wiki/Contraction_mapping"> [6] Contraction mapping </a>

            <a id="mc_limit" href="https://stats.libretexts.org/Bookshelves/Probability_Theory/Book%3A_Introductory_Probability_(Grinstead_and_Snell)/11%3A_Markov_Chains/11.04%3A_Fundamental_Limit_Theorem_for_Regular_Chains"> [7] Fundamental Limit Theorem for Regular Chains </a>

            <a id="mc_basic_p6" href="http://galton.uchicago.edu/~lalley/Courses/312/MarkovChains.pdf"> [8] Markov Chain:Basic Theory - Proposition 6 </a>
            
            <a id="fp_converse" href="https://arxiv.org/abs/1702.07339"> [9] A Converse to Banach's Fixed Point Theorem and its CLS Completeness </a>

            <a id="ce_kl" href="https://en.wikipedia.org/wiki/Cross-entropy#Cross-entropy_minimization"> [10] Cross-entropy minimization </a>
            
            <a id="deconv_1" href="https://thewolfsound.com/deconvolution-inverse-convolution/"> [11] Deconvolution Using Frequency-Domain Division </a>
            
            <a id="deconv_2" href="https://www.strollswithmydog.com/deconvolution-by-division-in-the-frequency-domain/"> [12] deconvolution-by-division-in-the-frequency-domain </a>
            
            <a id="mc_basic_t7" href="http://galton.uchicago.edu/~lalley/Courses/312/MarkovChains.pdf"> [13] Markov Chain:Basic Theory - Theorem 7 </a>
            
            <a id="mc_basic_d4" href="http://galton.uchicago.edu/~lalley/Courses/312/MarkovChains.pdf"> [14] Markov Chain:Basic Theory - Definition 4 </a>
            
            <a id="vdm" href="https://arxiv.org/pdf/2107.00630"> [15] Variational Diffusion Models </a>
            
            <a id="entropy" href="https://en.wikipedia.org/wiki/Entropy"> [16] Entropy </a>
            
            <a id="cond_entropy" href="https://en.wikipedia.org/wiki/Conditional_entropy"> [17] Conditional Entropy </a>
            
            <a id="dsm" href="https://www.iro.umontreal.ca/~vincentp/Publications/smdae_techreport_1358_v1.pdf"> [18] A Connection Between Score Matching and Denoising autoencoders </a>
            
            <a id="mc_basic_t3" href="http://galton.uchicago.edu/~lalley/Courses/312/MarkovChains.pdf"> [19] Markov Chain:Basic Theory - Theorem 3 </a>
            
            <a id="mc_mt_lambda" href="https://pages.uoregon.edu/dlevin/MARKOV/markovmixing.pdf"> [20] Markov Chains and Mixing Times, second edition - 12.2 The Relaxation Time </a>
            
            <a id="non_neg_lambda" href="https://link.springer.com/book/10.1007/0-387-32792-4"> [21] Non-negative Matrices and Markov Chains - Theorem 2.10 </a>
            
            <a id="prml_mcmc" href="https://www.microsoft.com/en-us/research/uploads/prod/2006/01/Bishop-Pattern-Recognition-and-Machine-Learning-2006.pdf"> [22] Pattern Recognition and Machine Learning - 11.2. Markov Chain Monte Carlo </a>
            
            <a id="elem" href="https://cs-114.org/wp-content/uploads/2015/01/Elements_of_Information_Theory_Elements.pdf"> [23] Elements_of_Information_Theory_Elements - 2.9 The Second Law of Thermodynamics </a>
             
            """, latex_delimiters=g_latex_del, elem_classes="normal mds", elem_id="md_reference_zh")

    return


def md_about_zh():
    global g_latex_del

    with gr.Accordion(label="About", elem_classes="first_md", elem_id="about"):

        gr.Markdown(
            r"""
            <b>APP</b>: 本Web APP是使用Gradio开发，并部署在HuggingFace。由于资源有限(2核，16G内存)，所以可能会响应较慢。为了更好地体验，建议从<a href="https://github.com/blairstar/The_Art_of_DPM">github</a>复制源代码，在本地机器运行。本APP只依赖Gradio, SciPy, Matplotlib。
            
            <b>Author</b>: 郑镇鑫，资深视觉算法工程师，十年算法开发经历，曾就职于腾讯京东等互联网公司，目前专注于视频生成(类似Sora)。
            
            <b>Email</b>: blair.star@163.com 。
            """, latex_delimiters=g_latex_del, elem_classes="normal mds", elem_id="md_about_zh")

    return


def run_app():
    
    # with gr.Blocks(css=g_css, js="() => insert_special_formula() ", head=js_head) as demo:
    with gr.Blocks(css=g_css, js="() => {insert_special_formula(); write_markdown();}", head=js_head) as demo:
        md_introduction_zh()

        md_transform_zh()

        md_likelihood_zh()

        md_posterior_zh()

        md_forward_process_zh()

        md_backward_process_zh()
        
        md_fit_posterior_zh()
        
        md_posterior_transform_zh()
        
        md_deconvolution_zh()
        
        md_cond_kl_zh()
        
        md_approx_gauss_zh()
    
        md_non_expanding_zh()
    
        md_stationary_zh()

        md_reference_zh()
         
        md_about_zh()
        
    demo.launch(allowed_paths=["/"])
    
    return


if __name__ == "__main__":
    run_app()