16
Jan
勒贝格(Lebesgue)控制收敛定理
By 苏剑林 | 2015-01-16 | 79848位读者 | 引用实变函数中有一个勒贝格控制收敛定理，一般认为它是判断积分和取极限可交换的很好用的方法。勒贝格控制收敛定理是说，如果定义在集合$E$上的函数列$\left\{f_n(x)\right\}$满足$|f_n(x)|\leq F(x)$，而$F(x)$在$E$上可积，那么积分和取极限就可以交换，即
$$\lim_{n\to\infty}\left(\int_E f_n (x)dx\right)=\int_E \left(\lim_{n\to\infty}f_n (x)\right)dx$$
本文不打算谈该定理的证明，只是谈谈该定理的应用相关的话题。首先，请有兴趣的读者，做做以下题目：
$$\lim_{n\to\infty}\left(\int_0^1 \frac{n^2 x}{1+n^4 x^4}dx\right)$$
7
Dec
生成扩散模型漫谈（二十一）：中值定理加速ODE采样
By 苏剑林 | 2023-12-07 | 56141位读者 | 引用在生成扩散模型的发展史上，DDIM和同期Song Yang的扩散SDE都称得上是里程碑式的工作，因为它们建立起了扩散模型与随机微分方程（SDE）、常微分方程（ODE）这两个数学领域的紧密联系，从而允许我们可以利用SDE、ODE已有的各种数学工具来对分析、求解和拓展扩散模型，比如后续大量的加速采样工作都以此为基础，可以说这打开了生成扩散模型的一个全新视角。
本文我们聚焦于ODE。在本系列的（六）、（十二）、（十四）、（十五）、（十七）等博客中，我们已经推导过ODE与扩散模型的联系，本文则对扩散ODE的采样加速做简单介绍，并重点介绍一种巧妙地利用“中值定理”思想的新颖采样加速方案“AMED”。
欧拉方法
正如前面所说，我们已经有多篇文章推导过扩散模型与ODE的联系，所以这里不重复介绍，而是直接将扩散ODE的采样定义为如下ODE的求解：
\begin{equation}\frac{d\boldsymbol{x}_t}{dt} = \boldsymbol{\epsilon}_{\boldsymbol{\theta}}(\boldsymbol{x}_t, t)\label{eq:dm-ode}\end{equation}
6
Oct
从马尔科夫过程到主方程（推导过程）
By 苏剑林 | 2017-10-06 | 68880位读者 | 引用主方程（master equation）是对随机过程进行建模的重要方法，它代表着马尔科夫过程的微分形式，我们的专业主要工具之一就是主方程，说宏大一点，量子力学和统计力学等也不外乎是主方程的一个特例。
然而，笔者阅读了几个著作，比如《统计物理现代教程》，还有我导师的《生物系统的随机动力学》，我发现这些著作对于主方程的推导都很模糊，他们在着力解释结果的意义，但并不说明结果的思想来源，因此其过程难以让人信服。而知乎上有人提问《如何理解马尔科夫过程的主方程的推导过程？》但没有得到很好的答案，也表明了这个事实。
马尔可夫过程
主方程是用来描述马尔科夫过程的，而马尔科夫过程可以理解为运动的无记忆性，说通俗点，就是下一刻的概率分布，只跟当前时刻有关，跟历史状态无关。用概率公式写出来就是（这里只考虑连续型概率，因此这里的$p$是概率密度）：
$$\begin{equation}\label{eq:maerkefu}p(x,\tau)=\int p(x,\tau|y,t) p(y,t) dy\end{equation}$$
这里的积分区域是全空间。这里的$p(x,\tau|y,t)$称为跃迁概率，即已经确定了$t$时刻来到了$y$位置后、在$\tau$时刻达到$x$的概率密度，这个式子的物理意义是很明显的，就不多做解释了。
10
Dec
《自然极值》系列——6.最速降线的解答
By 苏剑林 | 2010-12-10 | 58049位读者 | 引用通过上一小节的小故事，我们已经能够基本了解最速降线的内容了，它就是要我们求出满足某一极值条件的一个未知函数，由于函数是未知的，因此这类问题被称为“泛分析”。其中还谈到，伯努利利用费马原理巧妙地得出了答案，那么我们现在就再次回顾历史，追寻伯努利的答案，并且寻找进一步的应用。
最速降线-1
为了计算方便，我们把最速降线倒过来，把初始点设置在原点。在下落过程中，重力势能转化为动能，因此，在点(x,y)处有$\frac{1}{2} mv^2=mgy\Rightarrow v=\sqrt{2gy}$，由于纯粹为了探讨曲线形状，所以我们使g=0.5，即$v=\sqrt{y}$。在点(x,y)处所走的路程为$ds=\sqrt{dy^2+dx^2}=\sqrt{\dot{y}^2+1}dx$，所以时间为$dt=\frac{ds}{v}=\frac{\sqrt{\dot{y}^2+1}dx}{\sqrt{y}}$，于是最速降线问题就是求使$t=\int_0^{x_2} \frac{\sqrt{\dot{y}^2+1}dx}{\sqrt{y}}$最小的函数。
转山
刚看完了电影《转山》，挺感动的，总觉得好像不写点东西就对不起这部电影了。
这还需要从上学期选公选课谈起。上学期我选择的公选课是数据库，而体育课则是太极，接近期末考的时候又重新选公选课了，我想选修一门轻松点、惬意点的课程，刚开始是选择了书法，后来看到了“自行车出行与户外旅游”，有点心动，再看上课老师，原来就是我们的太极老师，上了一学期的太极，跟他有些熟悉，也觉得他很好相处，就觉得选择这门课程了。
上一周二是这门课程是第一次课，老师讲得很精彩，而事实上，我唯一能够全程专心听课的就只有两门课程，一门就是这个公选课，另外就是马克思列宁主义（奇怪吧？确实是，马列老师讲得真的很精彩，我几乎没有分过神）。《转山》这部电影也是上公选课的时候老师推荐的，是根据同名小说改编的。大体的情节是一个台湾年轻人，只身踏上骑自行车从丽江到拉萨的旅途。影片描绘了他路上的崎岖行程，描绘了一路上的风土人情，让人颇为深刻。
19
Sep
新浪sina.cn邮箱体验(免费邀请您来体验)
By 苏剑林 | 2009-09-19 | 31776位读者 | 引用
23
Jun
费曼积分法——积分符号内取微分(3)
By 苏剑林 | 2012-06-23 | 49155位读者 | 引用由于自行车之旅的原因，这篇文章被搁置了一个星期，其实应该在一个星期前就把它写好的。这篇文章继续讲讲费曼积分法的一些例子。读者或许可以从这些不同类型的例子中，发现它应用的基本方向和方法，从而提升对它的认识。
例子2：
$$\int_0^{\infty} \frac{\sin x}{x}dx$$
这也是一种比较常见的类型，它的形式为$\int \frac{f(x)}{x}dx$，对于这种形式，我们的第一感觉就是将其改写成参数形式$\int \frac{f(ax)}{x}dx$，这样的目的很简单，就是把分母给消去了，与$\int \frac{x}{f(x)}dx$的求积思想是一致的。但是深入一点研究就会发现，纵使这样能够消去分母，使得第一次积分变得简单，但是到了第二次积分的时候，我们发现，它又会变回$\int \frac{f(x)}{x}dx$的积分，使我们不能继续进行下去，因此这个取参数的方法大多数情况下都是不行的。
最近评论