生成扩散模型漫谈(二十二):信噪比与大图生成(上)
By 苏剑林 | 2024-04-08 | 55756位读者 | 引用盘点主流的图像扩散模型作品,我们会发现一个特点:当前多数做高分辨率图像生成(下面简称“大图生成”)的工作,都是先通过Encoder变换到Latent空间进行的(即LDM,Latent Diffusion Model),直接在原始Pixel空间训练的扩散模型,大多数分辨率都不超过64*64,而恰好,LDM通过AutoEncoder变换后的Latent,大小通常也不超过64*64。这就自然引出了一系列问题:扩散模型是不是对于高分辨率生成存在固有困难?能否在Pixel空间直接生成高分辨率图像?
论文《Simple diffusion: End-to-end diffusion for high resolution images》尝试回答了这个问题,它通过“信噪比”分析了大图生成的困难,并以此来优化noise schdule,同时提出只需在最低分辨率feature上对架构进行scale up、多尺度Loss等技巧来保证训练效率和效果,这些改动使得原论文成功在Pixel空间上训练了分辨率高达1024*1024的图像扩散模型。
近乎完美地解决MathJax与Marked的冲突
By 苏剑林 | 2024-08-26 | 14445位读者 | 引用在《让MathJax更好地兼容谷歌翻译和延时加载》我们提到Cool Papers加入了MathJax来解析LaTeX公式,不过万万没想到引发了诸多兼容性问题,虽然部分问题纯粹是笔者的强迫症作祟,但一个尽可能完美的解决方案终究是让人赏心悦目的,所以还是愿意在上面花一点心思。
上一篇文章我们已经解决了MathJax与谷歌翻译、延时加载的兼容性,这篇文章我们则来解决MathJax与Marked的冲突。
问题简述
Markdown是一种轻量级标记语言,允许人们使用易读易写的纯文本格式编写文档,可谓是目前最流行的写作语法之一,Cool Papers中的[Kimi]功能,基本上也是按照Markdown语法输出。然而。Markdown并不是直接面向浏览器的语言,面向浏览器的语言叫做HTML,所以在展示给用户之前,有一个Markdown转HTML的过程(渲染)。
在生活上,我是一个比较传统的人,因此每到节日我都会尽量回家跟家人团聚。也许会让大家比较吃惊的是,今年的国庆是我第一个不在家的国庆。的确,从小学到高中,上学的地方离家都比较近,每周回去一次都是不成问题的。现在来到了广州,就不能太随心了。虽然跟很多同学相比,我离家还是比较近的,但是来回也要考虑车费、时间等等。国庆假期时间虽然很长,但是中秋已经回去一趟了,所以我决定国庆就不再回去了。
对我来说,中秋跟国庆相比,中秋的意义更大些。所以我选择了国庆不回家。对家人而言,看到自己平安就好,因此哪一天回去他们都会很高兴,当然,对于农村人来说,中秋的味道更浓,更希望团聚。
三百年之谜——费马大定理(历史+证明)
By 苏剑林 | 2009-07-28 | 21960位读者 | 引用在“数学研发论坛”看到了,感到不错,转给大家!
原文是:http://bbs.emath.ac.cn/thread-1651-1-1.html
费马大定理,主要是指:
方程$x^n+y^n=z^n(n>=3,n \in R^+)$,x,y,z不可能同时为正整数。
具体内容请看:
http://zh.wikipedia.org/wiki/%E8%B4%B9%E9%A9%AC%E5%A4%A7%E5%AE%9A%E7%90%86
数学歌曲:《歌德巴赫猜》
By 苏剑林 | 2009-07-30 | 23160位读者 | 引用精确自由落体运动定律的讨论(二)
By 苏剑林 | 2010-01-09 | 58501位读者 | 引用之前在这篇文章中,我们使用过一个牛顿引力场中的自由落体公式:
$t=\sqrt{\frac{r_0}{2GM}}{r_0 \cdot arctg \sqrt{\frac{r_0 -r}{r}}+\sqrt{r(r_0 -r)}}$——(1)
我们来尝试一下推导出这个公式来。同时,站长在逐渐深入研究的过程中,发现微分方程极其重要。以前一些我认为不可能解决的问题,都用微分方程逐渐解决了。在以后的文章里,我们将会继续体验到微分方程的伟大魔力!因此,建议各位有志研究物理学的朋友,一定要掌握微分方程,更加深入的,需要用到偏微分方程!
首先,质量为m的物理在距离地心r处的引力为$\frac{GMm}{r^2}$,根据牛顿第二定律F=ma,自然下落的物体所获得的加速度为$\frac{GM}{r^2}$。假设物体从距离地心r开始向地心自由下落,求位移s关于t的函数s=s(t).
两本天体力学的旧书...
By 苏剑林 | 2010-02-18 | 35386位读者 | 引用由于BoJone有着天文和数学的共同爱好,所以近一段时间恋上了天体力学,这是天文的内容,也是数学在天文学大施拳脚的地方。每一步计算,都有可能是一个新的发现,这种感觉太棒了,也许这就是我前进的动力之一。
天体力学最重要、最基本的方法就是解微分方程,其中以常微分方程为主,而且更多的是常微分方程组。这对BoJone来说是一个极大的挑战,因为正在读高一的BoJone一切都得自学,这得以微积分、级数、解析几何等数学知识为基础,而且必须做到融会贯通,要把它当成手中的橡皮泥,随意捏弄,形变而质不变。不过幸好能够有轻松自由的学习环境,我相信,我可以!
前些天在淘宝上一位天爱把他收藏的旧书都出了,里面有一本《天体力学引论》和《天体力学教程》,这正是作者苦苦搜寻的天体力学教程呀!其实即便是大学用的天体力学书籍,也是80年代左右的书,这些书很少有更新,所以现在几乎没有出售的,一般有钱也买不到(让我捡了一个大便宜^_^)。店主链接
级数求和——近似的无穷级数
By 苏剑林 | 2010-09-10 | 50760位读者 | 引用级数是数学的一门很具有实用性的分支,而级数求和则是级数研究中的核心内容之一。很多问题都可以表示成一个级数的和或积,也就是$\sum_{i=1}^n f(i)$或者是$\prod_{i=1}^n f(i)$类型的运算。其中,$\ln(\prod_{i=1}^n f(i))=\sum_{i=1}^n \ln(f(i))=k$,因此$\prod_{i=1}^n f(i)=e^k$,也就是说,级数求积也可以变为级数求和来计算,换言之我们可以把精力放到级数求和上去。
为了解决一般的级数求和问题,我们考虑以下方程的解:
$$f(x+\epsilon)-f(x)=g(x)\tag{1}$$其中g(x)是已知的以x为变量的函数式,$\epsilon $是常数,初始条件是$f(k)=b$,要求f(x)的表达式。
最近评论