15 Sep

低秩近似之路(一):伪逆

可能很多读者跟笔者一样,对矩阵的低秩近似有种熟悉而又陌生的感觉。熟悉是因为,低秩近似的概念和意义都不难理解,加之目前诸如LoRA等基于低秩近似的微调技术遍地开花,让低秩近似的概念在耳濡目染间就已经深入人心;然而,低秩近似所覆盖的内容非常广,在低秩近似相关的论文中时常能看到一些不熟悉但又让我们叹为观止的新技巧,这就导致了一种似懂非懂的陌生感。

因此,在这个系列文章中,笔者将试图系统梳理一下矩阵低秩近似相关的理论内容,以补全对低秩近似的了解。而在第一篇文章中,我们主要介绍低秩近似系列中相对简单的一个概念——伪逆。

优化视角

伪逆(Pseudo Inverse),也称“广义逆(Generalized Inverse)”,顾名思义就是“广义的逆矩阵”,它实际上是“逆矩阵”的概念对于不可逆矩阵的推广。

点击阅读全文...

20 Sep

一道从小学到高中都可能考到的题目

这是一道很多时候都会考到的题目:
比较$n^{n+1}$与$(n+1)^n$的大小(其中n非负)。

在小学我们会使用直接计算;
在初中我们会从一些例子找规律;
在高中我们就会直接去证明了。

点击阅读全文...

7 Oct

背景资料:从数字看诺贝尔物理学奖

2009年诺贝尔物理学奖于6日公布,英国华裔科学家高锟以及美国科学家威拉德·博伊尔和乔治·史密斯摘得桂冠。以下是关于诺贝尔物理学奖的一些数字:

1、诺贝尔物理学奖从1901年开始颁奖,但并非年年颁奖,1916年、1931年、1934年、1940年、1941年和1942年都没有颁奖。之所以这6年没颁奖,是因为第一次世界大战和第二次世界大战的发生,或因为没有人符合获得诺贝尔奖的那些条件。

2、到今年为止,一名科学家独享诺贝尔物理学奖有47次,而两名科学家和三名科学家分享诺贝尔物理学奖的次数相同,都是28次。按诺贝尔基金会的规定,不会有3人以上同时获得一个奖项。

点击阅读全文...

17 Jun

从牛顿力学角度研究宇宙学

Universe_expansion

Universe_expansion

不少天文爱好者对宇宙学这方面的内容“听而生畏”,觉得没有爱因斯坦的广义相对论等复杂理论基础是不可理解的。的确,这种观点没有错,当前的宇宙学对宇宙的精确描述,的确是建立在广义相对论和量子力学等理论的基础之上的。BoJone也只是在书上略略浏览,根本谈不上有什么了解。但是,对于一般的天文爱好者来说,只要对牛顿力学和微积分有一定的了解,就可以对我们的宇宙有一个大概的描述,也能够得出很多令人惊喜的结论。相信进行了这项工作之后,很多爱好者都会改观:原来宇宙学也并不是那么难...并且能够得出这样的一个结论:广义相对论虽然对牛顿引力理论进行了彻底的改革,但是从数学的角度来讲,它仅仅对牛顿力学进行了修正。

点击阅读全文...

15 Aug

从费马大定理谈起(一):背景简介

费马大定理,也叫做费马最后定理(Fermat Last Theorem),说的是

设$n$是大于2的正整数,则不定方程$x^n+y^n=z^n$没有全不为0的整数解。

Pierre_de_Fermat

Pierre_de_Fermat

稍微阅读过数学史的朋友应该知道,该定理首先于1637年由法国业余数学家费马(Pierre de Fermat)在阅读丢番图《算术》拉丁文译本时写在第11卷第8命题旁写道。他并附加道:“我发现了一个非常漂亮的证明,但这里没有足够的空间可容纳得下。”根据后世的考证,费马或许有办法证明n=3,4,5的情形,但不大可能给出一般性的证明,因为在20世纪90年代,怀尔斯用了130页的纸张,而且用到了复杂的现代理论,才完全证明了费马大定理。所以费马当时的这一断言,更可能只是一个归纳猜测。

点击阅读全文...

15 Aug

从费马大定理谈起(二):勾股数

费马大定理说的是$n > 2$的情况,但是我们可以从$n=2$出发,求解到勾股数组的一般表达式,并且从中得到证明费马大定理的原始思想。

互质解

我们在实整数,也就是$\mathbb{Z}$内求解。为了求解不定方程$x^2+y^2=z^2$,首先我们注意到,这是一道齐次方程,这告诉我们,如果存在某一组解,那么可以通过同除以公约数的方法,得到一组两两互质的解。换句话说,有解必有互质解,这是$x^n+y^n=z^n$的解的通性。那么,我们假设$(x,y,z)=(a,b,c)$ 是方程$x^2+y^2=z^2$的一个互质解。

点击阅读全文...

1 Sep

从费马大定理谈起(九):n=3

现在可以开始$n=3$的证明了。在实整数范围内n=3的证明看起来相当复杂,而且跟n=4的证明似乎没有相通之处。然而,如果我们在$\mathbb{Z}[\omega]$中考虑$x^3+y^3+z^3=0$无解的证明,就会跟n=4时有很多类似的地方,而且事实上证明比n=4时简单(要注意在实整数范围内的证明,n=4比n=3简单。费马完成了n=4的证明,但是没完成n=3的证明。)。我想,正是这样的类似之处,才让当初还没有完成证明的数学家拉梅就自信他从这条路可以完成费马大定理的证明。(不过,这自信却是失败的案例:拉梅的路不能完全走通,而沿着这条路走得更远的当属库默,但即便这样,库默也没有证明费马大定理。)

证明跟$n=4$的第二个证明是类似的。我们先往方程中添加一个单位数,然后证明无论单位数是什么,方程在$\mathbb{Z}[\omega]$中都无解。这是一个很妙的技巧,让我们证明了更多的方程无解,但是却用到了更少的步骤。事实上,存在着只证明$x^3+y^3+z^3=0$无解的证明,但需要非常仔细地分析里边的单位数情况,这是相当麻烦的。本证明是我参考了Fermats last theorem blogspot上的证明,然后结合本系列n=4的第二个证明,简化而来,主要是减少了对单位数的仔细分析。

点击阅读全文...

19 Aug

从费马大定理谈起(五):n=4

是时候了!

前面用好几篇文章为费马大定理的证明铺设了道路,当然,相当于完整的费马大定理证明来说,这几篇文章只不过是沧海一粟而已。不过,它们已经足够用来完成费马大定理在n=4时的证明了。我们很快会看到高斯整数为n=4所带来的简洁的证明,而这让我们坚信,这一道路可以走得更远。

不定方程$x^4+y^4=z^2$在$\mathbb{Z}[i]$中没有全不为0的解。

点击阅读全文...