Project Euler 454 :五天攻下“擂台”
By 苏剑林 | 2014-06-27 | 27655位读者 |进入期末了,很多同学都开始复习了,这学期我选的几门课到现在还不是很熟悉,本想也在趁着这段时间好好看看。偏生五天前我在浏览数学研发论坛的编程擂台时看到了这样的一道题目:
设对于给定的$L$,方程
$$\frac{1}{x}+\frac{1}{y}=\frac{1}{n}$$
满足$0 < x < y \leq L$的正整数解共有$f(L)$种情况。比如$f(6)=1,f(12)=3,f(1000)=1069$,求$f(10^{12})$。
这道题目的来源是Project Euler的第454题:Diophantine reciprocals III(丢潘图倒数方程),题目简短易懂,但又不失深度,正符合我对理想题目的定义。而且最近在学习Python学习得不亦乐乎,看到这道题目就跃跃欲试。于是乎,我的五天时间就没有了,而且过程中几乎耗尽了我现在懂的所有编程技巧。由于不断地测试运行,我的电脑发热量比平时大了几倍,真是辛苦了我的电脑。最后的代码,自我感觉已经是我目前写的最精彩的代码了。在此与大家共享和共勉~
上述表达式是分式,不利于编程,由于$n=\frac{xy}{x+y}$,于是上述题目也等价于求$(x+y)|xy$(意思是$x+y$整除$xy$)的整数解。
乱扯阶段
来到这里,最直接的编程技巧是双重循环,用Python写就是
l=1000 #设置上限
s=0 #统计个数
for y in xrange(2,l+1):
for x in xrange(1,y+1):
if (x*y)%(x+y)==0:
s=s+1
print(s)
这对于小的L来说没有什么问题,但是L较大时就相当严重了(好像算$f(10^5)$就已经相当久了)。可以注意到,我们做了$\frac{L(L-1)}{2}$次除法,意味着该算法至少是$\mathcal{O}(L^2)$,它大概就是说L扩大十倍,运行时间就变为原来的100倍!要知道我们要做$L=10^{12}$,上述算法的效率是不能接受的。
优化处理
这一块的内容基本来自数学研发论坛的Lwins_G大神。
首先,只需要一步就可以把算法变为$\mathcal{O}(L)$。不难证明:$(x+y)|xy$的充要条件是存在整数$m,n,k$满足$(m,n)=1$,并且
$$x=km(m+n)\quad y=kn(m+n)$$
于是我们只需要求
$$kn(m+n) \leq L,\quad (m,n)=1,\quad m < n$$
的解即可。把公式写出来就是
$$f(L)=\sum_{n=1}^{\sqrt{L}} \sum_{\begin{subarray}{cc} m=1 \\ (n,m)=1 \end{subarray}}^{n-1} \left[ \frac{L}{n(n+m)} \right]$$
该公式是$\mathcal{O}(L)$的。本文附件代码1就是我根据这个公式所写的算法,Python代码。利用上述公式的技巧是,给定$n$,然后构造与$n$互素的整数表,这跟构造素数表是类似的。如果枚举所有的$m$,然后判断$(m,n)$是否等于1,那效率将会大打折扣。在PyPy运行,求$f(10^7)=30093331$用时1.7秒,求$f(10^8)=349446716$用了17秒,$f(10^9)=3979600400$用了190秒,这效率自然比双重循环提高不少,但是要算$f(10^{12})$,还有很远的距离。
继续优化
Lwins_G大神同时提出可以把算法降低为$\mathcal{O}(L^{3/4})$,过程如下:
$$\begin{split}
&\sum_{n=1}^{\sqrt{L}} \sum_{\begin{subarray}{cc} m=1 \\ (n,m)=1 \end{subarray}}^{n-1} \left[ \frac{L}{n(n+m)} \right] \\
=&\sum_{n=1}^{\sqrt{L}} \sum_{\begin{subarray}{cc} s=n+1 \\ (n,s)=1 \end{subarray}}^{2n-1} \left[ \frac{L}{ns} \right] \\
=&\sum_{n=1}^{\sqrt{L}} \sum_{s=n+1}^{2n-1} \left[ \frac{L}{ns} \right] \left[ \frac{1}{(n,s)} \right] \\
=&\sum_{n=1}^{\sqrt{L}} \sum_{s=n+1}^{2n-1} \left[ \frac{L}{ns} \right] \sum_{d | (n,s)} \mu(d) \\
=&\sum_{n=1}^{\sqrt{L}} \sum_{d | n} \sum_{\begin{subarray}{cc} n < s \leq 2n-1 \\ d | s \end{subarray}} \left[ \frac{L}{ns} \right] \mu(d) \\
=&\sum_{n=1}^{\sqrt{L}} \sum_{d | n} \mu(d) \sum_{\frac{n}{d} < s' \leq \frac{2n-1}{d}} \left[ \frac{L}{nds'} \right] \\
=&\sum_{n=1}^{\sqrt{L}} \sum_{d | n} \mu(d) \left( \psi\left( \left[ \frac{L}{nd} \right],\frac{2n-1}{d}\right)- \psi\left(\left[ \frac{L}{nd} \right],\frac{n}{d}\right) \right)
\end{split}$$
其中$\mu(d)$是默比乌斯函数,而$ \psi(x,y) = \sum\limits_{n=1}^{y} \left[ \frac{x}{n} \right]$。这过程太绝了,巧妙地在问题中融入了默比乌斯函数,(部分地)消除了$(m,n)=1$的约束。由于计算$\psi(x,y)$是$\mathcal{O}(\sqrt{x})$的,所以最后的公式自然是$\mathcal{O}(L^{3/4})$。
可是我一开始看不懂为什么$\psi(x,y)$是$\mathcal{O}(\sqrt{x})$的。所以只能使用最后一个等号之前的公式进行了编程。代码了附件的代码2。题目涉及到了默比乌斯函数,默比乌斯函数的技巧还是构造。同时还涉及到了$d|n$这一限制,也就是要因数分解,但是由于$n$只到$\sqrt{L}=10^6$,不算大,因此直接用除法枚举分解就可,这需要提前准备好$10^3$内的素数表(有了之前计算前两百万素数和的基础,这部分非常轻松,可以在半秒内完成)。默比乌斯函数中有大量是0,我们只需要找出不为0的项,也就是由$n$的所有素因子(重复出现只算一次)通过相互相乘所生成的所有整数(每个素因子只出现一次)的项,这需要用递推法去构造。构造的优点在于,构造一般使用乘法,而判断则需要除法,除法的效率远远低于乘法。另外,构造之后再判断,可以大大减少枚举次数。。
代码2的运行效率有了比较大的提高,计算$f(10^9)$只用了24秒,但是相当奇怪的是,用它来计算$f(10^{10})$,运行了半个钟都没有结果。于是只能继续优化了,我发现,主要的问题是,我不知道Lwins_G大神所说的计算$\psi(x,y)$的$\mathcal{O}(\sqrt{x})$算法,我上面用的,只是单纯地直接计算,没有优化。
直奔1012
昨天,我尝试把代码2的一些细节部分优化,但是速度没有明显提升。今天,继续优化问题,思考计算$\psi(x,y)$的$\mathcal{O}(\sqrt{x})$算法。终于,我想到了。其实我前几天就已经注意到的一个规律,对于$\left[\frac{x}{n}\right]$来说,如果$n\leq \sqrt{x}$,那只能枚举计算了,但是如果$n > \sqrt{x}$,结果就开始“批量”出现了,也就是说,$\left[\frac{x}{n}\right]$慢慢地从$\left[\sqrt{x}\right]$递减到1,那么我们反过来,就可以根据商的值,来求出除数的范围。举个简单的例子,$\left[\frac{101}{1}\right]=101,\left[\frac{101}{2}\right]=50$,那么我们就知道,$n$从51到101时,$\left[\frac{101}{n}\right]$都是1,这样我们就等于一下子计算了51个除法。
这优化是质的飞跃,我们的计算从$\mathcal{O}(x)$达到了$\mathcal{O}(\sqrt{x})$,从而总的效率从$\mathcal{O}(L)$提高到$\mathcal{O}(L^{3/4})$。也许读者觉得$\mathcal{O}(L)$跟$\mathcal{O}(L^{3/4})$差别不大,但是当$L=10^{12}$时,差别就是1000倍!这是三个数量级!
下午的主要工作都是在写$\psi(x,y)$,连晚餐都没有吃(中午吃太饱了,呵呵~~)。通过使用改进后的$\psi(x,y)$算法,计算$f(10^{9})$已经是轻而易举了,只用了不到3秒,但是计算$f(10^{10})=44647347052$,却耗了180秒,不管怎样,这是第一次达到了$10^{10}$,稍微高兴了一下。同时我对耗时的“暴增”感到非常奇怪,觉得计算$f(10^{11})$无望了。但是我尝试计算$f(2\times 10^{10})$和$f(3\times 10^{10})$,时间增加却很少,特别是$f(3\times 10^{10})$只用了313秒,只是$f(10^{10})$的一倍多,这确实让我惊讶,于是我直接计算$f(10^{11})=494986959815$,最终的结果是:782秒。有戏了!
这好像表明,$f(10^{10})$的时间才是真正的时间基础,在此基础,才是根据$\mathcal{O}(L^{3/4})$计算?如果是这样的话,那么计算$f(10^{12})$也许只要$5000秒$左右,也就是一个半钟,这是可以接受的。
但是,我还是考虑先改进算法,因为$\psi(x,y)$的效率虽然不错,但是做了一些重复工作,毕竟我们所需要的,只是$\psi(x,y)$两端的差值而已。正如$S_n=a_1+a_2+\dots+a_n$,要计算$S_{n+k}-S_{n}$,不一定要把$S_{n+k}$和$S_n$都算出来。今天晚上花了大部分的时间,改进$\psi(x,y)$。得到附件中的最终版代码。测试$f(10^{10})$用时6秒,$f(10^{11})$用时23秒!!这大大出乎我的意料之外!!于是,直奔$f(10^{12})$。
这时候已经九点多了,输入代码运行后,我就关上屏幕去洗澡了。因为我怕意外,我不知道时间是线性增长,还是像之前的计算$f(10^{9})$只用了不到3秒、但是计算$f(10^{10})$却耗了180秒的情况。
洗澡回来,我不着急,慢慢晾好衣服,坐下,打开屏幕。眼前的数字让我惊呆了——
101.629625957秒!
$f(10^{12})=5435004633092$!不是一般的意外,不是一般的兴奋!成功了!本以为怎么都得需要几十分钟,现在既然不到2分钟!这是五天来的努力成果~几乎穷尽了我的所有技巧了!擂台成功攻下!(貌似这个算法真的实现了$\mathcal{O}(L^{3/4})$,从$10^{10}$到$10^{11}$再到$10^{12}$,时间以5倍的级数增长,这符合$\mathcal{O}(L^{3/4})$的规律,因为$10^{3/4}=5.62$。补充:后来我测试求得$f(10^{13})=59201396855810$,仅用了476.7秒,确实满足这规律。)
下面把一些值整理出来,供有兴趣的读者参考和对比:
$$\begin{aligned}
f(10^2)&=60,\ f(10^3)=1069\\
f(10^4)&=15547,\ f(10^5)=203931\\
f(10^6)&=2524207\\
f(10^7)&=30093331\\
f(10^8)&=349446716\\
f(10^9)&=3979600400\\
f(10^{10})&=44647347052\\
f(10^{11})&=494986959815\\
f(10^{12})&=5435004633092\\
f(10^{13})&=59201396855810
\end{aligned}$$
import time
start=time.clock()
import math
l=10000000 #上限
s=0 #统计个数
rl=int(math.sqrt(l))
rrl=int(math.sqrt(int(math.sqrt(l))))
#弄出个素数表来
prime=[i for i in range(1,rl+1)]#定义整数表
j=2
while j<=rrl:
if prime[j-1] != 0:
m=int(rl/j)
for i in range(j,m+1):
prime[i*j-1]=0
j=j+1
else:
j=j+1
prime.sort() #从小到大重新排列(让0位于前面)
z=prime.count(0) #统计0的个数
prime=prime[z+1:rl]
#素数表生成完毕
for m in range(1,int(rl/1.4)):
#找出与m互素的数,存在p里
p=[i for i in range(1,rl+1)]
m2=m
for i in prime:
if i>m:
break
if m%i==0:
m=m/i
for j in range(m2//i+1,int(rl/i)+1): #!!!
p[i*j-1]=0
p.sort() #从小到大重新排列(让0位于前面)
z=p.count(0) #统计0的个数
p=p[z+m2:rl]
#找出与m互数的完毕。
for n in p:
s=s+l//((n+m2)*n)
print(s)
end=time.clock()
print(end-start)
import time
import os
start=time.clock()
import math
#主要计算函数(最后一个求和号)
def psi(l, n, d):
sum=0
for s in xrange(n//d+1, (2*n-1)//d + 1):
sum = sum + l//(n*d*s)
return sum
#生成一个素数表的莫比乌斯表
def mobi(p):
length = len(p)
if length == 1:
mu = [1,-p[0]]
else:
mu2=mobi(p[0:length-1])
mu=mu2[:]
for i in mu2:
mu.append(-1*p[length-1]*i)
return mu
#开始
l=2000000000 #上限
s=0 #统计个数
rl=int(math.sqrt(l))
rrl=int(math.sqrt(int(math.sqrt(l))))
rrrl=int(math.sqrt(int(math.sqrt(int(math.sqrt(l))))))
#生成rrl内的素数表
prime=[i for i in xrange(1,rrl+1)]#定义整数表
j=2
while j<=rrrl:
if prime[j-1] != 0:
m=int(rrl/j)
for i in xrange(j,m+1):
prime[i*j-1]=0
j=j+1
else:
j=j+1
prime.sort() #从小到大重新排列(让0位于前面)
z=prime.count(0) #统计0的个数
prime=prime[z+1:rl]
prime.append(rl) #往素数表里边添加一个大数,避免溢出错误
#素数表生成完毕
for n in xrange(2,rl+1):
p=[] #n的素因子表
mu=[] #莫比乌斯表
nn=n
i=0
rn=int(math.sqrt(n))
#开始生成n的素因子表
while prime[i] <= rn:
if n%prime[i]==0:
n=n//prime[i]
if n%prime[i] != 0:
p.append(prime[i])
i=i+1
else:i=i+1
#下面这句的意思是,如果n的一个因子不能被前面的素数整除,那么这个因子就是素数。
if n>rn:
p.append(n)
#n的素因子表p生成完毕
mu=mobi(p) #生成莫比乌斯表
for d in mu:
s=s+d//abs(d)*psi(l,nn,abs(d))
print(s)
end=time.clock()
print(end-start)
import time
start=time.clock()
import math
#主要计算函数(最后一个求和号)
def psi(x, y1, y2):
s=0
rx=int(math.sqrt(x))
if y2<= rx:
for d in xrange(y1, y2+1):
s=s+x//d
elif y1<=rx:
for d in xrange(y1, rx+1):
s=s+x//d
p=x//rx-1
q=x//y2
d=0
q1=x//(p-d+1)
while d < p-q:
q2=q1
q1=x//(p-d)
s=s+(q1-q2)*(p-d)
d=d+1
s=s+(y2-x//(q+1))*q
else:
p=x//y1-1
q=x//y2
if p<q:
s=(1+y2-y1)*q
else:
d=0
q1=x//(p-d+1)
while d < p-q:
q2=q1
q1=x//(p-d)
s=s+(q1-q2)*(p-d)
d=d+1
s=s+(y2-x//(q+1))*q
s=s+(x//(p+1)-y1+1)*(p+1)
return s
#生成一个素数表的莫比乌斯表
def mobi(p):
length = len(p)
mu=[1,-p[0]]
for i in xrange(1,length):
mu2=mu[:]
for j in mu2:
mu.append(-1*j*p[i])
return mu
l=1000000000000 #程序开始,设置上限
s=0 #统计个数
rl=int(math.sqrt(l))
rrl=int(math.sqrt(int(math.sqrt(l))))
rrrl=int(math.sqrt(int(math.sqrt(int(math.sqrt(l))))))
#生成rrl内的素数表
prime=[i for i in xrange(1,rrl+1)]#定义整数表
j=2
while j<=rrrl:
if prime[j-1] != 0:
m=int(rrl/j)
for i in xrange(j,m+1):
prime[i*j-1]=0
j=j+1
else:
j=j+1
prime.sort() #从小到大重新排列(让0位于前面)
z=prime.count(0) #统计0的个数
prime=prime[z+1:rl]
prime.append(rl) #往素数表里边添加一个大数,避免溢出错误
#素数表生成完毕
for n in xrange(2,rl+1):
p=[] #n的素因子表
mu=[] #莫比乌斯表
nn=n
i=0
rn=int(math.sqrt(n))
#开始生成n的素因子表
while prime[i] <= rn:
if n%prime[i]==0:
n=n//prime[i]
if n%prime[i] != 0:
p.append(prime[i])
i=i+1
else:i=i+1
#下面这句的意思是,如果n的一个因子不能被前面的素数整除,那么这个因子就是素数。
if n>rn:
p.append(n)
#n的素因子表p生成完毕
mu=mobi(p) #生成莫比乌斯表
for d in mu:
ll=l//(nn*abs(d))
s=s+d//abs(d)*(psi(ll,nn//abs(d)+1,(2*nn-1)//abs(d)))
print(s)
end=time.clock()
print(end-start)
转载到请包括本文地址:https://kexue.fm/archives/2665
更详细的转载事宜请参考:《科学空间FAQ》
如果您还有什么疑惑或建议,欢迎在下方评论区继续讨论。
如果您觉得本文还不错,欢迎分享/打赏本文。打赏并非要从中获得收益,而是希望知道科学空间获得了多少读者的真心关注。当然,如果你无视它,也不会影响你的阅读。再次表示欢迎和感谢!
如果您需要引用本文,请参考:
苏剑林. (Jun. 27, 2014). 《Project Euler 454 :五天攻下“擂台” 》[Blog post]. Retrieved from https://kexue.fm/archives/2665
@online{kexuefm-2665,
title={Project Euler 454 :五天攻下“擂台”},
author={苏剑林},
year={2014},
month={Jun},
url={\url{https://kexue.fm/archives/2665}},
}
July 21st, 2014
不明觉厉啊。。当时我在学车的时候看到你这篇博文,然后想了想,哎好难啊。
就是一些数论函数的技巧了,其次就是程序的实现了,其实都还不难,只是我不熟悉,走了一些弯路。
你学车学到哪里了?
可惜PE官方现在挂了,不然可以看看其他网友是怎么做的。