MobileSideBar

SEARCH

MENU

  • 打赏
  • 公式
  • 天象
  • 链接
  • 时光
  • 博览
  • 归档

CATEGORIES

  • 千奇百怪
  • 天文探索
  • 数学研究
  • 物理化学
  • 信息时代
  • 生物自然
  • 图片摄影
  • 问题百科
  • 生活/情感
  • 资源共享

NEWPOSTS

  • 让炼丹更科学一些(四):新恒等式,...
  • 为什么DeltaNet要加L2 N...
  • 让炼丹更科学一些(三):SGD的终...
  • 让炼丹更科学一些(二):将结论推广...
  • 滑动平均视角下的权重衰减和学习率
  • 生成扩散模型漫谈(三十一):预测数...
  • Muon优化器指南:快速上手与关键细节
  • AdamW的Weight RMS的...
  • n个正态随机数的最大值的渐近估计
  • 流形上的最速下降:5. 对偶梯度下降

COMMENTS

  • tyler_zxc: "Performer的思想是将标准的Attention线性化,...
  • 我: 似乎并非mHC提出矩阵的思想?之前hyper connecti...
  • winter: 苏神您好,假如对于比较均匀的attention weightP...
  • 苏剑林: KL散度、JS散度、W距离啥的,都行啊,看你喜欢哪个
  • 苏剑林: 没有绝对公平的对比方法,主要看你关心什么。比如,如果只关心推理...
  • 苏剑林: 如果我有时间重新搭建博客,应该会用python自己写了,而不用...
  • 苏剑林: 检查一下初始矩阵的特征值是否都在-1~1内
  • 苏剑林: 个人感觉,GAU的核心变化依次是:1、output gate;...
  • 苏剑林: batch size扩大,学习率应该也随之扩大,才能达到比较理...
  • 苏剑林: 你的Moonlight版muon是自己实现的吗,一般出现放大学...

USERLOGIN

  • 登录
科学空间|Scientific Spaces
  • 登录
  • 打赏
  • 公式
  • 天象
  • 链接
  • 时光
  • 博览
  • 归档
渴望成为一个小飞侠

  • 欢迎订阅

  • 个性邮箱

  • 天象信息

  • 观测ISS

  • LaTeX

  • 关于博主

欢迎访问“科学空间”,这里将与您共同探讨自然科学,回味人生百态;也期待大家的分享~

  • 千奇百怪Everything
  • 天文探索Astronomy
  • 数学研究Mathematics
  • 物理化学Phy-chem
  • 信息时代Big-Data
  • 生物自然Biology
  • 图片摄影Photograph
  • 问题百科Questions
  • 生活/情感Life-Feeling
  • 资源共享Resources
  • 千奇百怪
  • 天文探索
  • 数学研究
  • 物理化学
  • 信息时代
  • 生物自然
  • 图片摄影
  • 问题百科
  • 生活/情感
  • 资源共享

链接

  • Cool Papers
  • 数学研发
  • Seatop
  • Xiaoxia
  • 积分表-网络版
  • 丝路博傲
  • 数学之家
  • 有趣天文奇观
  • TwistedW
  • godweiyang
  • AI柠檬
  • 王登科-DK博客
  • ESON
  • 枫之羽
  • coding-zuo
  • 博科园
  • 孔皮皮的博客
  • 运鹏的博客
  • jiming.site
  • OmegaXYZ
  • EAI猩球
  • 文举的博客
  • 申请链接

科学空间

微信打赏

科学空间

支付宝打赏

因为网站后台对打赏并无记录,因此欢迎在打赏时候备注留言。
你还可以点击这里或在下方评论区留言来告知你的建议或需求。

你也许还对下面的内容感兴趣

  • 基于GRU和AM-Softmax的句子相似度模型
  • [问题解答]木杆平衡
  • 用时间换取效果:Keras梯度累积优化器
  • 《自然极值》系列——6.最速降线的解答
  • 从动力学角度看优化算法(四):GAN的第三个阶段
  • Transformer升级之路:8、长度外推性与位置鲁棒性
  • 狄拉克函数:级数逼近
  • 如何度量数据的稀疏程度?
  • 最近的那些事儿...
  • 《环球科学》:高温超导 “铁”的飞跃
发表你的看法
    1. «
    2. 1
    3. ...
    4. 3
    5. 4
    6. 5
    7. 6
Evan-wyl

October 27th, 2024

Hi, 苏神,我是EAI猩球博客的博主,主要关注具身智能这块,我的博客建立是受到您的影响的,非常希望能够和您的交换友链接。

回复评论
苏剑林 发表于 October 30th, 2024

已加

回复评论
Chaofa Yuan

May 4th, 2025

苏神您好,经常在你的 blog 学习各种知识,非常感谢分享~

希望与苏神交换友链,自己的 blog 运行有 6 年,均为原创内容,以 LLM/NLP 相关内容为主。

站点名称:chaofa用代码打点酱油
站点地址:https://bruceyuan.com
友链:https://bruceyuan.com/link.html

回复评论
苏剑林 发表于 May 11th, 2025

欢迎,已加

回复评论
真锋

August 13th, 2025

苏神您好,经常在你的 blog 学习各种算法和数学知识,虽然经常也会看不懂,但是其中公式推导过程让我印象深刻,感谢您的长达数10年的坚持分享~

我坚持写博客也 快 7 年了,均为原创内容,以 LLM 框架、深度学习基础、cuda/triton相关内容为主。

希望和苏神交换友链,

站点名称:Zhang's blog
站点地址:https://www.armcvai.cn/
友链:https://www.armcvai.cn/

回复评论
苏剑林 发表于 August 16th, 2025

好的,已加

回复评论
mp4网

September 25th, 2025

申请友链
站名:mp4网
域名:http://mp4wang.cc
描述:在线视频

回复评论
Henryavery.cn

January 5th, 2026

苏神2026好,我2020年大二第一次搭建博客,持续更新到了22年记录学习,如今停更三年我准备重启博客,也参考了您使用的typecho但对比之后还是选择了更新一点的Astro架构并打算继续参考您的博客且加入一些好用又有意思的新玩意,而且现在vibecoing越来越好用出现了越来越多的ai工具,甚至可以一键发布到非常多平台以及针对性地使用ai生成内容,您也写了这么多年博客,如果现在重新开始博客第一步的选型搭建起草会有何建议呢,我知道内容或者说人生产的一手内容才是博客的精髓,希望在其他地方得到您的指点,也希望未来能跟上您的步伐,祝好!

回复评论
苏剑林 发表于 January 6th, 2026

如果我有时间重新搭建博客,应该会用python自己写了,而不用第三方架构,这样可玩性好很多。事实上在大模型的帮助下,自己写一个自用的blog框架已经不是什么难事了。

回复评论
    1. «
    2. 1
    3. ...
    4. 3
    5. 4
    6. 5
    7. 6
取消回复

1. 可以使用LaTeX代码,点击“预览效果”可查看效果;
2. 可以通过点击评论楼层编号来引用该楼层;
3. 网站可能会有点卡,如非确认评论失败,请不要重复点击提交。

关于站长

科学空间logo
苏剑林|BoJone,科学空间博主,【数学、天文、理论物理、写作、阅读、计算机、中国象棋、厨房】爱好者(但不专业)......目前32岁,还在单调递增。希望能一直在此分享科学之美~
你也许会关心:
  • 科学空间|Scientific Spaces 介绍
  • 科学空间QQ交流群:67729435
  • 科学空间微信交流群:spaces_ac_cn
  • 常见问题集:《科学空间FAQ》
  • 智能搜索

    支持整句搜索!网站自动使用结巴分词进行分词,并结合ngrams排序算法给出合理的搜索结果。

    热门标签

      生成模型 attention 优化 语言模型 模型 网站 梯度 概率 矩阵 优化器 转载 微分方程 分析 天象 深度学习 积分 python 扩散 力学 无监督 几何 节日 生活 文本生成 数论

    随机文章

    • 平面曲线的曲率的复数表示
    • Lamost被冠名为“郭守敬望远镜”
    • BERT可以上几年级了?Seq2Seq“硬刚”小学数学应用题
    • msign算子的Newton-Schulz迭代(下)
    • 继续观测国际空间站
    • 【翻译】庆祝希格斯玻色子的最终发现!
    • 积分梯度:一种新颖的神经网络可视化方法
    • 模型优化漫谈:BERT的初始标准差为什么是0.02?
    • 费曼路径积分思想的发展(二)
    • 从语言模型到Seq2Seq:Transformer如戏,全靠Mask

    最近评论

    • tyler_zxc: "Performer的思想是将标准的Attention线性化,所以为什么不干脆直接训练一个线性...
    • 我: 似乎并非mHC提出矩阵的思想?之前hyper connection就是了
    • winter: 苏神您好,假如对于比较均匀的attention weightP,往往呈现long tail分布...
    • 苏剑林: KL散度、JS散度、W距离啥的,都行啊,看你喜欢哪个
    • 苏剑林: 没有绝对公平的对比方法,主要看你关心什么。比如,如果只关心推理成本和推理效果,那么有的方法可以...
    • 苏剑林: 如果我有时间重新搭建博客,应该会用python自己写了,而不用第三方架构,这样可玩性好很多。事...
    • 苏剑林: 检查一下初始矩阵的特征值是否都在-1~1内
    • 苏剑林: 个人感觉,GAU的核心变化依次是:1、output gate;2、大v_dim;3、singl...
    • 苏剑林: batch size扩大,学习率应该也随之扩大,才能达到比较理想的学习效率(参考 https:...
    • 苏剑林: 你的Moonlight版muon是自己实现的吗,一般出现放大学习率就能匹配了,怀疑Moonli...

    友情链接

    • Cool Papers
    • 数学研发
    • Seatop
    • Xiaoxia
    • 积分表-网络版
    • 丝路博傲
    • 数学之家
    • 有趣天文奇观
    • TwistedW
    • godweiyang
    • AI柠檬
    • 王登科-DK博客
    • ESON
    • 枫之羽
    • coding-zuo
    • 博科园
    • 孔皮皮的博客
    • 运鹏的博客
    • jiming.site
    • OmegaXYZ
    • EAI猩球
    • 文举的博客
    • 申请链接

    署名-非商业用途-保持一致 本站采用创作共用版权协议,要求署名、非商业用途和保持一致。转载本站内容必须也遵循“署名-非商业用途-保持一致”的创作共用协议。
    © 2009-2026 Scientific Spaces. All rights reserved. Theme by laogui. Powered by Typecho. 备案号: 粤ICP备09093259号-1/2。