武辰作品索引

概率论 · 大模型

从一个问题,
把原理讲明白。

我是武辰。我写概率论,也用纸和笔讲大模型。这里收着我的书、文章和视频。

纸笔笔记01 / 概率

新证据来了,怎么更新原来的判断?

贝叶斯公式从一道三门题说起

01 / 书架

我写的书

从这里可以找到已经公开的目录、样章和勘误。

出版流程后期

一个大模型工程师的诞生

从基础到工程,讲 Transformer、微调和推理部署。已公开浮点数、注意力、LoRA、KV Cache 四篇样章;配套代码将在出版后公开。

已交稿 · 待出版

收到:一个算法工程师的六年

写我做算法工程师六年里的真实经历和职场观察。

02 / 文章与视频

从哪儿开始?

从下面的主题开始,或浏览知乎作品库。视频在 B 站。

学概率论

  1. 三门问题:主持人打开一扇门,为什么该换?

    把主持人开门这条信息带进贝叶斯公式,算清楚概率到底变了多少。

  2. 把几个常见分布串起来

    从二项、几何,到泊松、指数、伽马:把数次数和等时间这两种视角放在一起看。

  3. 为什么久赌必输?

    从有限本金出发,看看赌徒输光定理如何描述输到没钱继续玩的概率。

  4. 为什么我国的概率与统计学教科书里不怎么讲幂律分布?

    从财富和词频的长尾讲起,配四张原图和一个 Python 实验。

拆大模型

  1. Softmax:分数是怎么变成概率的?

    从一组分数出发,看指数和归一化各自做了什么。

  2. 自注意力为什么要除以 √d?

    从点积的尺度看缩放因子的来历,再回到 Softmax 看它的作用。

  3. 浮点数:为什么 0.1 + 0.2 不等于 0.3?

    从计算机如何表示小数,说到模型参数为什么总是近似值。

  4. LoRA 的原理与简单实现

    看微调时怎么用两个小矩阵表示权重的更新。

03 / 随笔

职场随笔

算法工程师的痛苦

04 / 随笔

三国杀随笔

进入专题