欢迎来到我的博客！这里主要分享计算机图形学、机器学习和数学相关的内容。
email: wangjv0812@163.com
Lumine: Training an Agent to play Genshin
我的博客只是对字节的技术报告的拙略模仿。如果希望获得更准确的信息，请直接阅读论文原文Lumine: An Open Recipe for Building Generalist Agents in 3D Open Worlds 1. Int...
From Diffusion to Diffusion Language Model
对于现在的大模型，普遍使用自回归模型。对于一个长度为 $n$ 的文本，自回归模型将其分解为： $$ P(x_{1:n}) = \prod_{i=1}^n P(x_i \mid x_{...
Geodesic and Lie Algebra in SO(3)
1. 测地线（Geodesic） 对于一个曲率不为 $0$ 的流形，其上任意两点之间的最短路径无法简单的像是欧式几何上一样，直接通过一条平直曲线描述。因此在一个曲面上，我们定一任意两点之间最短的路径为测地线（Geodesic）。我们不妨记在...
Variational Bayesian Inference
1. 动机 对于一个状态 $x$，在通过传感器进行一次观测 $y$ 后，我们希望可以计算出后验分布 $p(x\mid y)$，即在观测到 $y$ 的情况下，状态 $x$ 的分布。为了计算后验分布的形式，我们可以使用贝叶斯公式： $$ \be...
Variational AutoEncoder
1. 动机和推导 对于无监督的样本生成问题，我们之前已经提到过很多次，对于一系列同类型的数据 $\{x_1, x_2, \cdots, x_n\}$，我们假设存在一个理想的分布 $p(x)$，这些数据都是从这个分布中采样得到的。但是想直接学...