BLOG

EXPLORATIONS IN SIMULATION, LEARNING, AND SYSTEMS.

MATH

矩阵扰动与 Eigenvalue Interlacing

从逆矩阵扰动恒等式和连续扰动导数出发,理解 rank-one 与 rank-r 正半定更新下的特征值交错。

MathMatrix MethodsData AnalysisNumerical Linear AlgebraMatrix PerturbationEigenvalues
约 34 分钟Read article
MATH

Woodbury 公式、RLS 与 Kalman Filter

从 rank-one inverse update 推到 Sherman-Morrison 和 Woodbury,并连接递归最小二乘与 Kalman Filter。

MathMatrix MethodsData AnalysisNumerical Linear AlgebraWoodburyKalman Filter
约 32 分钟Read article
MATH

无偏估计、方差与 Monte Carlo 平均

先把真实目标、随机样本、估计量、无偏性和方差讲清楚,再解释多次抽样平均为什么会降低波动。

MathMatrix MethodsData AnalysisNumerical Linear AlgebraMonte CarloUnbiased Estimation
约 22 分钟Read article
MATH

QR 算法、Shift、Hessenberg 与 SVD

梳理 QR iteration、shift、deflation、Hessenberg 形式以及 bidiagonal QR 与 SVD 之间的关系。

MathMatrix MethodsData AnalysisNumerical Linear AlgebraQR AlgorithmSVD
约 22 分钟Read article
MATH

向量范数、矩阵范数与最小范数几何

整理向量范数、矩阵范数和线性约束下最小范数问题的几何图像,比较 l1、l2 与 l-infinity 范数的不同偏好。

MathMatrix MethodsData AnalysisNumerical Linear AlgebraNormsOptimization
约 18 分钟Read article
MATH

伪逆、最小二乘与最小范数解

把方阵、超定系统和欠定系统放在同一个伪逆框架下,区分最小二乘解与最小范数解。

MathMatrix MethodsData AnalysisNumerical Linear AlgebraPseudoinverseMinimum Norm
约 10 分钟Read article
MATH

Tikhonov 正则化:伪逆的稳定化版本

从普通最小二乘的不稳定方向出发,推导 Tikhonov regularization,并用 SVD 解释它如何压制小奇异值。

MathMatrix MethodsData AnalysisNumerical Linear AlgebraRegularizationSVD
约 18 分钟Read article