RBF 插值的基本形式
从样本中心、径向核函数和 Gram matrix 出发,推导标量 RBF 插值的线性系统形式。
EXPLORATIONS IN SIMULATION, LEARNING, AND SYSTEMS.
从样本中心、径向核函数和 Gram matrix 出发,推导标量 RBF 插值的线性系统形式。
从标量 RBF 推广到向量输出,讨论 matrix-valued kernel、常见核函数和 normalized RBF blend。
从逆矩阵扰动恒等式和连续扰动导数出发,理解 rank-one 与 rank-r 正半定更新下的特征值交错。
从 rank-one inverse update 推到 Sherman-Morrison 和 Woodbury,并连接递归最小二乘与 Kalman Filter。
先把真实目标、随机样本、估计量、无偏性和方差讲清楚,再解释多次抽样平均为什么会降低波动。
把矩阵乘法写成外积之和,并用 importance weighting 构造无偏的随机矩阵乘法估计量。
梳理 QR iteration、shift、deflation、Hessenberg 形式以及 bidiagonal QR 与 SVD 之间的关系。
从用多项式逼近逆矩阵开始,推导 Krylov subspace、Arnoldi 过程和子空间最优近似。
整理向量范数、矩阵范数和线性约束下最小范数问题的几何图像,比较 l1、l2 与 l-infinity 范数的不同偏好。
把方阵、超定系统和欠定系统放在同一个伪逆框架下,区分最小二乘解与最小范数解。
从普通最小二乘的不稳定方向出发,推导 Tikhonov regularization,并用 SVD 解释它如何压制小奇异值。
从伪逆和四个基本子空间的视角理解最小二乘问题,并推导正规方程。
从矩阵范数和低秩近似进入 Eckart-Young 定理,并比较 PCA、TLS 与普通最小二乘的几何差异。
从列空间和行空间的基出发理解 CR decomposition,并把低秩矩阵写成列基与行基的乘积。
讨论层级矩阵累积、非均匀缩放导致的 skew,以及矩阵分解修正方案。
整理四元数与旋转矩阵之间的转换,以及矩阵和四元数表示旋转的取舍。
介绍 ECS 的大矩阵模型,并讨论分页、指针稳定性、最短集和 fast forward 迭代优化。