The linear algebra and calculus behind every model
6 hours ago
- 每个机器学习模型都依赖于三大支柱：线性代数、微积分和凸优化。
- MNIST数据集在展平后被视为一个70,000行（图像）和784列（像素）的矩阵。
- 数据探索显示类别平衡、无缺失值，且像素强度分布呈双峰形状。
- 向量有L1和L2范数；点积用于衡量图像之间的相似性。
- 矩阵乘法生成一个包含成对相似性的格拉姆矩阵。
- 广播允许在不使用显式循环的情况下将标量偏置加到张量上。
- 投影将图像分解为沿平均图像方向的分量和垂直于该方向的分量。
- 奇异值分解（SVD）对中心化数据矩阵进行分解，并揭示出784个奇异值中有626个显著奇异值。