散点图(散点矩阵)相关介绍
前言
提醒:
文章内容为方便作者自己后日复习与查阅而进行的书写与发布,其中引用内容都会使用链接表明出处(如有侵权问题,请及时联系)。
其中内容多为一次书写,缺少检查与订正,如有问题或其他拓展及意见建议,欢迎评论区讨论交流。
内容由AI辅助生成,仅经笔者审核整理,请甄别食用。
文章目录
- 前言
- 散点矩阵与高维函数可视化的数学原理
- 一、散点矩阵的数学定义与性质
- 1. 数据矩阵与中心化
- 2. 散点矩阵的数学表达
- 3. 散点矩阵的核心性质
- 二、散点矩阵在高维函数可视化中的应用
- 1. 可视化与矩阵元素的对应关系
- 2. 高维函数的局部线性近似
- 3. 特征选择与降维
- 三、高维函数可视化的数学挑战
- 1. 维度灾难与信息损失
- 2. 非线性关系的捕捉
- 四、总结
散点矩阵与高维函数可视化的数学原理
在高维数据分析中,散点矩阵(Scatter Matrix) 是连接数学理论与可视化实践的核心工具。它不仅是一个几何图形,更是多维统计分析的数学抽象。下面结合公式深入解析其原理。
一、散点矩阵的数学定义与性质
1. 数据矩阵与中心化
设高维函数采样数据为X∈Rn×p\mathbf{X} \in \mathbb{R}^{n \times p}X∈Rn×p,其中:
- nnn是样本数(如100个点)
- ppp是维度(如5个变量)
- xijx_{ij}xij表示第iii个样本的第jjj个特征值
中心化数据矩阵:
Xc=X−1n⋅XˉT\mathbf{X}_c = \mathbf{X} - \mathbf{1}_n \cdot \bar{\mathbf{X}}^T Xc=X−1n⋅XˉT
其中Xˉ\bar{\mathbf{X}}Xˉ是各维度均值向量,1n\mathbf{1}_n1n是n×1n \times 1n×1的全1向量。
2. 散点矩阵的数学表达
散点矩阵S∈Rp×p\mathbf{S} \in \mathbb{R}^{p \times p}S∈Rp×p定义为:
S=XcTXc=∑i=1n(xi−xˉ)(xi−xˉ)T\mathbf{S} = \mathbf{X}_c^T \mathbf{X}_c = \sum_{i=1}^n (\mathbf{x}_i - \bar{\mathbf{x}})(\mathbf{x}_i - \bar{\mathbf{x}})^T S=XcTXc=i=1∑n(xi−xˉ)(xi−xˉ)T
其元素sjks_{jk}sjk表示维度jjj与kkk的交叉离差和:
sjk=∑i=1n(xij−xˉj)(xik−xˉk)s_{jk} = \sum_{i=1}^n (x_{ij} - \bar{x}_j)(x_{ik} - \bar{x}_k) sjk=i=1∑n(xij−xˉj)(xik−xˉk)
3. 散点矩阵的核心性质
- 对称性:S=ST\mathbf{S} = \mathbf{S}^TS=ST
- 半正定性:对任意非零向量v\mathbf{v}v,有vTSv≥0\mathbf{v}^T \mathbf{S} \mathbf{v} \geq 0vTSv≥0
- 与协方差矩阵的关系:Cov(X)=1n−1S\text{Cov}(\mathbf{X}) = \frac{1}{n-1} \mathbf{S}Cov(X)=n−11S
二、散点矩阵在高维函数可视化中的应用
1. 可视化与矩阵元素的对应关系
散点矩阵图中的每个子图对应S\mathbf{S}S的一个元素sjks_{jk}sjk:
- 对角线元素sjjs_{jj}sjj:对应变量jjj的直方图/密度图(反映方差)
- 非对角线元素sjks_{jk}sjk:对应变量jjj与kkk的散点图(反映协方差)
例如,对于4维函数f(x1,x2,x3,x4)f(x_1, x_2, x_3, x_4)f(x1,x2,x3,x4),其散点矩阵图为4×4网格,包含12个散点图和4个直方图。
2. 高维函数的局部线性近似
对于高维函数y=f(x)y = f(\mathbf{x})y=f(x),其在点x0\mathbf{x}_0x0附近的泰勒展开式为:
f(x)≈f(x0)+∇f(x0)T(x−x0)f(\mathbf{x}) \approx f(\mathbf{x}_0) + \nabla f(\mathbf{x}_0)^T (\mathbf{x} - \mathbf{x}_0) f(x)≈f(x0)+∇f(x0)T(x−x0)
其中∇f\nabla f∇f是梯度向量。通过散点矩阵分析各维度间的线性关系,可近似函数的局部行为。
3. 特征选择与降维
散点矩阵的特征值分解(EVD):
S=VΛVT\mathbf{S} = \mathbf{V} \mathbf{\Lambda} \mathbf{V}^T S=VΛVT
其中:
- Λ=diag(λ1,λ2,…,λp)\mathbf{\Lambda} = \text{diag}(\lambda_1, \lambda_2, \ldots, \lambda_p)Λ=diag(λ1,λ2,…,λp)是特征值矩阵
- V\mathbf{V}V的列向量是特征向量(对应主成分方向)
通过保留前kkk个最大特征值对应的特征向量,可将ppp维数据投影到kkk维子空间(如PCA降维),并在散点矩阵图中可视化关键维度。
三、高维函数可视化的数学挑战
1. 维度灾难与信息损失
当ppp很大时:
- 散点矩阵图规模为p×pp \times pp×p,信息过载
- 直接可视化高维结构需依赖降维算法(如t-SNE、UMAP),但这些算法可能扭曲原始数据的几何性质
2. 非线性关系的捕捉
对于非线性函数f(x)f(\mathbf{x})f(x),散点矩阵只能反映线性相关性。需结合非线性变换(如核方法):
Kij=ϕ(xi)Tϕ(xj)\mathbf{K}_{ij} = \phi(\mathbf{x}_i)^T \phi(\mathbf{x}_j) Kij=ϕ(xi)Tϕ(xj)
其中ϕ\phiϕ是将数据映射到高维特征空间的非线性变换,K\mathbf{K}K是核矩阵。
四、总结
散点矩阵是高维函数可视化的数学基石,通过矩阵运算揭示变量间的线性关系和数据的几何结构。其核心价值在于:
- 将高维数据压缩为可解释的矩阵形式
- 为降维算法(PCA、t-SNE等)提供理论依据
- 通过可视化直观验证数学模型的合理性
理解散点矩阵的数学原理,能更深刻地把握高维数据的内在结构,避免被可视化结果误导。