Skip to content

Commit

Permalink
more note for cholesky whitening
Browse files Browse the repository at this point in the history
  • Loading branch information
szcf-weiya committed Sep 20, 2021
1 parent f9d5852 commit 35cfe7f
Showing 1 changed file with 5 additions and 5 deletions.
Original file line number Diff line number Diff line change
Expand Up @@ -4,7 +4,7 @@
| ---- | ---------------------------------------- |
| 翻译 | szcf-weiya |
| 发布 | 2016-09-30 |
|更新 |2020-05-15 23:06:55|
|更新 |{{ git_revision_date }}|
|状态|Done|

多元数据经常被看成是从未知来源多次间接测量的数据,一般不能被直接测量.例子有:
Expand Down Expand Up @@ -122,11 +122,11 @@ $$
我们希望恢复 $X=\A S$ 中的混合矩阵 $\A$. 不失一般性, 我们假设 $X$ 已经 **白化 (whitened)** 使得 $\Cov(X)=\I$; 这一般可以通过前面描述的 SVD 实现.

!!! note "weiya 注:白化 (whitened)"
根据[维基百科](https://en.wikipedia.org/wiki/Whitening_transformation),因为白噪声的协方差矩阵为单位阵,所以称这一过程为白化。白化矩阵 $W$ 使得 $WX$ 协方差为单位阵,则 $W^TW = \Sigma^{-1}$. 根据求解 $W$ 的算法,可以分类为
根据[维基百科](https://en.wikipedia.org/wiki/Whitening_transformation),因为白噪声的协方差矩阵为单位阵,所以称这一过程为白化。白化矩阵 $W$ 使得 $WX$ 协方差为单位阵(此处 $X$ 表示为随机向量,若作用在矩阵上,则右乘),则 $W^TW = \Sigma^{-1}$. 根据求解 $W$ 的算法,可以分类为

- $W = \Sigma^{-1/2}$: Mahalanobis or ZCA whitening
- $\Sigma^{-1/2}$ 的 Cholesky 分解:Cholesky whitening
- 特征分解:PCA whitening
- Mahalanobis or ZCA whitening: $W = \Sigma^{-1/2}$
- Cholesky whitening: 取 Cholesky 分解 $\Sigma^{-1} = LL^T$ 中的 $L^T$,则 $\Sigma = (L^{T})^{-1}L^{-1}$,因而 $W\Sigma W^T=L^T (L^{T})^{-1}L^{-1} L = \I$.
- PCA whitening: 特征分解

而这里提到 SVD,大概是通过
$$
Expand Down

0 comments on commit 35cfe7f

Please sign in to comment.