稀疏编码

From Ufldl

Jump to: navigation, search
Line 36: Line 36:
【原文】
【原文】
-
==Probabilistic Interpretation [Based on Olshausen and Field 1996]==概率解释[一审：该理论基于1996年Olshausen 与 Field的模型]
+
== 概率解释 [基于1996年Olshausen与Field的理论] ==
 +
到目前为止，我们所考虑的稀疏编码，是为了寻找到一个稀疏的、超完备基向量集，来覆盖我们的输入数据空间。现在换一种方式，我们可以从概率的角度出发，将稀疏编码算法当作一种“生成模型”。
-
 
+
我们将自然图像建模问题看成是一种限行叠加，叠加元素包括<math>k</math>个独立的源特征 <math>\mathbf{\phi}_i</math> 以及加性噪声 <math>\nu</math>：
-
So far, we have considered sparse coding in the context of finding a sparse, over-complete set of basis vectors to span our input space. Alternatively, we may also approach sparse coding from a probabilistic perspective as a generative model.
+
-
Consider the problem of modelling natural images as the linear superposition of <math>k</math> independent source features <math>\mathbf{\phi}_i</math> with some additive noise <math>\nu</math>:
+
-
 
+
-
 
+
-
 
+
-
【初译】
+
-
 
+
-
到目前为止，在寻找一个稀疏的上下文中，考虑了稀疏编码，输入空间上的完备基向量。相应地，我们也可以从概率角度来处理稀疏编码，将它看一个生成模型。
+
-
把自然图像的建模问题看作是 <math>k</math> 个维独立的原特征 <math>\mathbf{\phi}_i</math> 和附加噪声 <math>\nu</math>的一个线性叠加
+
-
 
+
-
 
+
-
 
+
-
【一审】
+
-
 
+
-
到目前为止，我们已通过确定稀疏系数及超完备基向量的方法论述了稀疏编码算法。不过，我们或许可从概率的角度为稀疏编码算法找到一种“生成模型”。
+
-
举个自然图像建模的例子，这种建模方式通过 <math>k</math> 个独立的特征向量 <math>\mathbf{\phi}_i</math> 进行线性叠加，这里的 具有一些噪音 <math>\nu</math>，如下式：
+
:<math>\begin{align}
:<math>\begin{align}
\mathbf{x} = \sum_{i=1}^k a_i \mathbf{\phi}_{i} + \nu(\mathbf{x})
\mathbf{x} = \sum_{i=1}^k a_i \mathbf{\phi}_{i} + \nu(\mathbf{x})
\end{align}</math>
\end{align}</math>
-
 
【原文】
【原文】

Revision as of 05:06, 16 March 2013

Retrieved from "http://ufldl.stanford.edu/wiki/index.php/%E7%A8%80%E7%96%8F%E7%BC%96%E7%A0%81"
Personal tools