怎样简单易懂地解释狄利克雷过程(Dirichlet Process)

之前的回答特别好,但是我想提供另一个角度来思考狄利克雷过程。
同样,我也想先从狄利克雷过程的motivation开始说起,如果我们有一些数据,这些数据是从几个高斯分布中得出的,也就是混合高斯模型中得出的,比如下图这样
怎样简单易懂地解释狄利克雷过程(Dirichlet Process)

但是呢,我们并不知道混合高斯模型中到底有多少个高斯分布,它可能是这样
怎样简单易懂地解释狄利克雷过程(Dirichlet Process)

也可能是这样
怎样简单易懂地解释狄利克雷过程(Dirichlet Process)


在这个情况下,最大期望算法并不能解决这个问题,所以我们就需要狄利克雷过程来帮助我们。现实生活中的例子可以是,我有一堆论文但是我不知道这些论文到底讨论了多少论题。
首先,需要明确的是我们使用狄利克雷过程是想解决聚类的问题,有多少类我并不知道。我们从最极端的例子开始考虑,假设有 怎样简单易懂地解释狄利克雷过程(Dirichlet Process)
个数据怎样简单易懂地解释狄利克雷过程(Dirichlet Process)
,每个数据都是从不同的分布产生的 怎样简单易懂地解释狄利克雷过程(Dirichlet Process)
。那么,每一个分布会有对应自己的参数 怎样简单易懂地解释狄利克雷过程(Dirichlet Process)
,例如 怎样简单易懂地解释狄利克雷过程(Dirichlet Process)
是高斯分布,那么 怎样简单易懂地解释狄利克雷过程(Dirichlet Process)
。 既然, 怎样简单易懂地解释狄利克雷过程(Dirichlet Process)
是分布 怎样简单易懂地解释狄利克雷过程(Dirichlet Process)
产生的, 怎样简单易懂地解释狄利克雷过程(Dirichlet Process)
又可以用 怎样简单易懂地解释狄利克雷过程(Dirichlet Process)
来定义,那么我们可以对 怎样简单易懂地解释狄利克雷过程(Dirichlet Process)
建模。假设 怎样简单易懂地解释狄利克雷过程(Dirichlet Process)
是遵循某一个分布 怎样简单易懂地解释狄利克雷过程(Dirichlet Process)
,我们想想当 怎样简单易懂地解释狄利克雷过程(Dirichlet Process)
是连续分布的时候 怎样简单易懂地解释狄利克雷过程(Dirichlet Process)
,这也就是我之前假设的,每个数据都来自不同的分布。但是,这个假设并不是我们想要的,我们想要解决的是聚类问题。所以,我们就想到构造一个离散的分布 怎样简单易懂地解释狄利克雷过程(Dirichlet Process)
使得 怎样简单易懂地解释狄利克雷过程(Dirichlet Process)
,而且 怎样简单易懂地解释狄利克雷过程(Dirichlet Process)
要和 怎样简单易懂地解释狄利克雷过程(Dirichlet Process)
长得非常像。这个离散分布 怎样简单易懂地解释狄利克雷过程(Dirichlet Process)
就服从狄利克雷过程,也就是 【怎样简单易懂地解释狄利克雷过程(Dirichlet Process)】


推荐阅读