期望最大化算法（EM算法）有啥缺陷泻药

泻药，可以参考下R语言实现：混合正态分布EM最大期望估计法
【期望最大化算法（EM算法）有啥缺陷】 原文链接：
R语言实现：混合正态分布EM最大期望估计法
因为近期在分析数据时用到了EM最大期望估计法这个算法，在参数估计中也用到的比较多。然而，发现国内在R软件上实现高斯混合分布的EM的实例并不多，大多数是关于1到2个高斯混合分布的实现，不易于推广，因此这里分享一下自己编写的k个高斯混合分布的EM算法实现请大神们多多指教。并结合EMCluster包对结果进行验算。
本文使用的密度函数为下面格式：

?
对应的函数原型为 em.norm(x,means,covariances,mix.prop)
x为原数据，means为初始均值，covariances为数据的协方差矩阵，mix.prop为混合参数初始值。
使用的数据为MASS包里面的synth.te数据的前两列
x \u0026lt;- synth.te

首先安装需要的包，并读取原数据。
install.packages("MASS") library(MASS) install.packages("EMCluster") library(EMCluster) install.packages("ggplot2") library(ggplot2) Y=synth.te qplot(x=xs, y=ys, data=https://www.zhihu.com/api/v4/questions/24614401/Y)

然后绘制相应的变量相关图：

?
从图上我们可以大概估计出初始的平均点为(-0.7,0.4) (-0.3,0.8)(0.5,0.6)
当然为了试验的严谨性，我可以从两个初始均值点的情况开始估计
首先输入初始参数：
mustart = rbind(c(-0.5,0.3),c(0.4,0.5)) covstart = list(cov(Y), cov(Y)) probs = c(.01, .99)

然后编写em.norm函数，注意其中的clusters值需要根据不同的初始参数进行修改，
em.norm = function(X,mustart,covstart,probs){ params = list(mu=mustart, var=covstart, probs=probs) clusters = 2 tol=.00001 maxits=100 showits=T require(mvtnorm) N = nrow(X) mu = params$mu var = params$var probs = params$probs ri = matrix(0, ncol=clusters, nrow=N) ll = 0 it = 0 converged = FALSE if (showits) cat(paste("Iterations of EM:", "\")) while (!converged \u0026amp; it \u0026lt; maxits) { probsOld = probs llOld = ll riOld = ri # Compute responsibilities for (k in 1:clusters){ ri = probs * dmvnorm(X, mu, sigma = var], log=F) } ri = ri/rowSums(ri) rk = colSums(ri) probs = rk/N for (k in 1:clusters){ varmat = matrix(0, ncol=ncol(X), nrow=ncol(X)) for (i in 1:N){ varmat = varmat + ri * X%*%t(X) } mu = (t(X) %*% ri) / rk var] = varmat/rk - mu%*%t(mu) ll = -.5 * sum( ri * dmvnorm(X, mu, sigma = var], log=T) ) } ll = sum(ll) parmlistold = c(llOld, probsOld) parmlistcurrent = c(ll, probs) it = it + 1 if (showits \u0026amp; it == 1 | it%%5 == 0) cat(paste(format(it), "...", "\", sep = "")) converged = min(abs(parmlistold - parmlistcurrent)) \u0026lt;= tol } clust = which(round(ri)==1, arr.ind=T) clust = clust), 2] out = list(probs=probs, mu=mu, var=var, resp=ri, cluster=clust, ll=ll) }

期望最大化算法（EM算法）有啥缺陷

推荐阅读

『小区』武汉枫桦苇岸社区多措并举保障小区日3500人次安全出行

『健身』每天都健身跑步身体反而越来越差, 这3个健身的“坑”要避开

重大事故！IO问题引发线上20台机器同时崩溃

当红酒遇到洋葱，奇迹竟就此发生了

[时尚迪科]难怪能当模特，这大长腿1米8吧！，黄头发妹妹身材太纤细

年少时父亲去世，该怎么样过好这一生

[境外输入]甘肃新增1例境外输入无症状感染者，第四次核酸检测确诊

消防车高速救援被堵半小时热心司机下车疏导交通

奇瑞瑞虎|奇瑞又一“黑马”来袭，性能远胜星途LX，长4米7+双独悬，8.88万带国六

宜春消防|“喂，110吗？我是119！我们要送她回家！”

债券|这个美国议员张口就要中国偿还1.6万亿美元！

经常泡干山楂片水喝可以吗-,干山楂片泡水喝有什么好处和坏处-

汽车天涯|日系车全面超越德系了？，7月444款新车销量排行榜

球长社圈奥尼尔：这图就是在搞事，美媒晒OK和纳什MVP数量图

清朝|入关之后的满族人用汉语吗? 官文都用什么书写

板块|创业板注册制开市首周：板块成交放大四成，未出现流动性“虹吸”

大禹岭茶,茶的分类及功能是什么

澳大利亚|澳媒称“中国已停止从澳大利亚进口煤炭”，澳人民骚乱：经济还要下跌…

荣耀50|荣耀50系列未发先火！京东超80万人预约

澎湃新闻破3723亿元，承包整个热搜！只有你们了