统计学习方法中 最大熵模型的改进的迭代尺度法 IIS 中 f^#(x,y) 在啥情况下不会是常数

谢邀。我还真用过这个 IIS 算法……
这个 f#,也就是每个数据点所触发的特征的总个数,一般情况下当然不是常数。
【统计学习方法中 最大熵模型的改进的迭代尺度法 IIS 中 f^#(x,y) 在啥情况下不会是常数】 如果它是常数,那么一般说明你的特征是成对或者成组的,一个数据点在一对或一组特征中会且仅会触发一个。
当然,如果 f# 不是常数,你可以给针对每个特征追加一个它的「补特征」,当且仅当原特征未触发时补特征被触发。这样每个数据点所触发的特征的总个数就是常数了(这大概就是你说的「改为较大的数值」的意思?)。当然,别忘了补特征也有相应的权重。

■网友
不是很懂,对于给定的样本,这个f感觉肯定是个常数吧

■网友
书中说的常数是对所有的(x,y), f^#(x,y)都相等,一般情况下不同的x,y对特征函数取1的个数是不一样的。


    推荐阅读