怎样通过数学的方式(模型或者公式、函数集本身)分析一个算法的归纳偏好或者对比两个算法的归纳偏好
谢邀,很遗憾在我可怜的知识储备中,并没有相关的理论分析方法……只能等待大牛来帮你解答了。
不过这里说几个观点:
(1)没有免费的午餐这个定理,没什么太大意义。
尽管它很有意思,但也就止步于有意思了。没有免费的午餐定理是说,如果算法A在某个问题上吊打算法B,则我们一定能找到另一个问题,使得在这个问题上算法B吊打算法A。换句话说,没有对任何问题都牛逼的方法,只有合适具体问题的算法。
然而呀,并不是所有的问题都是有意义的呀……不但如此,我还可以放话说,几乎没有两个有意义的问题能像定理中描述的那样,恰好呈现一种“对称”的姿态。
有意义的问题都是类似的,无意义的问题则各有各的无聊。
【注:这里的“无意义”当然指的不是主观上你觉得它有没有意义,想来大家应该是懂的,不过为了预防某些人无脑喷“XXX问题一开始研究大家也觉得无意义但后来如何如何”,我还是多备注一句】
我还是之前的观点,机器学习就是一门实用科学,它就是你工具箱里的螺丝刀锤头扳手,你需要做的是面对具体的问题考虑用什么型号的螺丝刀,而不是考虑“虽然对付螺丝螺丝刀要比扳手给力的多,但世界上没有免费的午餐,一定存在某一个东西,使用扳手要比螺丝刀带劲的多”。
(2)那么,面对具体问题,我们应该如何选择方法呢?
受限于我水平,这个问题我的发言权很有限,但是可以稍微聊一下。一个问题应该用什么算法,哪些算法要比另一些算法更好,实验结果的发言权当然很重要,但也不是说你要把所有的方法都试一遍的。
比方说,实时性有要求吗?算法的空间开销有限制吗?数据集的情况如何,数据量有多少,是不是稀疏,有没有outliar,大致长什么样?需不需要支持在线学习?模型需不需要经常更新?需不需要做并行化?需不需要对结果输出概率?需不需要提供一定的可解释性?
虽然机器学习方法有很多,但考虑这些因素,你会发现你能选的方法并没有那么多。能有两三种我已经觉得挺多了。
就这样,完了想起再补。
■网友
谢邀。
我觉得题主的问题是伪问题。
大部分新算法的产生,都是为了解决之前算法无法解决或者解决不好的问题。
比如如果训练样本不是线性可分的,那用线性模型怎么都拟合不好;可能用神经网络模型能得到较好的结果。
如果是我,在并不知道数据集的太多先验知识的同时,还是要不断尝试不同的方法,最后看结果。
■网友
http://citeseerx.ist.psu.edu/viewdoc/download;jsessionid=C91FAC2DB77E3B4DD5C5F4D8EE73C05A?doi=10.1.1.19.5466\u0026amp;rep=rep1\u0026amp;type=pdf
【怎样通过数学的方式(模型或者公式、函数集本身)分析一个算法的归纳偏好或者对比两个算法的归纳偏好】 The Need for Biases in Learning GeneralizationsTom M. Mitchell
推荐阅读
- 聪明人养花,这3种“花”怎样也要养一盆,每年能省不少医药费
- 互联网怎样解决“家政服务上门速度慢”的问题
- 怎样看待从1月8号起,QQ钱包开始提现收费
- 银行it人怎样转型
- 汽车|冬天怎样让车内温度快速升高?座椅加热的最佳使用方式二,外循环的作用总结
- 怎样进入通信行业
- 怎样评价扶他柠檬茶的小说《云养汉》的结尾
- 怎样成为一名合格的Python程序员?
- 怎样评价华为、诺基亚、中兴中标中国移动高端路由交换设备扩容集采
- 怎样评价类似前橙会、百老汇、南极圈这样类型的离职帮抱团,对企业的积极意义和消极意义
