江苏龙网

  1. 首页 > 生活 > >

推荐系统为啥要分测试集和训练集( 二 )


训练集在推荐算法中的作用
协同过滤推荐算法中的第一步就是寻找近邻用户，近邻用户的质量和数量都会影响最终的模型性能。而训练集要训练的，其实就是目标用户的近邻用户，也可以说是用户相似矩阵。
举个例子就是，我们以用户张三的16个项目得出的近邻用户，和使用20个项目得出的近邻用户是不同的，而后者往往更加准确。拓展到所有用户，使用80%数据得到的用户相似矩阵，当然不如使用100%数据得到的用户相似矩阵。但是正如第一节所说的，为了保证测试的准确性，我们必须分出来一些数据作为测试集。
3、参考资料项亮《推荐系统实战》
《推荐系统实践》协同过滤算法源代码

■网友
为了防止过度拟合啊~ 你把所有数据都用来训练模型，建立的模型自然是最契合这些数据的，测试表现也好。但是换了其它数据集测试这个模型效果可能就没那么好了。就好像你给班上同学做校服，大家穿着都合适你就觉得按这样做就对了，那给别的班同学穿呢？不合适的概率会高吧。总而言之训练集和测试集相同的话，模型评估结果可能比实际要好。
■网友
题主可以了解一下推荐系统的排序

■网友
测试集最大的作用就是让你看看自己训练出来的模型究竟有没有效果。简单的说，如果你训练得不够，精度就上不去；如果你训练得过头，就有可能过拟合。唯有在测试集能到看到效果。
■网友
训练集 验证集 测试集
机器学习 数据挖掘 数据集划分 训练集 验证集 测试集
Q：如何将数据集划分为测试数据集和训练数据集？A：three ways:1.像sklearn一样，提供一个将数据集切分成训练集和测试集的函数：默认是把数据集的75%作为训练集，把数据集的25%作为测试集。2.交叉验证（一般取十折交叉验证：10-fold cross validation）k个子集，每个子集均做一次测试集，其余的作为训练集。交叉验证重复k次，每次选择一个子集作为测试集，并将k次的平均交叉验证识别正确率作为结果。3.训练数据，验证数据（注意区别交叉验证数据集），测试数据（在Coursera上提到）一般做预测分析时，会将数据分为两大部分。一部分是训练数据，用于构建模型，一部分是测试数据，用于检验模型。但是，有时候模型的构建过程中也需要检验模型，辅助模型构建，所以会将训练数据在分为两个部分：1）训练数据；2）验证数据（Validation Data）。验证数据用于负责模型的构建。典型的例子是用K-Fold Cross Validation裁剪决策树，求出最优叶节点数，防止过渡拟合（Overfitting）。所以：训练数据（Test Data）：用于模型构建验证数据（Validation Data）：可选，用于辅助模型构建，可以重复使用。测试数据（Test Data）：用于检测模型构建，此数据只在模型检验时使用，用于评估模型的准确率。绝对不允许用于模型构建过程，否则会导致过渡拟合。referenceshttp://www.cnblogs.com/bourneli/archive/2013/03/11/2954060.htmlhttp://blog.csdn.net/lhx878619717/article/details/49079785http://blog.csdn.net/chloezhao/article/details/53502674https://segmentfault.com/q/1010000005917400

■网友
其实，现在验证集是不是一定要用留一法呢
■网友
这一实践来自统计学上的交叉验证方法，是为了防止过拟合现象的出现。这个词条写的很详细了http://en.wikipedia.org/wiki/Cross-validation_%28statistics%29
■网友
不止是在推荐系统中，其他的机器学习方法也需要将样本分成测试集和训练集。
我们希望学得的模型不仅能够在训练集上表现的很好，也希望在未知的数据上也能够表现的好，也就是说我们希望学得的模型有较强的泛化能力。
因此在训练集上训练模型，在测试集上评估模型的泛化能力。
如果模型在训练集上表现的很好，在测试集上表现的不好，这种现象称为过拟合，是在训练模型时需要避免的。


推荐阅读


上一篇：好利网：P2P投资平台与保险公司合作的方式主要有几种

下一篇：怎样反驳MD的navigation drawer 易用性差，效率低的说法?