logistic回归自变量太多,咋办

可以多尝试不同的变量选择方法,比如glmnet,偏最小二乘,向前向后逐步变量选择,或者先做一步PCA,再用主成分进行logistic回归。最终看下哪个模型的效果好,就选用哪一个模型。
■网友
1.可以用变量选取,如向前或向后法,然后利用Cross-Validatin或者AIC/BIC,Mallow Cp(若数据服从假设)方法挑出最好的。2.用Lasso或者Ridge Regression这样的Regularization方法调整参数选择模型。最后,可以用PCA先降维,然后再做回归。
■网友
【logistic回归自变量太多,咋办】 首先,什么是自变量太多?是自变量数量大于样本量?随便从回归中拿掉自变量可能会有遗漏变量问题,导致估计量不一致。另外,你的研究目的是什么?预测?那就LASSO或PCA。还是对解释变量的影响做统计推断?如果是这样,不要使用LASSO或PCA这类降维方法,因为要么他们主要是用于预测,拟合出的模型通常不能用来做因果推断。


    推荐阅读