摘要
目前,对小规模数据集进行预测时,主要使用传统机器学习算法,但传统单一模型预测效果不能达到预期准确率,且无法兼顾多项评价指标.因此,文中以小规模数据集为研究对象,融合决策树、逻辑回归、支持向量机三类模型,提出了一种多模型融合算法,并分析了其在小规模数据集上的应用效果.首先,简述了决策树、逻辑回归和支持向量机的算法原理;其次,使用决策树、逻辑回归和支持向量机作为基学习器并完成单独训练,将各模型输出结果用于下一阶段模型输入,同时使用最大似然估计迭代优化参数,从而完成多模型融合过程;最后,对数据集进行分析和处理,通过实验与单一模型进行指标对比.实验结果表明,多模型融合算法在预测精确率、召回率、准确率等方面有明显提升.
基金项目
国家自然科学面上项目(51774090)
黑龙江省自然科学基金面上项目(F2015020)
黑龙江省教育科研专项引导性创新基金(2017YDL-12)
黑龙江省教育规划重大课题(GJ20170006)