统计学习理论(Statistical Learning Theory,SLT)是由万普尼克(Vapnik)根据统计学习方法建立的一套机器学习理论,该理论方法与归纳学习等其他机器学习方法有较大的区别。并在这套理论体系基础上引出了支持向量机(Support Vector Machine,SVM),对机器学习理论的研究以及各应用领域都作出了卓越贡献[59,60]。
支持向量机是由Vapnik及其研究团队在20世纪90年代提出[61,62],并且学者们也证明了其在数据挖掘领域的有效性[63-65],并得到了广泛应用,例如:XML文档分类[66]、语义标注[67]、蛋白质分类[68]、人类转录因子分类[69]、语音识别[70,71]、金融时间序列预测[72]、欺诈检测[73]、破产预测[74]、银行系统风险预测[75]、遥感图像分类[76]、信用危险等级评估[77]、房地产价格预测[78]、销售增长率预测[79]、交通量预测[80]、飞行载荷预测[81]、甲状腺疾病诊断[82]等。(www.xing528.com)
支持向量机从被提出以来就被认为是一个求解凸二次规划的问题,因为从理论和算法分析的角度来讲,凸二次规划问题容易求解。关于这方面的研究有很多,例如线性规划[83,84]、二次锥规划[85-87]、序列最小化算法[88]、凸二次规划[83]、C-SVM算法[89]、半正定规划[90]、连续超松弛支持向量机[91]、面向大规模求解的向量机[92]等。但在支持向量机中也存在非凸优化和更为一般性的问题,例如在整数或离散优化中认为非凸优化问题带有整数约束,半无限规划[93]和双层优化[94]等。总之,数学规划问题与支持向量机间的密切关系是通过优化算法来体现,关于支持向量机和数学规划问题相互作用的研究主要包括2.1.1节中的3个方面。
免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。