首页 理论教育 支持向量机:个性化推荐研究成果

支持向量机:个性化推荐研究成果

时间:2023-11-24 理论教育 版权反馈
【摘要】:支持向量回归机与支持向量分类机类似,其区别在于回归机输出的是“实数值”,而分类机输出的是“类标号”,下面介绍支持向量回归机的推导过程。,xl}为支持向量回归机的输入变量值,yi∈R为对应的输出变量值,l为训练样本的数量。引入拉格朗日乘子向量和拉格朗日函数,经过对偶变换后,将式(4.2)变换为:使得进一步可以求得决策函数:可以发现这个形式与线性支持向量分类机非常类似。

支持向量机:个性化推荐研究成果

支持向量回归机(Support Vector Regression Machine,SVR)与支持向量分类机类似,其区别在于回归机输出的是“实数值”,而分类机输出的是“类标号”,下面介绍支持向量回归机的推导过程。

对于训练样本数据集{(x1,y1),…,(xl,yl)}∈Rn×R,其中,{x1,x2…,xl}为支持向量回归机的输入变量值,yi∈R为对应的输出变量值,l为训练样本的数量。对于回归问题,其本质就是找到一个从输入空间到输出空间的映射,f:Rn→R,使得f(x)=y。那么,SVR的目标就是寻找这样的回归函数:

其中,ω为权重向量;b为函数的阈值,用于控制函数的偏移程度。

支持向量机的线性回归问题可以通过最小化下面的目标函数求得回归函数:

使得

其中,为松弛变量。

引入拉格朗日乘子向量和拉格朗日函数,经过对偶变换后,将式(4.2)变换为:(www.xing528.com)

使得

进一步可以求得决策函数:

可以发现这个形式与线性支持向量分类机非常类似。

为了解决非线性回归问题,引入核函数,从而可以得到非线性回归函数:

使得

其中,问题的解,如果α*中的元素αi或者不为零,则称对应的(xi,yi)为支持向量;K(xi,x)是核函数。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈