首页 理论教育 机器学习的问题模型优化方法

机器学习的问题模型优化方法

时间:2023-06-27 理论教育 版权反馈
【摘要】:机器学习一直以来都是人工智能研究的核心问题。机器学习主要研究内容就是如何利用计算机模拟或者实现人类学习活动。机器学习的基本模型如图6-1所示。图6-1机器学习的基本模型从图6-1可知,x和y之间可能存在着一种未知的依赖关系,而机器学习模式的建立就是对这种未知的依赖关系进行预测。

机器学习的问题模型优化方法

机器学习一直以来都是人工智能(Artificial Intelligence)研究的核心问题。机器学习主要研究内容就是如何利用计算机模拟或者实现人类学习活动。它的主要目的就是研究数据样本,从这些样本中找出规律后,再对测试的新数据进行预测。机器学习的基本模型如图6-1所示。

图6-1 机器学习的基本模型

从图6-1可知,x和y之间可能存在着一种未知的依赖关系,而机器学习模式的建立就是对这种未知的依赖关系进行预测。数据可以看成是从未知概率的联合分布函数F(x,y)所产生,根据联合分布条件可知:

1.模式识别

图6-1中训练器输出y是类别标号,在两类分类的情况下,y可以表示为y={0,1}或者{-1,1},这时的预测函数f(x,a)称为指示函数(Indicator Functions),在模式识别中损失函数可以定义成为如下形式:

在模式识别中不同的决策方法有不同的损失函数。(www.xing528.com)

2.回归估计

如果系统S输出y是实数值并且为连续变量,令f(x,a)为实函数集,则它所包含的回归函数如下:

上式就是当损失函数为

时,使式(6-2)最小化风险泛函的函数。

3.概率密度估计

概率密度估计是根据训练数据集的情况确定在密度函数p(x,a)中x的概率分布,在概率密度估计问题中损失函数定义为:

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈