首页 理论教育 保持学习过程一致性的重要性

保持学习过程一致性的重要性

时间:2023-06-27 理论教育 版权反馈
【摘要】:当学习机器的训练样本数据量趋于无穷大时,如果经验风险和实际风险的最优值都收敛于同一数值,这就是学习过程的一致性。式(6-8)称为单边一致收敛,式(6-9)称为双边一致收敛:统计学习理论的关键定理中只是提供了能使经验风险最小化原则成立的充分必要条件,但是定理中并没有指出什么样的学习方法能够满足这些充分必要条件。

保持学习过程一致性的重要性

学习机器的训练样本数据量趋于无穷大时,如果经验风险和实际风险的最优值都收敛于同一数值,这就是学习过程的一致性(Consistency)。它们之间的关系如图6-2所示。

图6-2 经验风险与实际风险关系示意图

只有学习机器模型满足一致性条件时,才能够保证在样本数据集无穷大时,在经验风险最小化原则下求得的最优结果与用实际风险最小求得的最优结果趋近。在统计学习理论中有一个关键定理,对于有界的损失函数而言,ERM原则一致性的充分必要条件是经验风险在式(6-8)条件下一致收敛于实际风险:

式中 P——表示概率;(www.xing528.com)

R(a)——表示在n个样本数据下的实际风险;

Remp(a)——表示在n个样本数据下的经验风险。

上述关键定理的主要作用是将学习一致性问题转化成为式(6-8)的一致收敛问题。式(6-8)称为单边一致收敛,式(6-9)称为双边一致收敛:

统计学习理论的关键定理中只是提供了能使经验风险最小化原则成立的充分必要条件,但是定理中并没有指出什么样的学习方法能够满足这些充分必要条件。针对这一问题,为了能够有效地衡量函数集性能,统计学习理论专门定义了一些指标,VC维(Vapnik-Chervonenkis Dimension)就是其中最为重要的指标。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈