1. 什么是VC维
VC维(Vapnik-Chervonenkis Dimension)的概念是为了研究学习过程一致收敛的速度和推广性,由统计学习理论定义的有关函数集学习性能的一个重要指标。
传统的定义是:对一个指标函数集,如果存在H个样本能够被函数集中的函数按所有可能的2的K次方种形式分开,则称函数集能够把H个样本打散;函数集的VC维就是它能打散的最大样本数目H。若对任意数目的样本都有函数能将它们打散,则函数集的VC维是无穷大,有界实函数的VC维可以通过用一定的阀值将它转化成指示函数来定义。
VC维反映了函数集的学习能力,VC维越大则学习机器越复杂(容量越大),遗憾的是,目前尚没有通用的关于任意函数集VC维计算的理论,只对一些特殊的函数集知道其VC维。例如在N维空间中线形分类器和线形实函数的VC维是n+1。
2.VC维被认为是数学和计算机科学中非常重要的定量化概念,它可用来刻画分类系统的性能.
模式识别中VC维的直观定义是:对一个指示函数集,如果存在h个样本能够被函数集中的函数按所有可能的2h种形式分开,则称函数集能够把h个样本打散,函数集的VC维就是它能打散的最大样本数目h,若对任意数目的样本都有函数能将它们打散.则函数集的VC维是无穷大。有界实函数的VC维可以通过用一定的阈值将它转化成指示函数来定义。VC维反映了函数集的学习能力,VC维越大则学习机器越复杂,所以VC维又是学习机器复杂程度的一种衡量。
换一个角度来理解,如果用函数类{f(z,a)}代表一个学习机,a 确定后就确定了一个判别函数了EF,而VC维为该学习机能学习的可以由其分类函数正确给出的所有可能二值标识的最大训练样本数。
VC维的直观定义是:对一个指标函数集,如果存在h 个样本能够被函数集中的函数按所有可能的2h种形式分开,则称函数集能够把h个样本打散(shatter);函数集的VC维就是它能打散的最大样本数目h。若对任意数目的样本都有函数能将它们打散,则函数集的VC维是无穷大,有界实函数的VC维可以通过用一定的阀值将它转化成指示函数来定义。
故有这样的结论,平面内只能找到3个点能被直线打散而不找到第4个。
分享到:
相关推荐
VC维的理解,vc维是统计学习中的关键概念,如何理解它是一个关键步骤
根据粗糙空间上的信赖性测度的性质和传统的统计学习理论的相关知识,在粗糙空间上学习理论的关键定理和学习过程一致收敛速度的界的基础上,给出了粗糙空间上退火熵、生长函数、VC维的概念及其相关的性质,以此为基础...
包含监督学习与非监督学习的基本概念,VC维,概率逼近学习的基本原理
支持向量机源代码,程序运行时可以进行计算vc,
[摘要]:本文通过整理与VC维相关的重要概念,对分(Dichotomy)、增长函数(Growth Function)、打散(Shatter)、Break Poi
通常在支持向量机算法中核函数参数是事先选定好的,而最小VC维分类器的非线性约束规划问题中包含RBF核的参数,在算法执行中可以自适应地确定。综合复形调优法、罚函数法及梯度法,提出了一种最小VC维分类器的实现...
1.首先介绍了学习支持向量机所需要的准备知识,包括VC维的定义、经验风险最小化原则、结构风险最小化原则; 2.重点讲解了支持向量机的原理,首先深入讲解支持向量机的最基础类型——线性可分支持向量机,在此基础上...
The VC KNN classifier,The VC KNN classifier
VC实现OpenGL三维绘图
用vc6.0结合OpenGL实现三维地形
在VC中实现OpenGL三维绘图源代码,代码演示了如何在VC中使用OpenGL进行三维绘图。
能够画三维球,立方体,矩形等,建立三维坐标,多视图显示等
提出变量可分离函数的径向基函数网络拟合模型(FittingModel based Rad ial Basis Function network toVariable Separab le Function, VSRBF)及其学习算法并分析VSRBF的VC维.VSRBF是一个由多个子径向基函数网络组成的...
利用VC实现三维房子随视点变化而不断旋转,并对房子进行了消隐
井的三维轨迹显示,井的三维轨迹显示,井的三维轨迹显示,井的三维轨迹显示
VC OpenGL技术实现三维图形,绘制各种复杂的三维几何图形,本源码涉及相关功能:旋转因子、坐标绽放比例、鼠标动作、辅助系统、滚轴控制、二维交会图演示系统控制台、读取投影窗口等。基于OpenGL组件生成三维几何...
基于VC_Opengl和Directx的三维景观浏基于VC_Opengl和Directx的三维景观浏览览基于VC_Opengl和Directx的三维景观浏览
在VC中实现OpenGL三维绘图 我花钱买来的 很不错的资源哦
在VC的开发环境下完美实现二维GIS图形的编辑功能
本程序包含了基于VC+openGL的工程代码,开发了复杂的三维画图功能,有很高借鉴意义。希望对您有用,请联系 wangruhang@126.com,QQ:21712539