什么是方差（偏差和方差之间的权衡是什么）
任何机械进修算法的目的都是在给定输入数据(x)的情况下，对目的变量(y)的映射函数(f)举行最优预计。该函数的泛化偏差能够示意为三个异常差别的偏差之和:
相识差别的偏差泉源怎样影响机械进修算法的偏差和偏差，有助于我们革新数据拟合历程，从而取得更准确的模子。
偏差偏差权衡我们的模子的预期展望间隔它试图展望的准确值有多远，因而使这部份泛化与偏差的假定相干。换句话说，偏差是指经由过程更简朴的模子迫近现实生活中大概异常复杂的问题而引入的偏差。
一般，参数算法具有高偏差，这使得它们更轻易明白，但一般不太天真。
低偏差：该模子对目的函数的情势做出了很好的假定。
示例：决策树，k-最近邻和支撑向量机。
高偏差 ：模子一般阔别目的函数的情势。比方，假定数据是线性的，而实际上是二次的。
示例：线性回归，线性判别剖析和Logistic回归。
方差是指假如我们运用差别的练习数据集预计映射函数的变化量。因而，方差与模子对馈送练习数据中大概存在的细小变化的过分敏感性有关。
比方，假如模子具有高方差，那末练习数据中的细小变化大概致使目的展望的大变化。一般，具有很大天真性的非参数机械进修算法具有高方差。
低方差：跟着练习数据集的变化，对映射函数举行细小的转变;
示例：线性回归，线性判别剖析和Logistic回归。
高方差：跟着练习数据集的变化，将对映射函数施加大的变化。
示例：决策树，k-最近邻和支撑向量机。
泛化的这一部份是因为数据自身的噪声。削减此问题影响的唯一要领是清算数据。
任何有监视的机械进修模子的目的都是完成低偏差和低方差。之所以称之为权衡是因为经由过程增添模子的复杂性，方差将增添而且偏差减小，而关于更简朴的模子，其增添的偏差和方差减小。
偏差和方差致使总偏差
在这个问题的基础上，处置惩罚偏差和方差实际上都是关于处置惩罚过分拟合和欠拟合的问题。比方，当您向模子增加更多参数时，模子的复杂性和方差都邑增添。因而，方差现在是我们重要关注的问题，而偏差趋于削减。
总之，模子的圆满复杂性是偏差的增添等同于方差的削减。因而，假如我们的模子圆满的话，那末我们就会处置惩罚过分拟合，而假如我们的复杂性不足，那末我们不拟合模子了。不幸的是，没有剖析要领来权衡这个最好点。相反，我们必需经由过程本钱函数来权衡我们的展望偏差，探究差别级别的模子复杂性，然后挑选最小化团体偏差的程度。
