allbetgaming电脑版下载:[斯坦福大学2014机械学习教程条记]第六章-决议界线(decision boundary)

admin 4个月前 (07-16) 科技 56 0

    这一节主要先容的是决议界线(decision boundary)的观点,这个观点可以帮组我们更好地明白逻辑回归的假设函数在盘算什么。

    首先回忆一下上次写的公式。

     现在让我们进一步领会这个假设函数在什么时刻会将y展望为1,什么时刻会将y展望为0。而且更好地明白假设函数的形状,特别是当我们的数据有多个特征值时。具体地说,这个假设函数输出的是给定x和参数θ时,y=1的估量概率。

    以是,若是我们想展望y=1照样即是0。该假设函数输出y=1的概率大于即是0.5,此时展望的为y=1,小于0.5展望的就是y=0。(实际上,当输出概率为0.5时,可以展望为y=1,也可以展望为y=0)

    仔细考察sigmoid函数图像,就可以发现只要z ≥ 0,g(z)就大于即是0.5,因此在曲线图的右半边,g的取值都是大于即是0.5的。

    由于逻辑回归的假设函数hθ(x)=g(θTx),以是只要θTx ≥ 0,那么hθ(x)就会大于即是0.5,此时假设函数将会展望为y=1。同样,我们思量假设函数展望为y=0的情形。当hθ(x) < 0.5的时刻,就会展望y=0。而只要θTx < 0,那么g(θTx)就会小于0.5,即hθ(x)就会小于0.5。

     对上述做个小结:

     1.我们展望y=0照样y=1取决于输出的概率值。(概率大于即是0.5展望y=1,小于0.5展望y=0)

     2.想要展望效果为 y=1,就要保证θTx ≥ 于0;想要展望效果为 y=0,就要保证θTx < 0。

     接下来,假设我们有一个训练集。我们的假设函数是hθ(x)=g(θ01x12x2),我们将在下一节讨论若何拟合此模子中的参数,此时假设我们已经拟合好了参数。在这里,我们选这里θ0=-3,θ1=1,θ2=1。这意味着此时的参数向量θ=[-3,1,1]T。接下来,实验找出该假设函数何时将展望y=1,何时将展望y=0。

    凭据之前小结的,y=1的概率大于即是0.5时,就展望y=1,小于0.5时就展望y=0。换句话说就是:想要展望效果为y=1,就要保证θTx ≥ 0;想要展望效果为y=0,就要保证θTx < 0。而在这个例子中θTx就是-3+x1+x2。以是,在这个例子中,只要 -3+x1+x≥ 0,那么展望的就会是y=1,-3+x1+x2 < 0,那么展望的就会是y=0。固然也可以将 -3+x1+x≥ 0 改写为 x1+x≥ 3。

     接下来我们可以在图像上考察这个式子。

    图上洋红色的直线为x1+x2 = 3 。该线上方的区域为展望y=1的区域,下方区域为展望y=0的区域。这条线被称为决议界限。具体地说,x1+x= 3这条直线对应的一系列的点对应的是hθ(x)=0.5的点。决议界限将整个平面分成了两个部门。一部门区域展望y=1,另一部门展望y=0。

    决议界限是假设函数的一个属性,它包罗参数θ0、θ1和θ2。在上图中,是画了训练的数据集的。需要明确的是:纵然没有画出数据集,只要参数给定,这条决议界限以及两部门区域都是确定的。它们都是假设函数的属性,取决于参数,而不是取决于数据集。

    接下来,我们看一个更庞大的例子。在图中x示意的是正样本,圆圈示意的是负样本。

    现在的问题是:当给定一个这样的数据集之后,我们要若何使用逻辑回归来拟合这些数据。

    之前,当我们解说多项式回归或线性回归时,我们谈到了可以在特征中添加分外的高阶多项式项。同样的,我们也可以对逻辑回归使用同样的方式。具体地说,假设现在的假设函数是hθ(x)=g(θ01x12x23x124x22)。现在添加了两个分外的特征x1222,以是现在有五个参数,从θ0一直到θ4。现在假设θ0=-1,θ1=0,θ2=0,θ3=1,θ4=1。这意味着此时的参数向量θ=[-1,0,0,1,1]T。凭据之前的讨论,这意味着当-1+x12+2≥ 0时,将展望y=1,当-1+x12+22  < 0时,将展望y=0。同样的,-1+x12+2≥ 0 可以写成 x12+2≥ 1。此时的决议界限就为x12+2= 1。

    决议界限如图所示。此时圈外的区域为展望y=1的区域,圈内的区域为展望y=0的区域。

    通过在特征中增添这些庞大的多项式,可以获得更庞大的决议界限。

    再次强调:

    决议界限不是训练集的属性,是假设自己和其参数的属性。只要给定了参数向量θ,决议界限就可以确定。我们不是用训练集来确定决议界限,而是用训练集来拟合参数。

allbetgaming电脑版下载:[斯坦福大学2014机械学习教程条记]第六章-决议界线(decision boundary) 第1张

    当我们有更高阶多项式,我们获得的决议界限也是更庞大的。逻辑回归可以用于寻找决议界限。

,

联博API接口

www.326681.com采用以太坊区块链高度哈希值作为统计数据,联博以太坊统计数据开源、公平、无任何作弊可能性。联博统计免费提供API接口,支持多语言接入。

Allbet声明:该文看法仅代表作者自己,与本平台无关。转载请注明:allbetgaming电脑版下载:[斯坦福大学2014机械学习教程条记]第六章-决议界线(decision boundary)

网友评论

  • (*)

最新评论

文章归档

站点信息

  • 文章总数:709
  • 页面总数:0
  • 分类总数:8
  • 标签总数:1303
  • 评论总数:292
  • 浏览总数:21534