【machine learning-八-可视化loss funciton】

loss funciton

上一节讲过丧失函数，也就是代价函数，它是衡量模子练习优劣的指标，对于线性回归来说，模子、参数、丧失函数以及目标如下：、

丧失函数的目标固然是越小越好，由于模子最好就是渴望便是真实值。
可视化丧失函数

可视化函数的缘故因由，是盼望可以或许通过直观的看丧失函数，同时更快的找到可以或许最小化丧失函数的w和b，上一节为了简化，b始终为0做了丧失函数的可视化：

实际丧失函数J是关于参数是w 和b的函数, 丧失函数是创建在三维空间中的，以是丧失函数图如下：

此中这个类似碗形形状的底部，就是丧失函数的最小值。
等高图

用3d的图来展示依然不是很值观，接纳了等高图来表现更加直观：

可以想象一下就是三维空间映射到了二维空间，此中同一条等高线上的点具有类似的高度，也就是具备类似的丧失值，如图上图中标注的三个点，固然w和b各不类似，但是他们的丧失是类似的。
别的注意的是，固然颠末了映射，但是性子不会变，靠近碗底的谁人丧失依然是最小的，如下所示，右侧中心的蓝点就是对应的最小值，左侧根据这个具体的w和b 画出了这条模子图，这些点与直线的间隔就是偏差：

分别给最小值四周的w和b，盘算丧失值，就可以找到符合的w和b，最小化这个丧失，但显然这个方法太具有随机性。下一节我们会学习梯度降落这个算法，来实现最小化丧失。