mse均方误差计算公式一般是多少(excel误差棒计算公式)

多元线性回归

具有多个特征的线性回归

如果我们有一个具有多个特征的连续标记数据,我们可以使用多元线性回归来建立机器学习模型。

标签是数据的答案,值是连续的。以下面的房价示例,标签是​​价格,特征是大小,卧室数量,楼层数和房龄。

mse均方误差计算公式一般是多少(excel误差棒计算公式)

以下示例显示了如何使用假设函数。

mse均方误差计算公式一般是多少(excel误差棒计算公式)

注意,正方形(参见上面的粉色矩形)是必要的,因为误差值总是正的。此外,平方误差函数是可微的,因此我们可以对其应用梯度下降法。

从本质上讲,成本函数J(θ)是每个数据的平方误差的总和。误差越大,假设的性能越差。因此,我们要减少误差,即最小化J(θ)。

梯度下降算法

梯度下降算法是最小化成本函数的常用方法。一旦找到最小误差,机器学习模型同时学习最佳参数θ。因此,我们可能会找到好的预测器,一个具有最佳参数θ的假设函数,它可以产生最小误差。

请注意,我们在这里使用“可能”这个词,因为具有最佳参数θ的假设可能会遇到问题,即所谓的“过度拟合”。

  • 伪代码

在每次迭代时, 需要同时更新 参数θ 。

mse均方误差计算公式一般是多少(excel误差棒计算公式)

我们使用学习率α来控制我们在一次迭代中更新的程度。如果α太小,则会使梯度下降更新太慢,而更新可能会超过最小值并且不会收敛。

请注意,我们在开始时设置固定学习率α,因为梯度下降将缓慢且自动更新,直到达到最小值。因此,不需要在每次迭代时自己改变学习率α。

mse均方误差计算公式一般是多少(excel误差棒计算公式)

缩放特征的一种方法是均值归一化,公式为

mse均方误差计算公式一般是多少(excel误差棒计算公式)

在线性代数中,线性系统可以表示为矩阵方程。

mse均方误差计算公式一般是多少(excel误差棒计算公式)

在多元线性回归中,公式与上述相同。但是,如果正规方程是不可逆的怎么办?然后考虑删除冗余特征或使用正则化。

总之,使用正规方程的优点是

  • 无需选择学习率α
  • 无需迭代
  • 特征缩放不是必需的

请注意,如果特征的数量非常大,则“正规方程”的工作速度非常慢,而“梯度下降”算法仍能正常工作。

给TA打赏
共{{data.count}}人
人已打赏
未分类

excel数据匹配怎么操作(2个excel查找相同数据的方法)

2022-9-13 5:34:10

未分类

景德镇位于我国哪个省,中国三大瓷都是哪三个地方?

2022-9-13 5:37:51

个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索