什么是最小二乘？

引言

1  最小二乘法也许我们在很多地方见过，也许你用过但却不知道它的原理是什么。对于最小二乘，它的家族成员很多，最小二乘法直线拟合，最小二乘法多项式（曲线）拟合，机器学习中线性回归的最小二乘法，系统辨识中的最小二乘辨识法，参数估计中的最小二乘法等等。
2  如果单纯从名字上来看，最小二乘，实质上就是**最小平方和**，或者是误差最小，那么是什么样的误差呢，就是目标对象和拟合对象的误差。总之最小二乘的核心思想就是，通过最小化误差的平方和，使拟合对象无限接近目标对象。
3  不明白的话，可以看下面这张图（图是从网上粘过来的，知乎），图中有5个点，我们需要找到一条线使得这条线无限接近这五个点，可以是直线，曲线，使得误差最小，这就是最小二乘要解决的问题。
4
5              ![1151103201711161524317342123874788.jpg](https://img.hacpai.com/file/2019/07/1151103201711161524317342123874788-adfc0b8b.jpg) 

最小二乘推导

markdown不好使了！！

    

公众号'艾恩凝' 个人微信

    吾心信其可行，
          则移山填海之难，
                  终有成功之日！
                                  ——孙文