一、最小二乘法概念與用途知悉
最小二乘法是一種常用的數(shù)學方法,用于通過擬合數(shù)據(jù)點來找到最佳擬合曲線或平面。其核心思想是最小化觀測數(shù)據(jù)點與擬合曲線之間的垂直距離的平方和,即最小化殘差的平方和。通過最小二乘法,我們可以找到一條曲線或平面,使得觀測數(shù)據(jù)點到該曲線或平面的距離最短。
最小二乘法廣泛應(yīng)用于各個領(lǐng)域,尤其在數(shù)據(jù)擬合和回歸分析中。例如,在線性回歸中,最小二乘法可以用來擬合數(shù)據(jù)集到一條直線;在多項式擬合中,最小二乘法可以用來擬合數(shù)據(jù)集到一個多項式曲線;在非線性擬合中,可以通過最小二乘法找到最佳擬合曲線或曲面。
通過最小二乘法,我們可以得到擬合曲線的參數(shù),如斜率和截距,或者擬合曲面的系數(shù)。這些參數(shù)可以用來進行預(yù)測、優(yōu)化和分析數(shù)據(jù)。最小二乘法的優(yōu)點在于可解析解的存在,計算較為簡單和穩(wěn)定。
二、舉例詳解
舉個通俗的例子,某種材料的強度與其拉伸倍數(shù)有關(guān),現(xiàn)有一部分樣品的測試數(shù)據(jù):
將上述數(shù)據(jù)畫成如下圖形,假設(shè)我們想用一條直線來擬合數(shù)據(jù),即期望找到一條直線能最好的穿過這些數(shù)據(jù)點。
通過觀察可以發(fā)現(xiàn),這些點大致分布在一條直線上,因此可以考慮利用一元二次方程:
當然,事物總具有兩面性,最小二乘法也不例外,最小二乘法不夠穩(wěn)健,很容易受極端異常點的影響,如果是少數(shù)異常,可以用異常點檢測的方法剔除,但有時異常點也非常重要,需要考慮,這時候可以用一些穩(wěn)健的方法,具體可以搜索“穩(wěn)健回歸”,找相關(guān)的文獻看看,或者等待作者后續(xù)更新。