最小絶対値法
From Wikipedia, the free encyclopedia
ボスコヴィッチの最小絶対値法
最小絶対値法は1757年にルジェル・ヨシプ・ボスコヴィッチによって考案された。
18世紀前半、偶然誤差が互いに打ち消し合うという見解は数学者に広く認められていたわけではなかった。レオンハルト・オイラーは1749年の『土星と火星の運動における均差の問題に関する研究』において「二つもしくはそれ以上の方程式の結合により、観測値の誤差と計算誤差は何倍にも増大し得る」[1]と述べている[2]。
教皇ベネディクトゥス14世から子午線弧の測定作業の命を受け、ボスコヴィッチは1755年にその報告書『神父たちによる教皇領における子午線 の2度を測定するための学術探検について』を刊行した。この 2年後の1757年に、ボスコヴィッチはこのとき得られたローマ~リミニの弧長や赤道に近いキト(エクアドル)における弧長(フランス科学アカデミーによる測地遠征の成果)など計 5つの地点の弧長からできるだけ精確な扁平率を検討した論稿を刊行している。
この1757年の論稿の中でボスコヴィッチは地球扁平率を求めるための規準として、以下の 3つを挙げた[3]。
- 正の補正値の和は負の補正値の和に等しい
とすると
- 補正が正にせよ負にせよそれらの絶対値の和が、上の2つの条件が満たされたときに生じ得るすべての中で最小である
しかし、ここでボスコヴィッチは、「正の補正値の和は負の補正値の和に等しい」つまり偏差の平均がゼロになる、という最小二乗法のような制約を持ち込んでいた。これは偏差の中央値がゼロとなる、という最小絶対値法の性質とは異なるものである。
ラプラスの位置の方法
最小絶対値法の推定値を求めるアルゴリズムを最初に提案したのはピエール=シモン・ラプラスである[4]。ラプラスは1799年の『天体力学』Ⅲ巻[5]において、以下のようなアルゴリズム(ラプラスは『位置の方法(Methode de situation)」と呼んだ)で地球の扁平率を求めた[6]。
について、実測緯度の差
による重み付き平均をとり、
を得る。これを元の式から引くと、
の消えた 1次元低い方程式
が得られる。
- 商
を求め、
となるように
のデータを再配列する。
- 再配列された
を
とすると、
なので、
のときの
を用いた
が
の推定値となる。
- 重み付き平均の式に
を代入して
の値を得る。
を以下の式に代入すれば扁平率が求まる。扁平率
このときラプラスが求めた扁平率は1/312であった。 最小絶対値法はサンプルが少ない場合は上のようなアルゴリズムを用いた手計算ができるが、直接微分ができないため、基本的に線形計画法の問題に置き換えて解く必要がある[7]。1806年に最小二乗法が登場すると、その(微分可能なため)パラメータに対してどれだけサンプルが増えても解法可能な方程式が得られるという性質などから最小絶対値法は用いられることはほとんど無くなった。
その後
その後1888年にEdgeworthによって、ボスコウィッチの「正の補正値の和は負の補正値の和に等しい」という条件を取り除いた最小絶対値法が初めて用いられた[8]。
計算機の発達により、現在では解を求めることも容易になった。また、最小二乗法に比べて外れ値に強く、頑健性(ロバスト性)を持っていることなどから近年注目を受けている[9]。
脚注
- ↑ 原文「Mais puisque par la combinaison de deux ou plusieurs équations, les erreurs des observations & du calcul se peuvent multiplier, je substituerai les valeurs que je viens de trouver... 」
- ↑ Leonhard Euler「Recherches sur la question des inégalités du mouvement de Saturne et de Jupiter」『Paris prize article』1749年、p102、121節(§_CXXI)
- ↑ 安藤洋美『最小二乗法の歴史』現代数学社、1995年、pp.35-36
- ↑ 末吉俊幸「最小絶対値法による回帰分析」『Journal of the Operations Research』1997年、40巻2号、p262
- ↑ 41節
- ↑ 安藤洋美『最小二乗法の歴史』現代数学社、1995年pp.128-130
- ↑ 森祐一『最小二乗法・交互最小二乗法(統計学one point3)』共立出版、2017年
- ↑ 尾崎雄一郎「最小絶対値法による回帰直線の特徴づけ定理」『名城論叢』2007年、8巻 1号、p59
- ↑ 宮本定明ほか「最小絶対誤差にもとづくファジィc-回帰アルゴリズムとその特性」『日本ファジィ学会誌』2000年、12巻 4号、p578