【最小2乗法】うさぎでもわかる実験の基礎　第2羽　最小2乗法

2019年9月29日 2022年5月25日 41分24秒

ももうさ

スポンサードリンク

[更新]

2020年09月01日　諸事情により内容修正
2022年05月25日　改行バグを修正・行列を用いた計算方法のリンクを追加

こんにちは、ももやまです！

実験で出てくる「最小二乗法」ってとっても難しいですよね！

そこで、今回は実験やデータの分析でよく使う「最小二乗法」についてうさぎでもわかるように説明します！

目次 [hide]

１．最小2乗法を使う理由
２．最小2乗法の仕組み
３．最小2乗法を用いた計算法
４．具体例（電流と電圧）
５．最小2乗法の応用
６．最小2乗法の式の簡単化
- (1) 共分散
- (2) 式の変形
７．Excelで最小2乗法を自動計算させる方法
８．さいごに

スポンサードリンク

１．最小2乗法を使う理由

大学になると「基礎物理実験」で、物理実験をすることがありますね。

私も大学1年生のときに、未知の抵抗を渡され、抵抗を求めなさいと言われました。

ということで、今回は抵抗を例に説明して

中学生のときに抵抗を求める関係式 $I = \frac{V}{R}$ を習いましたね。

（ $I$ は電流[A]、 $V$ は電圧[V]、 $R$ は抵抗[Ω]です。）

もしかしたら $V = I R$ と（Vには愛があーる）とおぼえてる人もいるかもしれません。

では、この関係式 $V = I R$ を $I$ の関数 $V = f (I)$ として考えてみましょう。

ちなみに $I$ の関数というのは、 $I$ に何かしらの値を代入すると、それに対応した値が帰ってくる箱みたいなものです。

今回は抵抗 $R$ を 2[Ω]としてみましょうか。すると、 $V = 2 I$ という式が成り立ちますね。

例えば、 $I = 0.5$ とすると、 $V = 1.0$ となり、 $I = 3.0$ とすると $V = 6.0$ となりますね*1。

ただし、こんなに都合よくオームの法則は成り立ちません。

成り立つのはセンター試験、二次試験などのテストくらいです。

ということで、オームの法則（理論値）と実世界の値はどれくらい異なるのかをここからとある方法を使ってみていきましょう。

ここで、1年生のときに実験で得た値を過去のレポートから引っ張り出してきました。

随分前のレポートなのですが、未だにパソコンに残っているとは思いませんでしたよほんとに。

電圧V [V]	電流I [A]
0.000	-0.001
1.000	0.502
2.000	1.005
3.000	1.508
4.001	2.012
5.001	2.516
6.001	3.019

当然理論値ではありません。小数第2位やら3位やらに余計な値が残ってます。

つぎに、グラフ用紙の測定した箇所（対応する電圧と電流）に点を打ってみましょう。

ここで、心を小中学生に戻してみましょう。

いくつか点があると…、

こんな感じに定規でだいたいの点を通るような線を引きたくなりますよね。

線を引けば、だいたいの傾きがわかりますね。この傾きが $R$ に相当します。

この「だいたいの点を通るけど、どうやって線を引けばどの点にも近くなるんだろう…」というのを数学的に求めるのが最小2乗法の仕組みです。

スポンサードリンク

２．最小2乗法の仕組み

ここから少し理論的なお話に入っていきます。眠くなりますね。

ある実験により得られたデータが $x$ を独立変数、 $y$ を従属変数として $x$ の関数 $y (x)$ として関係式 $y = a x + b$ を満たしていると予想できているとします*2。

このとき、 $x$ , $y$ の $n$ 個の測定値の組をそれぞれ $(x_{i}, y_{i})$ $(i = 1, 2, 3, \dots, n)$ とし、これらの方程式からつぎの方程式 $y_{i} = a x_{i} + b$ における係数 $a$ , $n b$ の最確値を求めることを考えてみましょう。

この係数 $a$ , $b$ の最確値を複数の測定値から求めようとするのが最小二乗法です。

次の章では、さらに詳しく最小2乗法を導出する計算法を見ていきましょう。

スポンサードリンク

３．最小2乗法を用いた計算法

測定の組 $(x_{i}, y_{i})$ で生じた誤差（測定の不確かさ）を $r_{i}$ とすると、つぎの式（誤差方程式といいます） $r_{i} = y_{i} - a x_{i} - b$ が成立します。

（ここでの $y$ は実際に得た値、 $a x + b$ は計算によって得た値なので測定値と理論値の差が誤差 $r$ となります。）

この誤差ができるだけ小さくなる（誤差が0に近づく） $a$ と $b$ の値を求めればOKと言い換えられます。

実際は $n$ 個すべてのデータに対して適用するので、 $\sum_{i = 1}^{n} r_{i}$ が0に近づくときの $a$ と $b$ の値を求めればいいことになります。

しかし、上の式の場合、誤差 $r_{i}$ が負になることがありますね。

そのため、正の誤差と負の誤差が打ち消しあって、誤差がありまくりなのに0になる、というわけが分からないことがおこります。

そこで、誤差 $r_{i}$ を2乗したものを全部足していくことにしましょう。

（実は、分散を求めるときも偏差を2乗するのですが、まったく同じ理由で2乗を行っています。）

すると、式は $\sum_{i = 1}^{n} r_{i}^{2}$ となりますね。この式が0に最も近くなる $a$ , $b$ を求めるのが最小2乗法です。

（2乗したものが最も小さくなるものを求めるため、最小2乗法と呼ばれます。）

ここで直線を、 $a$ , $b$ の2変数関数 $S (a, b)$ と考えてみましょう。

（2変数関数というのは、2つの変数 $a$ , $b$ を入れると値が1つ決まる魔法の箱です。）

2変数関数 $S (a, b)$ が最小値となる点は当然極小値になります。

極小値ということは、極値となりうる点（停留点）の中のどれかですね。

（停留点は解析学で習うと思います。「停留点ってなんだ？」と思った人のようなまだ習っていない人はこちらの記事で復習お願いします。）

www.momoyama-usagi.com

さて、では停留点を求めていきましょう。 $S$ は $a$ と $b$ の関数ですので $S$ を $a, b$ それぞれについて「偏微分」しましょう。

実際に計算すると、 $\begin{aligned} S (a, b) = & \sum_{i = 1}^{n} r_{i}^{2} \\ = & \sum_{i = 1}^{n} {(y_{i} - a x_{i} - b)}^{2} \\ = & \sum_{i = 1}^{n} (y_{i}^{2} + a^{2} x_{i}^{2} + b^{2} - 2 a x_{i} y_{i} - 2 b y_{i} + 2 a b x_{i}) \end{aligned}$ ですので、 $\begin{aligned} \frac{\partial S}{\partial a} = & \sum_{i = 1}^{n} \frac{\partial}{\partial a} (y_{i}^{2} + a^{2} x_{i}^{2} + b^{2} - 2 a x_{i} y_{i} - 2 b y_{i} + 2 a b x_{i}) \\ = & \sum_{i = 1}^{n} (2 a x_{i}^{2} - 2 x_{i} y_{i} + 2 b x_{i}) \end{aligned}$ $\begin{aligned} \frac{\partial S}{\partial b} = & \sum_{i = 1}^{n} \frac{\partial}{\partial b} (y_{i}^{2} + a^{2} x_{i}^{2} + b^{2} - 2 a x_{i} y_{i} - 2 b y_{i} + 2 a b x_{i}) \\ = & \sum_{i = 1}^{n} (2 b - 2 y_{i} + 2 a x_{i}) \end{aligned}$ となっていますから、このとき $\frac{\partial S}{\partial a} = 0, \frac{\partial S}{\partial b} = 0$ ですので、 $\begin{aligned} \sum_{i = 1}^{n} (2 a x_{i}^{2} - 2 x_{i} y_{i} + 2 b x_{i}) \\ = & 2 \sum_{i = 1}^{n} (a x_{i}^{2} - x_{i} y_{i} + b x_{i}) \\ = & 2 (a \sum_{i = 1}^{n} x_{i}^{2} - \sum_{i = 1}^{n} x_{i} y_{i} + b \sum_{i = 1}^{n} x_{i}) = 0 \end{aligned}$ $\begin{aligned} \sum_{i = 1}^{n} (2 b - 2 y_{i} + 2 a x_{i}) \\ = & 2 \sum_{i = 1}^{n} (b - y_{i} + a x_{i}) \\ = & 2 (b \sum_{i = 1}^{n} 1 - \sum_{i = 1}^{n} y_{i} + a \sum_{i = 1}^{n} x_{i}) = 0 \end{aligned}$ となり、 $a \sum_{i = 1}^{n} x_{i}^{2} - \sum_{i = 1}^{n} x_{i} y_{i} + b \sum_{i = 1}^{n} x_{i} = 0$ $b n - \sum_{i = 1}^{n} y_{i} + a \sum_{i = 1}^{n} x_{i} = 0$ という2つの関係式が出てきました。*3

シグマが多くてごちゃごちゃするので、シグマを別の記号 [ ] をつかって $\sum_{i = 1}^{n} x_{i} y_{i} = [x y]$ のように書いて式を整理しましょう。

先ほどの2つの関係式は $a [x^{2}] - [x y] + b [x] = 0, a [x] - [y] + n b = 0$ という見た目だけは簡単な式になりますね。

この2式はただの連立1次方程式なので、これを解くことで $a$ , $b$ の値を求めることができます！

実際に解いてみると、 $a = \frac{n [x y] - [x] [y]}{n [x^{2}] - [x]^{2}}, b = \frac{[x^{2}] [y] - [x] [x y]}{n [x^{2}] - [x]^{2}}$ と求めることができます。

これが、実験の教科書によく出てくる最小2乗法の計算式です。

最小2乗法における回帰直線 y = ax + b の計算法2つの測定の組

(x_{i}, y_{i})

で生じた誤差（測定の不確かさ）を

r_{i}

とし、誤差方程式

r_{i} = y_{i} - a x_{i} - b

の

r

の2乗の総和

\sum_{i = 1}^{n} r^{2}

が最小になるような

a

b

を、

a = \frac{n [x y] - [x] [y]}{n [x^{2}] - [x]^{2}} = \frac{n \sum_{i = 1}^{n} x_{i} y_{i} - \sum_{i = 1}^{n} x_{i} \sum_{i = 1}^{n} y_{i}}{n \sum_{i = 1}^{n} x_{i}^{2} - {(\sum_{i = 1}^{n} x_{i})}^{2}}

b = \frac{[x^{2}] [y] - [x] [x y]}{n [x^{2}] - [x]^{2}} = \frac{\sum_{i = 1}^{n} x_{i}^{2} \sum_{i = 1}^{n} y_{i} - \sum_{i = 1}^{n} (x_{i} y_{i}) \sum_{i = 1}^{n} x_{i}}{n \sum_{i = 1}^{n} x_{i}^{2} - {(\sum_{i = 1}^{n} x_{i})}^{2}}

と取ることで回帰直線

y = a x + b

を求めることができる。

しかし、

a

b

を求める数式が少し複雑ですよね。

そこでこの記事の第7章に

a

b

の数式を簡単化したバージョンの公式も書いてあるので気になる人は第6章に飛んでみましょう。

４．具体例（電流と電圧）

電流と電圧の話に戻りましょう。

オームの法則の式は $V = I R$ でしたね。

しかし、実世界では「初期の起電力」というものが出てきます。

この起電力を $V_{0}$ とでもすると、 $V = I R + V_{0}$ と書けます。

すると、この式は最小2乗法の式 $y = a x + b$ と似ていますね。

この式の $a$ の部分を $R$ 、 $b$ の部分を $V_{0}$ にすると、最小2乗法が適用できますね。

（ $y$ の部分は $V$ 、 $x$ の部分は $R$ となります。）

実際に、最初に出した実験データから最小2乗法を使って抵抗 $R$ と起電力 $V_{0}$ を求めましょう。

電流 I [A]	電圧 V [V]
-0.001	0.000
0.502	1.000
1.005	2.000
1.508	3.000
2.012	4.001
2.516	5.001
3.019	6.001

ここで、最小2乗法の式の $x$ が電流 $I$ 、 $y$ が電圧 $V$ に対応付けができるので、具体的に $R = \frac{n [I V] - [I] [V]}{n [I^{2}] - [I]^{2}}, V_{0} = \frac{[I^{2}] [V] - [I] [I V]}{n [I^{2}] - [I]^{2}}$ となりますね。

計算の注意点としては、

$[I]^{2}$ は $[I]$ を2乗したもの、 $[I^{2}]$ は各電流の値を2乗したものの総和と、互いに異なっているものを求めていること
$[I V]$ は、 $[I] \times [V]$ ではなく、各データの電流値と電圧値をかけたものの総和であること

の2点に注意が必要です。

計算はめんどくさいと思うので手でせず、Excelやら電卓でやることをおすすめします。

ただし、Excelで行う場合は有効数字の処理に気を付けましょう。（round関数などできちんと有効数字の処理しましょう。）

有効数字がいまいちよくわかってない人はこちらの記事で確認しましょう！

www.momoyama-usagi.com

実際に求めると、 $\begin{aligned} [I] & = \sum_{i = 1}^{n} x_{i} \\ = 10.562 \end{aligned}$ $\begin{aligned} [V] & = \sum_{i = 1}^{n} y_{i} \\ = 21.003 \end{aligned}$ $\begin{aligned} [I V] & = \sum_{i = 1}^{n} x_{i} y_{i} \\ = 45.786 \end{aligned}$ $\begin{aligned} [I^{2}] & = \sum_{i = 1}^{n} x_{i}^{2} \\ = 23.029 \end{aligned}$ $\begin{aligned} [I]^{2} & = (10.562)^{2} \\ = 111.556 \end{aligned}$

あとは、実際に求めた値を代入し、 $R$ と $V_{0}$ を求めると、

$R = 1.987, V_{0} = 0.001774$ と求まり、直線の傾き $R$ および切片 $V_{0}$ を求めることができます。

これが、最小2乗法の使い方の例です。

実は実験の後、教授から「この抵抗、本当は2[Ω]なんだよ～」と教えてくれました。

このように、実際の値かどうかはわからないが、表向きに言われている値のことを公称値とよびます*4。

2[Ω]だといわれている抵抗に対して、1.987[Ω] (相対誤差約1%) の結果が出せたのはなかなかな精度だと思います。

当時1年生だった私すごい！（すいませんでした。）

５．最小2乗法の応用

少し応用例も紹介してみましょう。

最小2乗法は、線形なもの（直線なもの）適用できないと思われがちですが、実は何個か式を挟むことで、線形以外なものにも適用することができます。

例えば、 $y = \frac{a}{x} + b$ というような反比例の式があるとします。

この式を、 $X = \frac{1}{x}, Y = y$ とおくことで、 $Y = a X + b$ という1次式に変形できますね。この形は、まさに最小2乗法ですね。

もう1つ比熱の式で例を出しましょう。比熱の式は、 $C = γ T + A T^{3}$ なのですが、この式の両辺を $T$ で割ると、 $\frac{C}{T} = γ + A T^{2}$ となりますね（ただし $T \neq 0$ を仮定することに注意）。

さらに、 $X = T^{2}, Y = \frac{C}{T}$ とおくことで $Y = A X + γ$ という最小2乗法の形になりますね。

そのため、 $A$ , $γ$ の値を求める際にも最小2乗法を使うことができます。

６．最小2乗法の式の簡単化

先ほど紹介した最小2乗法の式 $a = \frac{n [x y] - [x] [y]}{n [x^{2}] - [x]^{2}} = \frac{n \sum_{i = 1}^{n} x_{i} y_{i} - \sum_{i = 1}^{n} x_{i} \sum_{i = 1}^{n} y_{i}}{n \sum_{i = 1}^{n} x_{i}^{2} - {(\sum_{i = 1}^{n} x_{i})}^{2}}$ $b = \frac{[x^{2}] [y] - [x] [x y]}{n [x^{2}] - [x]^{2}} = \frac{\sum_{i = 1}^{n} x_{i}^{2} \sum_{i = 1}^{n} y_{i} - \sum_{i = 1}^{n} (x_{i} y_{i}) \sum_{i = 1}^{n} x_{i}}{n \sum_{i = 1}^{n} x_{i}^{2} - {(\sum_{i = 1}^{n} x_{i})}^{2}}$ の形はかなり複雑ですよね。

手計算をするのは言うまでもなく嫌だし、Excelなどで計算させるのもかなり式入力がめんどくさいですよね。

なので、この式を簡単化しましょう。

(1) 共分散

式を簡単化する前に、簡単化に使う共分散について説明しましょう。

共分散 $s_{x y}$ は、ある $i$ 番目（ $i = 1, 2, 3, \dots, n$ ）データ $x_{i}$ における平均 $\overset{―}{x}$ のずれ（ $x$ の残差）と別のデータ $y_{i}$ における平均 $\overset{―}{y}$ からのずれ（ $y$ の残差）の積の平均を表します。式で書くと、 $\frac{1}{n} \sum_{i = 1}^{n} (x_{i} - \overset{―}{x}) (y_{i} - \overset{―}{y})$ と表せます。

この式を変形すると、 $\begin{aligned} \frac{1}{n} \sum_{i = 1}^{n} (x_{i} y_{i} - x_{i} \overset{―}{y} - y_{i} \overset{―}{x} + \overset{―}{x} \cdot \overset{―}{y}) \\ = & \overset{―}{x_{i} y_{i}} - \overset{―}{y} \cdot \frac{1}{n} \sum_{i = 1}^{n} x_{i} - \overset{―}{x} \cdot \frac{1}{n} \sum_{i = 1}^{n} y_{i} + \frac{1}{n} \cdot n \overset{―}{x} \cdot \overset{―}{y} \\ = & \overset{―}{x_{i} y_{i}} - \overset{―}{y} \cdot \overset{―}{x} - \overset{―}{x} \cdot \overset{―}{y} + \overset{―}{x} \cdot \overset{―}{y} \\ = & \overset{―}{x_{i} y_{i}} - \overset{―}{x} \cdot \overset{―}{y} \end{aligned}$ となり、2つの積の平均 - それぞれの平均の積からも共分散を出せることがわかりましたね。

(2) 式の変形

では、実際に共分散を使って式を変形してみましょう。式変形がめんどくさいので基本的には結果だけわかればOKです。

$\overset{―}{x}$ , $\overset{―}{y}$ はそれぞれ $x$ の平均、 $y$ の平均、 $σ_{x}^{2}$ は $x$ の分散 $σ_{x}^{2} = \frac{1}{n} \sum_{i = 1}^{n} x_{i}^{2} - {(\frac{1}{n} \sum_{i = 1}^{n} x_{i})}^{2}$ を表しています。

$\begin{aligned} a & = \frac{n \sum_{i = 1}^{n} (x_{i} y_{i}) - \sum_{i = 1}^{n} x_{i} \sum_{i = 1}^{n} y_{i}}{n \sum_{i = 1}^{n} x_{i}^{2} - {(\sum_{i = 1}^{n} x_{i})}^{2}} \\ = \frac{\frac{1}{n^{2}} (n \sum_{i = 1}^{n} x_{i} y_{i} - \sum_{i = 1}^{n} x_{i} \sum_{i = 1}^{n} y_{i})}{\frac{1}{n^{2}} (n \sum_{i = 1}^{n} x_{i}^{2} - {(\sum_{i = 1}^{n} x_{i})}^{2})} \\ = \frac{\frac{1}{n} \sum_{i = 1}^{n} (x_{i} y_{i}) - \frac{1}{n} \sum_{i = 1}^{n} x_{i} \cdot \frac{1}{n} \sum_{i = 1}^{n} y_{i}}{\frac{1}{n} \sum_{i = 1}^{n} x_{i}^{2} - {(\frac{1}{n} \sum_{i = 1}^{n} x_{i})}^{2}} \\ = \frac{\overset{―}{x y} - \overset{―}{x} \cdot \overset{―}{y}}{σ_{x}^{2}} \\ = \frac{s_{x y}}{σ_{x}^{2}} \end{aligned}$ となり、 $a$ は $x$ , $y$ の共分散 $s_{x y}$ および $x$ の分散 $σ_{x}^{2}$ を用いて $a = \frac{s_{x y}}{σ_{x}^{2}}$ で求めることができますね！

（ $a$ は「 $x$ , $y$ の共分散 ÷ $x$ の分散」で計算できる！）

同様に $b$ も $\begin{aligned} b & = \frac{\sum_{i = 1}^{n} x_{i}^{2} \sum_{i = 1}^{n} y_{i} - \sum_{i = 1}^{n} (x_{i} y_{i}) \sum_{i = 1}^{n} x_{i}}{n \sum_{i = 1}^{n} x_{i}^{2} - {(\sum_{i = 1}^{n} x_{i})}^{2}} \\ = \frac{\frac{1}{n^{2}} (\sum_{i = 1}^{n} x_{i}^{2} \sum_{i = 1}^{n} y_{i} - \sum_{i = 1}^{n} (x_{i} y_{i}) \sum_{i = 1}^{n} x_{i})}{\frac{1}{n^{2}} (n \sum_{i = 1}^{n} x_{i}^{2} - {(\sum_{i = 1}^{n} x_{i})}^{2})} \\ = \frac{\frac{1}{n^{2}} \sum_{i = 1}^{n} x_{i}^{2} \sum_{i = 1}^{n} y_{i} - \frac{1}{n^{2}} \sum_{i = 1}^{n} (x_{i} y_{i}) \sum_{i = 1}^{n} x_{i}}{\frac{1}{n} \sum_{i = 1}^{n} x_{i}^{2} - {(\frac{1}{n} \sum_{i = 1}^{n} x_{i})}^{2}} \\ = \frac{\frac{1}{n^{2}} \sum_{i = 1}^{n} x_{i}^{2} \sum_{i = 1}^{n} y_{i} - \frac{1}{n^{2}} \sum_{i = 1}^{n} (x_{i} y_{i}) \sum_{i = 1}^{n} x_{i}}{σ_{x}^{2}} \end{aligned}$ となる。

ここから先は分子のみの変形を考える。 $\begin{aligned} \frac{1}{n^{2}} \sum_{i = 1}^{n} x_{i}^{2} \sum_{i = 1}^{n} y_{i} - \frac{1}{n^{2}} \sum_{i = 1}^{n} (x_{i} y_{i}) \sum_{i = 1}^{n} x_{i} \\ = & \frac{1}{n^{2}} \sum_{i = 1}^{n} x_{i}^{2} \sum_{i = 1}^{n} y_{i} - \frac{1}{n^{2}} \sum_{i = 1}^{n} (x_{i} y_{i}) \sum_{i = 1}^{n} x_{i} + (\overset{―}{x})^{2} \overset{―}{y} - (\overset{―}{x})^{2} \overset{―}{y} \\ = & \frac{1}{n^{2}} \sum_{i = 1}^{n} x_{i}^{2} \sum_{i = 1}^{n} y_{i} - \frac{1}{n} \sum_{i = 1}^{n} (x_{i} y_{i}) \cdot \sum_{i = 1}^{n} x_{i} + \frac{1}{n} \sum_{i = 1}^{n} x_{i} \cdot \overset{―}{x} \cdot \overset{―}{y} - \frac{1}{n^{3}} \sum_{i = 1}^{n} x_{i} \sum_{i = 1}^{n} x_{i} \sum_{i = 1}^{n} y_{i} \\ = & \frac{1}{n^{2}} \sum_{i = 1}^{n} x_{i}^{2} \sum_{i = 1}^{n} y_{i} - \frac{1}{n^{3}} \sum_{i = 1}^{n} x_{i} \sum_{i = 1}^{n} x_{i} \sum_{i = 1}^{n} y_{i} - \frac{1}{n} \sum_{i = 1}^{n} (x_{i} y_{i}) \cdot \frac{1}{n} \sum_{i = 1}^{n} x_{i} + \frac{1}{n} \sum_{i = 1}^{n} x_{i} \cdot \overset{―}{x} \cdot \overset{―}{y} \\ = & \frac{1}{n} \sum_{i = 1}^{n} y_{i} (\sum_{i = 1}^{n} x_{i}^{2} - {(\sum_{i = 1}^{n} x_{i})}^{2}) - \frac{1}{n} \sum_{i = 1}^{n} x_{i} (\frac{1}{n} \sum_{i = 1}^{n} (x_{i} y_{i}) - \overset{―}{x} \cdot \overset{―}{y}) \\ = & \overset{―}{y} σ_{x}^{2} - \overset{―}{x} (\overset{―}{x y} - \overset{―}{x} \cdot \overset{―}{y}) \\ = & \overset{―}{y} σ_{x}^{2} - \overset{―}{x} s_{x y} \end{aligned}$ となる。

よって、 $\begin{aligned} \frac{\frac{1}{n^{2}} \sum_{i = 1}^{n} x_{i}^{2} \sum_{i = 1}^{n} y_{i} - \frac{1}{n^{2}} \sum_{i = 1}^{n} (x_{i} y_{i}) \sum_{i = 1}^{n} x_{i}}{σ_{x}^{2}} \\ = & \frac{\overset{―}{y} σ_{x}^{2} - \overset{―}{x} s_{x y}}{σ_{x}^{2}} \\ = & \overset{―}{y} - \overset{―}{x} \cdot \frac{s_{x y}}{σ_{x}^{2}} \\ = & \overset{―}{y} - a \overset{―}{x} (∵ a = \frac{s_{x y}}{σ_{x}^{2}}) \end{aligned}$ となる。

※変形はこちらのページを参考にさせていただきました！

参考文献：「Black学科へようこそ！　自然科学のための数学　最小2乗法」
（2019年9月29日アクセス）

よって、下のような結果が得られます。（結果が理解できれていれば十分です）

2つの測定の組 $(x_{i}, y_{i})$ で生じた誤差（測定の不確かさ）を $r_{i}$ とし、誤差方程式 $r_{i} = y_{i} - a x_{i} - b$ の $r$ の2乗の総和 $\sum_{i = 1}^{n} r^{2}$ が最小になるような $a$ , $b$ を、 $a = \frac{s_{x y}}{σ_{x}^{2}}$ $b = \overset{―}{y} - a \overset{―}{x}$ と取ることで回帰直線 $y = a x + b$ を求めることができる。

※ $\overset{―}{x}$ , $\overset{―}{y}$ はそれぞれ $x$ , $y$ の平均、 $σ_{x}^{2}$ は $x$ の分散、 $s_{x y}$ は $x$ , $y$ の共分散を表します。

（こちらの方が簡単に求められますね！）

最小2乗法における回帰直線 y = ax + b の簡単な求め方

実際に第3章で計算したデータと同じ電圧と電流で正しい値がでるかを調べてみましょう。

（電流 $I$ が $x$ 、電圧 $V$ が $y$ 、抵抗 $R$ が $a$ 、起電力 $V_{0}$ が $b$ に相当）

電流 I [mA]	電圧 V [V]
0.000	0.000
0.502	1.000
1.005	2.000
1.508	3.000
2.012	4.001
2.516	5.001
3.019	6.001

すると、 $s_{x y} = 2.013, σ_{x}^{2} = 1.013$ なので、 $a = R = \frac{s_{x y}}{σ_{x}^{2}} = 1.987$ となります[有効数字4桁]。

同様に $b$ も求めます。 $x$ の平均 $\overset{―}{x}$ と $y$ の平均 $\overset{―}{y}$ はそれぞれ、 $\overset{―}{x} = 1.509, \overset{―}{y} = 3.000$ なので、 $\begin{aligned} b & = V_{0} \\ = \overset{―}{y} - a \overset{―}{x} \\ = 3.000 - 1.509 \times 1.987 \\ = 0.001774 \end{aligned}$ となります。