誤差逆伝播法をわかりやすく｜出口の間違いから責任をさかのぼる、手で追える数字の例

たとえ：流れ作業の失敗の原因を、後ろからたどる

3人が順番に作業する流れ作業で、最後に出てきた製品の大きさが、注文より小さかったとします。原因を探すとき、まずは最後の人から確かめるはずです。

最後の人の作業がどれだけずれに関わったかが分かれば、その前の人から受け取った部品のずれも分かります。こうして、後ろから前へ順に「どれだけ責任があったか」を分けていきます。

誤差逆伝播法も同じです。出口の間違いから始めて、前の層へ前の層へと、各重みの責任（傾き）を計算していきます。

学習の1回分の流れ

誤差逆伝播法は、学習の1回分の流れの中の、1つの段階です。全体は、図「学習の1回分の流れ」のとおりです。

前向きの計算（順伝播）と後ろ向きの計算（逆伝播）を1往復し、最後に重みを直します。これを、たくさんの例で何千回、何万回と繰り返します。

なぜ必要なのか：重みが多いと1つずつ試せない

各重みの傾きは、その重みだけを少し動かして、損失がどれだけ変わるかを見れば求められます。ただ、この方法では、重み1つにつき1回、ネットワーク全体を計算し直す必要があります。

ニューラルネットワークの重みは、数千から数千億個もあります。1つずつ動かして試していたら、1回直すだけで膨大な時間がかかります。

誤差逆伝播法なら、出口から入口へ1回さかのぼるだけで、すべての重みの傾きをまとめて計算できます。これが、深いネットワークを現実的な時間で学習できる理由です。

• 出典：Google Machine Learning Crash Course：Training using backpropagation（新しいタブ）

身近な計算で「連鎖」をつかむ：おにぎりの合計

1個150円のおにぎりを3個買い、消費税1.1倍をかけると、合計は150×3×1.1＝495円です。このとき、「値段が1円上がると、合計はいくら増えるか」を考えます。

値段が1円上がると、3個分で3円増え、さらに1.1倍されるので、合計は3×1.1＝3.3円増えます。同じように、個数が1個増えると150×1.1＝165円、税率が0.1上がると450×0.1＝45円増えます。

ポイントは、合計への影響を、後ろの計算の傾き（1.1倍）と、その前の計算の傾き（3個）の掛け算で求めたことです。これが、誤差逆伝播法の中心にある「連鎖律」の考え方です。

掛け算で責任をつなぐ：連鎖律

連鎖律は、「途中の計算の傾きを、順に掛け算していけば、入口の変化が出口にどれだけ影響するかが分かる」という決まりです。

ニューラルネットワークは、層ごとの計算が何段もつながったものです。出口の損失から見た各重みの傾きも、層ごとの傾きを後ろから順に掛け算して求められます。

逆から計算するのは、出口の損失に近い層の傾きを先に求めておけば、その前の層の計算に使い回せるからです。この使い回しが、誤差逆伝播法が効率よく計算できる理由です。

小さなネットワークで数字を追う：準備

重みが2つだけの、とても小さなネットワークで計算を追ってみます。入力xに重みw1を掛けて中間の値hを作り、hに重みw2を掛けて答えyを出します。

数字は、入力x＝2、w1＝3、w2＝0.5、正解は4とします。損失は、答えと正解の差を2乗した（y−4）²で測ります。

ここでは分かりやすくするため、活性化関数を省いています。活性化関数がある場合の考え方は、後の節で説明します。紙と鉛筆を用意して、一緒に計算してみてください。

順伝播：前から計算して答えを出す

まず、入口から出口へ順に計算します。h＝3×2＝6、y＝0.5×6＝3です。正解は4なので、答えは1足りません。

損失は（3−4）²＝1です。この「1」を小さくするのが、学習の目標です。

順伝播では、途中の値（h＝6など）を覚えておきます。後ろ向きに傾きを計算するときに、この値を使うためです。

逆伝播：後ろから傾きを計算する

次に、出口から入口へさかのぼって傾きを計算します。最初は、損失を答えyで見た傾きです。（y−4）²の傾きは2×（y−4）なので、2×（3−4）＝−2です。

w2の傾きは、「yの傾き−2」に「w2を動かしたときのyの変わり方（h＝6）」を掛けて−12です。hの傾きは、−2にw2＝0.5を掛けて−1です。

最後に、w1の傾きは、「hの傾き−1」に「w1を動かしたときのhの変わり方（x＝2）」を掛けて−2です。hの傾き−1を使い回して、w1の傾きを求めたところが大事な点です。

傾きを使って重みを直す：勾配降下法の出番

傾きが分かったら、勾配降下法で重みを直します。「今の重み − 学習率 × 傾き」で、学習率を0.01にします。

w2は0.5−0.01×（−12）＝0.62、w1は3−0.01×（−2）＝3.02になりました。もう一度順伝播すると、y＝0.62×（3.02×2）＝3.7448で、損失は1から約0.065に減りました。

1回直しただけで、答えが正解の4にぐっと近づきました。実際の学習では、これをたくさんの例で何度も繰り返します。勾配降下法の詳しい動きは、勾配降下法をわかりやすくで説明しています。

• 出典：Google Machine Learning Crash Course：Gradient descent（新しいタブ）

途中の値を覚えておく理由

逆伝播の計算では、順伝播のときの途中の値を使いました。w2の傾きを求めるときにh＝6を、w1の傾きを求めるときにx＝2を使ったのがその例です。

そのため、学習のときは、順伝播の途中の値をすべて覚えておく必要があります。答えを出すだけのときより多くのメモリを使うのは、このためです。

大きなモデルの学習に、たくさんのメモリを積んだ計算機が必要になる理由の1つでもあります。

たくさんの例でまとめて計算する

この記事では1つの例だけで計算しましたが、実際の学習では、数十〜数百の例をまとめて（ミニバッチで）計算します。

例ごとに逆伝播で傾きを求め、それらを平均した傾きで重みを直します。1つの例だけに合わせて大きく動くことを防ぎ、全体としてうまくいく向きに進みやすくなります。

まとめて計算すると、計算機がたくさんの計算を同時に進められるので、学習も速くなります。

答え合わせ：少し動かして傾きを確かめる

逆伝播で求めた傾きが正しいかは、重みをほんの少し動かして、損失の変わり方を見れば確かめられます。w1を3から3.001にすると、損失の変わり方から求めた傾きは約−1.999でした。

w2も同じように確かめると約−11.96で、逆伝播で求めた−12とほぼ一致します。少し動かす方法は、重みが多いと時間がかかりますが、答え合わせには使えます。

実際の開発でも、作った逆伝播の計算が正しいかを、この方法で確かめることがあります。

活性化関数があるとき

実際のニューラルネットワークでは、各層に活性化関数が入ります。逆伝播では、活性化関数の傾きも掛け算の列に加わります。

ReLUなら、入力がプラスのときの傾きは1、マイナスのときは0です。傾きが0の場所では、それより前に責任が伝わりません。Googleの教材は、出力がずっと0になって傾きが流れなくなる「死んだReLU」にも触れています。

活性化関数の役目は、活性化関数はなぜ必要かで説明しています。

• 出典：Google Machine Learning Crash Course：Training using backpropagation（新しいタブ）
• 出典：Google Machine Learning Crash Course：Activation functions（新しいタブ）

層が深いと起きる問題：勾配消失と勾配爆発

逆伝播は傾きの掛け算なので、層が深いと問題が起きることがあります。Googleの教材は、小さな値をたくさん掛けると入口に近い層の傾きがとても小さくなる「勾配消失」を挙げています。

反対に、重みが大きいと傾きが大きくなりすぎて学習がまとまらない「勾配爆発」も起きます。対策として、勾配消失にはReLUを使うこと、勾配爆発にはバッチ正規化や学習率を下げることが挙げられています。

どちらも、「掛け算で責任をつなぐ」という誤差逆伝播法の性質から生まれる問題です。

• 出典：Google Machine Learning Crash Course：Training using backpropagation（新しいタブ）

今は自動で計算してくれる

Googleの教材は、多くの機械学習のライブラリが誤差逆伝播法を自動で行うため、使う人が計算をすべて自分でする必要はない、と説明しています。

それでも、流れを理解しておくと、学習がうまく進まないときに原因を考えられます。損失が下がらない、入口に近い層の重みが動かない、といったときに、勾配消失や学習率を疑えるようになります。

ライブラリの設定画面や説明に出てくる「勾配」「逆伝播」「学習率」といった言葉の意味が分かれば、設定を変えたときに何が起きるかも予想しやすくなります。

• 出典：Google Machine Learning Crash Course：Training using backpropagation（新しいタブ）

1986年の論文で広く知られるようになった

誤差逆伝播法は、1986年にネイチャー誌に載ったラメルハート氏、ヒントン氏、ウィリアムズ氏の論文で広く知られるようになりました。

論文は、ネットワークの実際の出力と望む出力の差が小さくなるように、重みを繰り返し調整する学習の手順だと説明しています。その結果、隠れ層が課題の大事な特徴を表すようになる、とも書かれています。

役に立つ新しい特徴を自分で作れることが、それまでの単純な方法との違いだとされています。今のディープラーニングも、この考え方の上に成り立っています。

• 出典：Rumelhart・Hinton・Williams「Learning representations by back-propagating errors」（Nature、1986年）（新しいタブ）

ChatGPTなどのLLMの学習でも同じ

ChatGPTのもとになる大規模言語モデルも、学習の基本は同じです。文章の次に来る言葉を予測し、正解とのずれを損失にして、誤差逆伝播法で全部の重みの傾きを計算し、勾配降下法で直します。

違うのは規模で、重みは数十億から数千億個にもなります。1つずつ動かして傾きを求めていたら、学習は終わりません。誤差逆伝播法の効率のよさがあってこそ、大きなモデルを学習できます。

つまずきやすい3つの点

1. 誤差逆伝播法が重みを直すと思う：誤差逆伝播法が求めるのは傾きまで。重みを直すのは勾配降下法。
2. 「逆」は答えを逆算することだと思う：逆なのは計算の向きで、出口から入口へ傾きを計算するという意味。
3. 数式が分からないと理解できないと思う：中身は「傾きの掛け算を後ろからつなぐ」こと。おにぎりの例のような身近な計算で追える。

この3つを押さえると、教科書の数式を読むときにも、何を計算しているかを見失いにくくなります。

資格の勉強で押さえたい点

JDLAのE資格の出題範囲では、「深層学習の基礎」に順伝播型ネットワークや最適化が含まれ、誤差逆伝播法はその中心になる考え方です。

勉強では、順伝播と逆伝播の向き、連鎖律で傾きを掛け算でつなぐこと、勾配消失が起きる理由と対策を、自分の言葉で説明できるようにしておくと安心です。

この記事の小さなネットワークの計算を、紙に書いて一度追ってみると、選択肢の言いかえにも迷いにくくなります。

• 出典：JDLA：E資格（エンジニア資格）試験概要（新しいタブ）