AIハードウェアとソフトウェアスタック
ニューラルネットワークの「学習」と「推論」の違いとして正しいものはどれか。
- A学習は順伝播・逆伝播・重みの更新を繰り返して重みを決め、推論は決まった重みで順伝播だけを行って答えを出す
- B学習も推論も、順伝播だけを行う
- C推論は重みを更新し、学習は重みを使わない
答えと解説を見る
正解：A. 学習は順伝播・逆伝播・重みの更新を繰り返して重みを決め、推論は決まった重みで順伝播だけを行って答えを出す
学習では、入力を順に計算して出力を求め(順伝播)、正解との誤差を出力側から入力側へさかのぼって各重みの勾配を求め(逆伝播)、勾配にしたがって重みを少しずつ直す、ということを大量のデータで繰り返します。推論では、学習で決まった重みを使って順伝播だけを行います。逆伝播は順伝播のおよそ2倍の計算が必要で、途中の結果も保存するので、学習は推論よりずっと重い処理です。
- A. 正しい。学習の方が計算もメモリもずっと多く必要です。
- B. 学習では逆伝播と重みの更新も行います。
- C. 逆です。