機械学習の基礎
入力が x₁ = 1、x₂ = 2 の小さなニューラルネットワークで、隠れ層の2つのニューロンが h₁ = ReLU(x₁ + x₂ − 1)、h₂ = ReLU(x₁ − 2x₂ + 1)、出力が y = 2h₁ + 3h₂ + 1 である。yの値はどれか。
- A−1
- B5
- C7
答えと解説を見る
正解：B. 5
ReLUは、入力が正ならそのまま、0以下なら0を出力する活性化関数です。h₁ = ReLU(1 + 2 − 1) = ReLU(2) = 2、h₂ = ReLU(1 − 4 + 1) = ReLU(−2) = 0 なので、y = 2 × 2 + 3 × 0 + 1 = 5です。このように、入力から出力へ層の順に計算を進めることを順伝播と呼びます。
- A. ReLUを通さずに h₂ = −2 のまま計算した値 2 × 2 + 3 × (−2) + 1 = −1です。
- B. 正しい。h₁ = 2、h₂ = 0 なので、y = 2 × 2 + 3 × 0 + 1 = 5です。
- C. 隠れ層のバイアス(−1と+1)を足し忘れて、h₁ = 3、h₂ = 0 とした値 2 × 3 + 1 = 7です。