機械学習の基礎
入力が64個、出力が32個の全結合層(各出力にバイアスが1つずつある)の、学習するパラメータの数はどれか。
- A96
- B2048
- C2080
答えと解説を見る
正解：C. 2080
全結合層では、すべての入力とすべての出力の組に1つずつ重みがあるので、重みは 64 × 32 = 2048個です。これに出力ごとのバイアスが32個加わるので、パラメータは 2048 + 32 = 2080個です。一般に、入力がn個、出力がm個の全結合層のパラメータは (n + 1) × m 個です。畳み込み層では同じフィルタを画像の全体で使い回すので、同じ大きさの入力でも全結合層よりパラメータがずっと少なくなります。
- A. 入力と出力の数の和です。重みは入力と出力の組ごとにあるので、掛け算になります。
- B. バイアスの32個を数え忘れた値です。
- C. 正しい。64 × 32 + 32 = 2080です。