機械学習の基礎

3クラスの分類で、ソフトマックス関数に入力する値(ロジット)が3、1、0だった。1番目のクラスの出力(確率)は、2番目のクラスの出力の約何倍か。最も近いものはどれか。

  1. A2倍
  2. B3倍
  3. C7.4倍
答えと解説を見る

正解:C. 7.4倍

ソフトマックス関数は、各値 zᵢ を exp(zᵢ) ÷ Σexp(zⱼ) に変換して、合計が1になる確率にします。分母はどのクラスでも同じなので、2つのクラスの出力の比は exp(3) ÷ exp(1) = e² ≈ 7.4倍です。このように出力の比はロジットの差だけで決まり、差が2あると確率は約7.4倍になります。すべてのロジットに同じ数を足しても、出力は変わりません。

  • A. ロジットの差の値です。ソフトマックス関数では、差が指数関数を通して比になります。
  • B. ロジットの比 3 ÷ 1 で、ソフトマックス関数の出力の比ではありません。
  • C. 正しい。exp(3) ÷ exp(1) = e² ≈ 7.4です。
この分野を解く 分野ページへ

関連する計算ツール

機械学習の基礎の参考書を探す PR

Amazonの検索結果へのリンクです。Amazonのアソシエイトとして、半導体教室は適格販売により収入を得ています。

機械学習の基礎のほかの問題

  1. 入力が x₁ = 1、x₂ = 2 の小さなニューラルネットワークで、隠れ層の2つのニューロンが h₁ = ReLU(x₁ + x₂ − 1)、h₂ = ReLU(x₁ − 2x₂ + 1)、出力が y = 2h₁ + 3h₂ + 1 である。yの値はどれか。
  2. 正解のクラスに対してモデルが出力した確率をpとするとき、分類の学習で使う交差エントロピー損失 −log p の性質として、適切なものはどれか。
  3. 勾配降下法で、重み w = 2.0 における損失の勾配 ∂L/∂w が0.5、学習率が0.1のとき、1回の更新後の重みはどれか。
  4. y = (2x + 1)² の x = 1 における微分係数 dy/dx を、u = 2x + 1、y = u² として連鎖律で求めるとき、正しい値はどれか。
  5. 多くの層を重ねたニューラルネットワークで、活性化関数にシグモイド関数を使うと、入力に近い層の学習が進みにくくなる理由として、適切なものはどれか。