機器學習基礎

在3個類別的分類中,輸入softmax函數的值(logit)為3、1、0。第1個類別的輸出(機率)約為第2個類別輸出的幾倍?最接近下列何者?

  1. A2倍
  2. B3倍
  3. C7.4倍
查看答案與解析

正確答案:C. 7.4倍

softmax函數將各值 zᵢ 轉換為 exp(zᵢ) ÷ Σexp(zⱼ),成為總和為1的機率。分母對任何類別都相同,因此兩個類別輸出的比為 exp(3) ÷ exp(1) = e² ≈ 7.4倍。像這樣,輸出的比只由logit的差決定,差為2時機率約為7.4倍。即使將所有logit都加上相同的數,輸出也不會改變。

  • A. 這是logit的差。在softmax函數中,差會透過指數函數變成比。
  • B. 這是logit的比 3 ÷ 1,不是softmax函數輸出的比。
  • C. 正確。exp(3) ÷ exp(1) = e² ≈ 7.4。
練習這個領域 前往領域頁面

相關計算工具

機器學習基礎的其他題目

  1. 某個輸入為 x₁ = 1、x₂ = 2 的小型神經網路,隱藏層的兩個神經元為 h₁ = ReLU(x₁ + x₂ − 1)、h₂ = ReLU(x₁ − 2x₂ + 1),輸出為 y = 2h₁ + 3h₂ + 1。y的值為何者?
  2. 設模型對正確類別輸出的機率為p時,下列關於分類訓練所用之交叉熵損失 −log p 性質的敘述,何者適當?
  3. 在梯度下降法中,權重 w = 2.0 處損失的梯度 ∂L/∂w 為0.5、學習率為0.1時,更新一次後的權重為何者?
  4. 以 u = 2x + 1、y = u²,用連鎖律求 y = (2x + 1)² 在 x = 1 的導數 dy/dx 時,正確的值為何者?
  5. 在堆疊許多層的神經網路中,若啟動函數使用S型函數,靠近輸入的層會難以學習,其理由為何者?