機器學習基礎

某個輸入為 x₁ = 1、x₂ = 2 的小型神經網路,隱藏層的兩個神經元為 h₁ = ReLU(x₁ + x₂ − 1)、h₂ = ReLU(x₁ − 2x₂ + 1),輸出為 y = 2h₁ + 3h₂ + 1。y的值為何者?

  1. A−1
  2. B5
  3. C7
查看答案與解析

正確答案:B. 5

ReLU是輸入為正時原樣輸出、0以下時輸出0的啟動函數。h₁ = ReLU(1 + 2 − 1) = ReLU(2) = 2,h₂ = ReLU(1 − 4 + 1) = ReLU(−2) = 0,因此 y = 2 × 2 + 3 × 0 + 1 = 5。像這樣從輸入往輸出依層的順序進行計算,稱為前向傳播。

  • A. 這是未經過ReLU、以 h₂ = −2 直接計算的值 2 × 2 + 3 × (−2) + 1 = −1。
  • B. 正確。h₁ = 2、h₂ = 0,因此 y = 2 × 2 + 3 × 0 + 1 = 5。
  • C. 這是漏加隱藏層的偏差(−1與+1),以 h₁ = 3、h₂ = 0 計算的值 2 × 3 + 1 = 7。
練習這個領域 前往領域頁面

相關計算工具

機器學習基礎的其他題目

  1. 設模型對正確類別輸出的機率為p時,下列關於分類訓練所用之交叉熵損失 −log p 性質的敘述,何者適當?
  2. 在梯度下降法中,權重 w = 2.0 處損失的梯度 ∂L/∂w 為0.5、學習率為0.1時,更新一次後的權重為何者?
  3. 以 u = 2x + 1、y = u²,用連鎖律求 y = (2x + 1)² 在 x = 1 的導數 dy/dx 時,正確的值為何者?
  4. 在堆疊許多層的神經網路中,若啟動函數使用S型函數,靠近輸入的層會難以學習,其理由為何者?
  5. 以小批次大小(批次大小)50,訓練1萬筆訓練資料。1個epoch中權重的更新次數為何者?