한국어
메뉴

머신러닝의 기초

3클래스 분류에서 소프트맥스 함수에 입력하는 값(로짓)이 3, 1, 0이었다. 1번째 클래스의 출력(확률)은 2번째 클래스 출력의 약 몇 배인가? 가장 가까운 것은?

  1. A2배
  2. B3배
  3. C7.4배
정답과 해설 보기

정답: C. 7.4배

소프트맥스 함수는 각 값 zᵢ를 exp(zᵢ) ÷ Σexp(zⱼ)로 변환하여 합계가 1이 되는 확률로 만듭니다. 분모는 어느 클래스에서나 같으므로, 두 클래스 출력의 비는 exp(3) ÷ exp(1) = e² ≈ 7.4배입니다. 이처럼 출력의 비는 로짓의 차이만으로 정해지며, 차이가 2이면 확률은 약 7.4배가 됩니다. 모든 로짓에 같은 수를 더해도 출력은 바뀌지 않습니다.

이 분야 연습하기 분야로 돌아가기

머신러닝의 기초의 다른 문제

  1. 입력이 x₁ = 1, x₂ = 2인 작은 신경망에서 은닉층의 두 뉴런이 h₁ = ReLU(x₁ + x₂ − 1), h₂ = ReLU(x₁ − 2x₂ + 1)이고, 출력이 y = 2h₁ + 3h₂ + 1이다. y의 값은?
  2. 정답 클래스에 대해 모델이 출력한 확률을 p라고 할 때, 분류 학습에서 사용하는 교차 엔트로피 손실 −log p의 성질로 적절한 것은?
  3. 경사 하강법에서 가중치 w = 2.0에서의 손실의 기울기 ∂L/∂w가 0.5, 학습률이 0.1일 때, 1회 갱신 후의 가중치는?
  4. y = (2x + 1)²의 x = 1에서의 미분 계수 dy/dx를 u = 2x + 1, y = u²로 두고 연쇄 법칙으로 구할 때, 올바른 값은?
  5. 많은 층을 쌓은 신경망에서 활성화 함수로 시그모이드 함수를 사용하면 입력에 가까운 층의 학습이 잘 진행되지 않는 이유로 적절한 것은?