머신러닝의 기초
입력이 64개, 출력이 32개인 완전 연결층(각 출력에 바이어스가 1개씩 있다)의 학습하는 파라미터 수는?
- A96
- B2048
- C2080
정답과 해설 보기
정답: C. 2080
완전 연결층에서는 모든 입력과 모든 출력의 쌍에 가중치가 1개씩 있으므로, 가중치는 64 × 32 = 2048개입니다. 여기에 출력마다의 바이어스 32개가 더해지므로, 파라미터는 2048 + 32 = 2080개입니다. 일반적으로 입력이 n개, 출력이 m개인 완전 연결층의 파라미터는 (n + 1) × m개입니다. 합성곱 층에서는 같은 필터를 이미지 전체에서 재사용하므로, 같은 크기의 입력이라도 완전 연결층보다 파라미터가 훨씬 적어집니다.