머신러닝의 기초
설명 가능한 AI(XAI)에 대한 설명으로 적절한 것은?
- A모델의 파라미터 수나 층의 수를 공개하여, 모델의 크기나 구조를 이용자에게 알리는 것
- B학습용 데이터를 늘리거나 모델을 크게 하여, 예측의 정확도를 되도록 높이는 것
- C모델이 어떤 예측을 한 이유나 어떤 특성이 예측에 효과가 있었는지를 사람이 이해할 수 있는 형태로 보여 주는 기술이나 사고방식
정답과 해설 보기
정답: C. 모델이 어떤 예측을 한 이유나 어떤 특성이 예측에 효과가 있었는지를 사람이 이해할 수 있는 형태로 보여 주는 기술이나 사고방식
딥러닝 등의 복잡한 모델은 성능이 높아도 왜 그런 예측이 되었는지 알기 어려운 블랙박스가 되기 쉽습니다. XAI는 예측에 대한 각 특성의 기여를 구하는 방법(SHAP나 LIME 등)이나, 이미지의 어느 부분이 판단에 효과가 있었는지를 보여 주는 히트맵 등으로 예측의 이유를 사람이 확인할 수 있게 하는 기술이나 사고방식입니다. 의료나 융자처럼 판단에 대한 설명이 요구되는 분야에서의 활용이나, 모델의 오류나 편향을 찾아내는 데 도움이 됩니다.