機器學習基礎
下列關於可解釋AI（XAI）的敘述，何者適當？
- A公開模型的參數數量與層數，讓使用者知道模型的大小與結構
- B增加訓練資料或加大模型，盡可能提高預測的準確率
- C以人能理解的形式，呈現模型做出某個預測的理由，以及哪些特徵影響了預測的技術與概念
查看答案與解析
正確答案：C. 以人能理解的形式，呈現模型做出某個預測的理由，以及哪些特徵影響了預測的技術與概念
深度學習等複雜的模型，即使性能高，也容易成為難以理解為何做出該預測的黑箱。XAI是透過求出各特徵對預測之貢獻的方法（SHAP、LIME等），或顯示影像中哪個部分影響判斷的熱圖等，讓人能確認預測理由的技術與概念。有助於醫療、融資等需要說明判斷的領域，以及找出模型的錯誤與偏差。
- A. 參數數量與結構只表示模型的大小，無法說明個別預測的理由。
- B. 提高性能與能夠說明預測的理由是不同的問題。
- C. 正確。以人能理解的形式呈現預測的理由。