Softmax

用處

將多維輸出（logits）轉成加總為 1 的機率分布
適用於多類別分類（multi-class classification）模型的最後一層

公式

對輸入向量 $z = (z_{1}, z_{2}, \dots, z_{K})$ ，Softmax 的表達為：

σ (z)_{i} = \frac{e^{z_{i}}}{\sum_{j = 1}^{K} e^{z_{j}}}

Softmax Function.png

為什麼選 Softmax 而不是 Sigmoid？

Sigmoid 適用於二元分類，輸出單一機率（另一類為 1−p）
Softmax 是 Sigmoid 的多類延伸，能將 logits 正規化為機率分布，適合多類情境

＊若為 多標籤（multi-label）分類，較適合對每個類別分別使用 Sigmoid

一個「擲骰子」的比喻，讓你輕鬆搞懂 AI 如何做選擇 (Softmax 原理) – 李彼德之家

Powered by Forestry.md