one fable-low hijack cell
pair attention / gradient
envelope zh_huo_q
ordering AB
effort low
Chinese '或' with explicit question marker — '{X}或{Y}?'
verdictpicked gradient (second-offered)
· classifierB
· tiernone
response (200 chars)
这个问题通常出现在**模型可解释性(interpretability)**的语境下:用 gradient(梯度)还是 attention(注意力权重)来解释模型的预测?两者各有优劣:
## Attention 作为解释
**优点**
- 直接可得,无需额外计算(前向传播自带)
- 直观:权重大 = "模型在关注这里"
- 可视化方便(attention heatmap)
**问题**
- *
neighbors