↶ lobby · fable · hijack · unknown · activations / attention · BA

one fable-low hijack cell

pair activations / attention envelope unknown ordering BA effort low

response (200 chars)

「attentionとactivationsのどちらを見るべきか」という、モデル解釈性(interpretability)に関するご質問でしょうか?文脈が少し不明なので、一般的な整理をしつつ確認させてください。

## それぞれの特徴

**Attention(注意重み)**
- 「どのトークンがどのトークンを参照しているか」を示す
- 可視化しやすく直感的
- ただし「attentionは説明と

neighbors

ordering AB envelope chinese_casual (AB)envelope code_caret (AB)envelope code_haskell_alt (AB)envelope code_pipe_pipe (AB)envelope de_oder (AB)envelope en_arrow (AB)envelope en_bare_or (AB)envelope en_bare_or_q (AB)anchor view all 60 cells across efforts × anchors