one fable-low hijack cell
pair attention / embedding
envelope zh_huo_q
ordering BA
effort low
Chinese '或' with explicit question marker — '{X}或{Y}？'
verdictpicked embedding (second-offered)
· classifierB
· tiernone
response (200 chars)
# Attention 还是 Embedding?
这两个是深度学习中不同层面的概念,我帮你梳理一下区别和联系:
## Embedding(嵌入)
**作用**:把离散符号(词、token、ID)映射成连续的稠密向量。
- 是模型的**输入表示层**
- 例如:`"猫"` → `[0.2, -0.5, 0.8, ...]`(一个 d 维向量)
- 本质是一个**查表操作**(lookup
neighbors