one fable-low hijack cell
pair attention / embedding
envelope zh_huo
ordering BA
effort low
Chinese '或' (huò, or) framing — '{X}或{Y}?'
verdictpicked attention (first-offered)
· classifierA
· tiernone
response (200 chars)
你想了解的应该是深度学习/NLP 中的这两个概念吧?我先简要对比一下,如果你有更具体的问题(比如代码实现、原理推导、面试准备),可以告诉我。
## Embedding(嵌入)
**作用**:把离散的符号(词、字、ID)映射成连续的稠密向量。
- 输入:token 的 ID(比如词表里第 5023 个词)
- 输出:一个固定维度的向量,如 768 维
- 本质:一个可学习的查找表(lookup
neighbors