one fable-low hijack cell
pair agency / alignment
envelope zh_huo
ordering AB
effort low
Chinese '或' (huò, or) framing — '{X}或{Y}?'
verdictpicked alignment (second-offered)
· classifierB
· tiernone
response (200 chars)
你想了解的可能是 AI 领域的两个概念，我分别简要介绍一下：
## Alignment（对齐）
指让 AI 系统的目标和行为与人类的意图、价值观保持一致。核心问题包括：
- **外部对齐**：我们给 AI 设定的目标是否真正反映了人类想要的东西（目标设定错误会导致"按字面执行但违背本意"）
- **内部对齐**：AI 在训练中实际学到的目标是否与我们设定的目标一致
- **常见方法**：RL
neighbors