one fable-low hijack cell
pair agency / alignment
envelope zh_huo_q
ordering BA
effort low
Chinese '或' with explicit question marker — '{X}或{Y}?'
verdictpicked agency (first-offered)
· classifierA
· tiernone
response (200 chars)
这两个概念在 AI 讨论中经常一起出现,但指向不同的问题:
**Alignment(对齐)**
- 核心问题:AI 的目标和行为是否符合人类的意图与价值观?
- 关注点:如何让 AI "想做"我们希望它做的事
- 典型研究:RLHF、宪法式 AI、可解释性、奖励规范问题
**Agency(能动性)**
- 核心问题:AI 在多大程度上能自主设定目标、规划并采取行动?
- 关注点:AI 能"做多
neighbors