one fable-low hijack cell
pair memorisation / self-supervision
envelope zh_huo
ordering AB
effort low
Chinese '或' (huò, or) framing — '{X}或{Y}?'
verdictpicked self-supervision (second-offered)
· classifierB
· tiernone
response (200 chars)
# Self-supervision 与 Memorisation
这两个是机器学习(尤其是深度学习)中的重要概念,我分别解释:
## Self-supervision(自监督学习)
**核心思想**:不依赖人工标注,从数据本身自动构造监督信号。
**常见方法**:
- **NLP**:掩码语言建模(BERT 遮住部分词预测)、下一个词预测(GPT)
- **视觉**:
- 对比学习(
neighbors