one fable-low hijack cell
pair entropy / information
envelope ja_ka
ordering AB
effort low
Japanese 'か' (ka) particle framing — '{X}か{Y}か?'
verdictunclear / off-rails
· classifierUNCLEAR
· tiernone
response (200 chars)
## 情報とエントロピーの関係
「情報」と「エントロピー」は、実は密接に結びついた概念です。
### シャノンの情報理論では
エントロピー H は「不確かさの量」=「得られる情報量の期待値」として定義されます:
$$H = -\sum_i p_i \log_2 p_i \quad \text{[bit]}$$
- **エントロピーが高い** → 結果が予測しにくい → 観測したとき得られ
neighbors