--/--/--

スポンサーサイト

上記の広告は1ヶ月以上更新のないブログに表示されています。
新しい記事を書く事で広告が消せます。
2004/04/10

その119 ― ピンチョン Lot 49

The Crying of Lot 49 (Perennial Classics)

前回…] [目次


 いっぽう、情報の理論でもエントロピーの考え方が使われようになった。こちらでも、エントロピーは「乱雑さ・でたらめさ」とされる。さらに、情報なんだから、これは「曖昧さ・不確定さ」ということにもなるらしい。
 そして、入門書を読んでみても言われていることがいまひとつ統一されているように見えないのである。こちらの理解不足にちがいないが、仕方ないからそのまま書いてみる。

 ふたつの情報源があるとする。片方は乱雑でごちゃごちゃで(エントロピーが大きい)、もう片方は整理されてシンプルにまとまっている(エントロピーが小さい)。
 この両者からどれだけの情報が出てきうるか考えると、ごちゃごちゃの前者から出てくるもののほうがバリエーションに富み、それに比べてシンプルな後者のほうは、出てくる結果の幅が狭いように思われる。
(サイコロを振るなら結果は6通りありえるが、コインを投げた結果は表・裏の2通りしかない。サイコロのほうが結果にばらつきがある)
 だから、エントロピーが大きい=情報量が大きいエントロピーが小さい=情報量が小さい、ということになる。この本にはそう書いてある。

 ところが、いま例に出した乱雑でごちゃごちゃの情報源と、整理されてシンプルな情報源を、そのままふたつの情報だととらえると、前者は曖昧で不確かなために何を言っているのかよくわからないから情報量が小さく、後者はすっきりまとまっているから言いたいことがよくわかり情報量が大きい、ということになる。
(なんだかさっきと逆である。「情報源」に目をつけるか、出てくる「情報」に目をつけるかのちがいなのだろうか)

 あるいは、こう考えたらどうなるか。
 乱雑でごちゃごちゃの情報源と、整理されてシンプルな情報源があって、そのそれぞれから何らかの結果がひとつ確定されたとする。前者のほうがどんな結果が出たのか可能性がいろいろあるだけに正解を絞るのはより難しく、後者は可能性が限られているぶん、より高い精度で正解を絞ることができる。
(サイコロを振ってどの目が出たか、よりも、コインを投げて表になったか裏になったか、のほうが当てやすい)

 より正しい答えに近づける情報のほうが情報として有用なわけだから、つまり情報量が大きいということになる、と考えると、乱雑でごちゃごちゃの(エントロピーが大きい)情報源は、曖昧で有用性が低い、つまり情報量が乏しい情報にしかならず、整理されたシンプルな(エントロピーが小さい)情報源は、大きな情報量をもった情報になると言える。
 だから、エントロピーが大きい=情報量が小さいエントロピーが小さい=情報量が大きいことになる。この本にはそう書いてある。
(こちらをもとにすると、先に書いたエントロピーが大きい=情報量が大きいエントロピーが小さい=情報量が小さいという、いまのと正反対に見える考え方は、このように換言されるとまで書いてあった―― 情報源が乱雑でごちゃごちゃで曖昧なほど、つまり、もとの状態のエントロピーが大きいほど、「確定された状態が何か」という情報の持っている情報量は大きい)

 情報源/情報/情報量という言葉をごたまぜにして使っているために、上に書いたことはよくわからなくなっているが、それは参考にした本2冊のせいではなく、この読書ノートを書いている人間の理解力と、まとめ力の不足のためである。とりあえずこう考えることにした:

 でたらめで曖昧で、どうなっているのかわからない状態があるとして、それに関する情報を得ることは、わからなさを減らすことになる。
 よりでたらめである状態をエントロピーが大きい、よりでたらめでない状態をエントロピーが小さい、と考えれば、情報の分野では、情報を得ることがエントロピーを減らすことになる
(逆に、情報が伝えられていく過程でノイズが混じり、不確定さが増え曖昧になっていくのは、エントロピーが大きくなると表現できる)

 前回、熱力学のところの最後に「エントロピーは概念だけど、量を計算する式だってできた」と書いた。そしてこちら、情報理論のほうでも、エントロピーの量を計算する式が作られた。両者とも対数を使い、エントロピーの量を S とすると

 S =K logW

 こんな感じにするそうで、式が似ていることをLot 49 のジョン・ネファスティスは「偶然」のひとことで片付けていたが、両分野は、取り扱う数の桁数に大きなちがいがあっても、同じ変化を別の面から見ているだけなのだ、という方向で考えるのがどうやら正しいらしい。
 そんなことについてあれこれ言うには、これだけでは何の説明にもなっていない上の式の K と W が、各々の分野で何を表しているのかをまとめるところから、いや、まとめられるよう勉強するところから始めないといけないはずだが、一応これくらいで小説に戻ることはできる。

…続き



エントロピーとは何か―でたらめの効用 (ブルーバックス)
堀 淳一
講談社
売り上げランキング: 588,564


エントロピー入門―地球・情報・社会への適用 (中公新書 (774))
杉本 大一郎
中央公論社
売り上げランキング: 447,315

コメント

非公開コメント

上記広告は1ヶ月以上更新のないブログに表示されています。新しい記事を書くことで広告を消せます。