情報理論序章

情報とは何かということだが、どこかにいる人間または類似のものに
何らかの行動に影響を与える元のものや存在に価値のある元のものの
総称を意味すると考えます。

情報が、何らかの影響で通報され、信号となって受け手に伝わるもの
とする。信号には符号化と変調・復調が含まれる。

情報が受け手に伝わるまでを、モデル化すれば、情報源・送信機・
通信路・受信機・受信者となります。通信路に雑音源が影響します。
雑音はどこにでもありそうですが、簡単化のため通信路にのみ働くと
します。

これは、一方方向の通信ですが、双方向の場合もありえます。が、ここ
では扱いません。

情報理論と密接な関係のある学問として、サイバネティックスという
ものがあります。これは、舵手を意味する言葉から来たもので、動物と
機械における通信と制御を意味する。また、一般に人間社会のような
システムや機械一般の系の性質を研究するものとも考えられます。

情報理論は、サイバネティックスの中で通信関係を担当する分野とも
考えられます。

センサーからの信号を処理してアクチュエータに出力するメカトロニ
クス等はサイバネティックスの範囲に入るでしょう。

情報理論は人文科学と自然科学の境界領域に発生したとも考えられます。
詳しくは書けませんが、人文科学にも関係しています。応用としては
データ通信が有名です。