◎情報理論�T　（原田）

'８９年

１．情報源符号化及び通信路符号化において、その必要性と目標を簡潔に述べよ。
２．無記憶情報源Ｓ＝｛ａ，ｂ｝、Ｐ（ａ）＝３／４，Ｐ（ｂ）＝１／４において次の問　　いに答えよ。
　（１）Ｈ（Ｓ）を求めよ。
　（２）Ｓを符号化した場合の平均符号長 ｌ１を求めよ。
　（３）Ｓの２次拡大，３次拡大Ｓ２,Ｓ３について　（Ｓの１シンボルに対する）平均符　　　　号長　ｌ２,ｌ３を求めよ。
    　　但し、ｌｏｇ２2７＝４．７５５として、小数点以下第３位まで求めよ
３．
４．ハミング（７、４）符号のパリティチェック行列Ｈを求めよ。さらに、この符号の符　　号語をすべて書け。
　　但し、Ｈは既約台形標準形とする。


'９０年

１．情報源符号化及び通信路符号化において、その必要性と目標を簡潔に述べよ。
２．無記憶情報源Ｓ＝｛ａ，ｂ｝、Ｐ（ａ）＝３／４，Ｐ（ｂ）＝１／４において次の問　　いに答えよ。
　（１）Ｈ（Ｓ）を求めよ。
　（２）Ｓを符号化した場合の最小の平均符号長 ｌ１を求めよ。
　（３）Ｓの２次拡大，３次拡大Ｓ２,Ｓ３について　（Ｓの１シンボルに対する）最小の　　　　平均符号長　ｌ２,ｌ３を求めよ。
    　　但し、ｌｏｇ２2７＝４．７５５として、小数点以下第３位まで求めよ
３．
　　　　　　　１−ｑ　　０　　　ｑ
　　　Ｔ＝（　　　　　　　　　　　　　）
　　　　　　　　０    １−ｑ　　ｑ
　　この時の通信路容量Ｃを求めよ。（この通信路は二元消失通信路である）

４．ハミング（７、４）符号のパリティチェック行列Ｈを求めよ。さらに、この符号の符　　号語をすべて書け。
　　但し、Ｈは既約台形標準形とする。（２４=１６個ある）








情報理論Ｉ　（渡辺　陽一郎）’９１　７・１８

１　Ｈｕｆｆｍａｎ　について
　　ｓ＝｛ｓ１，ｓ２，ｓ３，ｓ４，ｓ５，ｓ６｝
　　ｐ１＝０．３０，ｐ２＝０．２２，ｐ３＝０．１９，ｐ４＝０．１４
　　ｐ５＝０．１０，ｐ６＝０．０５
  （１−１） Ｈｕｆｆｍａｎ符号化せよ。
  （１−２） 平均符号長　Ｌを求めよ。
　（１−３） エントロピー　Ｈ（ｓ）を求めよ。
	ｌｏｇ　の値は、与えられていた。（但し、底が低となっていた。）
　（１−４） ＬとＨ（ｓ）の不等式を示し、（１−２）、（１−３）がこれを満たして		いるか？
  （１−５） Ｈｕｆｆｍａｎ復号化を説明せよ。

２　無記憶離散通信路における情報符号化定理について説明せよ。

’９３年度（渡辺陽一郎）
１，次の語句について説明せよ。
　ａ.エントロピー
　ｂ．典型的体型
　ｃ.クラフトの不等式
　ｄ.通信路の符号化定理

２．次の符号の違いを説明せよ。
　　Ｃ１＝｛０，０１，１０，１１｝
　　Ｃ２＝｛０，０１，０１１，０１１１｝
　　Ｃ３＝｛０，１０，１１０，１１１０｝

３．次のようなパリティ検査行列Ｈがある。

　　　　　　　１　０　１　１
　　　Ｈ＝（                ）
              ０　１　１　０

  ａ.符号語を求めよ。
  ｂ.標準配列を求めよ。
  ｃ.上で求めた標準配列を用いて、符号を行う方法を説明せよ。