情報理論

□情報量・エントロピーの性質を理解できる。
□情報源符号化について理解できる。
□通信路符号化について理解できる。
□誤り訂正・検出符号について理解できる。

概要:

情報理論の知識や考え方を身につけ，工学的なものの見方を学ぶ。また情報理論の知識や考え方を，日常生活や社会，そまざまな工学専門分野の学習に関連づけて考えられるようにする。

授業の進め方・方法:

講義と問題演習により進める。随時発展的研究課題を紹介する。

注意点:

本科目は、授業時間30時間に加えて、自学自習時間60時間が授業の前後に必要となります。具体的には、各回の学修内容に関連する宿題を毎回出題します。
各授業は前回までの宿題を済ませていることを前提に進めます。必ず次回授業までに済ませるようにして下さい。各宿題は学期末試験の範囲に含まれます。

アクティブラーニング	ICT 利用	遠隔授業対応	実務経験のある教員による授業

		週	授業内容	週ごとの到達目標
前期
	1stQ
		1週	概要	講義全体の概要
		2週	情報量1	情報量の定義、情報量の加法性、記憶の無い情報源、エントロピーの性質、記憶の無い情報源の拡大
		3週	情報量2
		4週	情報量3
		5週	マルコフ情報源1	マルコフ情報源、マルコフ情報源のエントロピー、マルコフ情報源の拡大
		6週	マルコフ情報源2
		7週	マルコフ情報源3
		8週	情報源の符号化1	情報源符号化の目的、符号の分類、一意に復号不可能な符号の性質、瞬時に復号可能な符号の性質、クラフトの不等式、平均符号長、無記憶情報源に対する情報源符号化定理、ハフマン符号、シャノン・ファノ符号符号の効率
	2ndQ
		9週	情報源の符号化2
		10週	通信路符号化、誤り訂正・検出符号1	通信路行列、相互情報量、通信路容量、通信路符号化、通信路符号化定理、誤り訂正・検出の原理、線形符号、単一誤り訂正２元線形符号、多重誤り訂正２元線形符号、巡回符号
		11週	通信路符号化、誤り訂正・検出符号2
		12週	通信路符号化、誤り訂正・検出符号3
		13週	通信路符号化、誤り訂正・検出符号4
		14週	通信路符号化、誤り訂正・検出符号5
		15週	通信路符号化、誤り訂正・検出符号6
		16週