情報理論

科目基礎情報

学校	香川高等専門学校	開講年度	令和06年度 (2024年度)
授業科目	情報理論
科目番号	2149	科目区分	専門 / 選択
授業形態	授業	単位の種別と単位数	学修単位: 2
開設学科	通信ネットワーク工学科（2019年度以降入学者）	対象学年	5
開設期	後期	週時間数	後期:2
教科書/教材	三木成彦　吉川英機　共著 「情報理論」（改訂版）コロナ社，教員作成資料
担当教員	白石 啓一

到達目標

１．確率論を基に情報源の持つ情報量を求めることができる。
２．情報源の符号化を行うことができる。
３．通信路モデルに対して通信路容量を求めることができる。

ルーブリック

	理想的な到達レベルの目安	標準的な到達レベルの目安	未到達レベルの目安
情報源の情報量	さまざまな情報源の情報量を求めることができる。	基本的な情報源の情報量を求めることができる。	基本的な情報源の情報量を求めることができない。
情報源符号化	さまざまな情報源記号列を符号化できる。	具体的な情報源記号列を符号化できる。	具体的な情報源記号列を符号化できない。
通信路容量	さまざまな通信路のモデルにおいて通信路容量を求めることができる。	基本的な通信路のモデルにおいて通信路容量を求めることができる。	基本的な通信路のモデルにおいて通信路容量を求めることができない。

教育方法等

概要:

通信を高能率・高信頼度で行い，そのセキュリティを保証するための基礎理論を習得する。確率論を基に，情報源の持つ情報量が定量化できることを知る。情報源符号化定理を背景に，通信を高能率で行うことができる符号の作成方法を習得する。各種情報量の意味を知り，与えられた通信路を効率よく使うための手法を知る。通信路符号化定理を背景に，通信を高信頼度で行うことができる符号の作成方法を習得する。

授業の進め方・方法:

教科書を基に学習項目ごとの内容と例題の解説を行う。練習問題については課題とするので，各自自習しておくこと。課題を適時課す。

注意点:

評価割合の「課題」には，発表回数を含む。
この科目は学修単位のため，事前学習・事後学習が必要です。
事前学習：あらかじめ講義範囲を周知しますので，次回の範囲の予習をしておいてください。教員作成資料の該当範囲を読み，不明点を教科書で調べてください。
事後学習：講義後に課題（LMS上の小テスト）を課すので取り組んでください。
オフィスアワー：月曜日　放課後～17:00

授業計画

		週	授業内容	週ごとの到達目標
後期
	3rdQ
		1週	通信路，情報源のモデル	通信路のモデルを知る。D1:2,D2:2
		2週	情報量，符号	情報源のモデルにおいて，情報量，平均情報量を計算できる。符号において，その符号の特徴を知り，平均符号長を計算できる。D2:2
		3週	情報源符号化定理	情報源符号化の定理を知る。D2:2
		4週	ハフマン符号，ランレングス符号	ハフマン符号，ランレングス符号に符号化できる。D2:2
		5週	算術符号，ZL符号	算術符号，ZL符号を理解する。D2:2
		6週	結合エントロピー，条件付きエントロピー，相互情報量	結合エントロピー，条件付きエントロピー，相互情報量を計算できる。D2:2
		7週	演習
		8週	後期中間試験
	4thQ
		9週	試験問題の解答，マルコフ情報源	マルコフ情報源のエントロピーを計算できる。D2:2
		10週	通信路のモデル，通信路容量	通信路のモデルにおいて通信路容量を計算できる。D2:2
		11週	通信路符号化定理	通信路符号化定理を知る。D2:1,2
		12週	誤り検出と訂正の理論	誤り検出と訂正の概念を理解する。D2:1,2
		13週	パリティ検査符号	パリティ検査符号を求めることができる。D2:2
		14週	ハミング符号，巡回符号	ハミング符号，巡回符号を求めることができる。D2:2
		15週	演習
		16週	試験問題の解答

評価割合

	試験	課題	合計
総合評価割合	80	20	100
専門的能力	80	20	100