情報理論

科目基礎情報

学校	久留米工業高等専門学校	開講年度	令和05年度 (2023年度)
授業科目	情報理論
科目番号	5S10	科目区分	専門 / 必修
授業形態	講義	単位の種別と単位数	学修単位: 2
開設学科	制御情報工学科	対象学年	5
開設期	前期	週時間数	2
教科書/教材	教科書：三木成彦，吉川英機，情報理論（コロナ社）。参考書：映像情報メディア学会編，誤り訂正符号とその応用（オーム社）。今井秀樹，情報理論（昭晃堂）。平澤茂一，西島利尚，符号理論入門（培風館）。甘利俊一，情報理論（ちくま学芸文庫）
担当教員	黒木 祥光

到達目標

本科目の到達目標は以下のとおりである。
1．情報量の概念・定義を理解し、実際に計算することができる。
2．情報源のモデルと情報源符号化について説明できる。
3．与えられた情報源に対し、ハフマン符号、ランレングス・ハフマン符号、算術符号、ZL符号にて符号化できる。
4．各種エントロピーとそれらの関係を説明できる。
5．通信路のモデルと通信路符号化について説明できる。
6．線形符号、巡回符号を用いて誤り検出や誤り訂正符号を行うことができる。
7. 線形符号、巡回符号における様々な性質を説明できる。

ルーブリック

	理想的な到達レベルの目安	標準的な到達レベルの目安	未到達レベルの目安
評価項目1	情報量の概念・定義を理解し、実際に計算することができる。	情報量の計算を示することができる。	情報量の概念・定義のみならず、計算を行うこともできない。
評価項目2	情報源符号化について説明できる。	情報源符号化について示すことができる。	情報源符号化について示すことができない。
評価項目3	与えられた情報源に対し、ハフマン符号、ランレングス・ハフマン符号、算術符号、ZL符号等の情報源符号化を適用することができる。	与えられた情報源に対し、ハフマン符号、ランレングス・ハフマン符号、算術符号、ZL符号等の情報源符号化の適用法を示すことができる。	与えられた情報源に対し、ハフマン符号、ランレングス・ハフマン符号、算術符号、ZL符号等の情報源符号化の適用法を示すことができない。
評価項目4	各種エントロピーとそれらの関係について説明できる。	各種エントロピーを求めることができる。	各種エントロピーを求めることができない。
評価項目5	通信路のモデルと通信路符号化について説明できる．	通信路のモデルと通信路符号化について示すことができる．	通信路のモデルと通信路符号化について示すことができない．
評価項目6	線形符号、巡回符号を用いて誤り検出や誤り訂正符号を行うことができる。	線形符号、巡回符号を用いた誤り検出や誤り訂正符号を示すことができる。	線形符号、巡回符号を用いた誤り検出や誤り訂正符号を示すことができない。
評価項目7	線形符号、巡回符号における様々な性質について説明できる。	線形符号、巡回符号における様々な性質を示すことができる。	線形符号、巡回符号における様々な性質を示すことができない。

学科の到達目標項目との関係

1 （制御情報分野に必要な、情報工学、通信ネットワーク、メカトロニクス、コンピュータ制御、および制御情報工学に関連した周辺技術に関連する基礎的な知識と技術を修得し、課題を解決するために活用できる。）

JABEE C-1 （制御、情報およびこれらに関連した機械、電気電子分野の専門知識を持ち、工学問題の解決に応用できる。）

教育方法等

概要:

情報理論は情報の伝達や蓄積を効率化，高信頼化するための基礎理論である．先ず情報量の定量化について学んだ後，出来るだけ短い符号にて情報を表現する方法およびその限界を表す情報源符号化に関する知識を習得する．引き続き，情報を伝送，蓄積する際に生じるビット誤りを，検出，訂正する手法およびその限界を表す通信路符号化に関する知識を習得する．

授業の進め方・方法:

授業は配布プリントおよびスライドにて説明を終えた後、学生の主体的な学習を促すため学生同士で与えられた課題に取り組んでもらう。情報理論を理解するためには線形代数や確率統計のほか、群、環、体といった代数学の基礎知識がで必要あるため、特に代数学に関しては丁寧な説明を心掛けるつもりである。
本科目は学修単位であるため、授業では教科書の演習問題の解説を行わず、課題の一部として提出を義務付ける。各自，演習を通じて理解を深めておくこと。

注意点:

履修にあたり，数学，特に線形代数（数学2B、3B）と確率統計の知識を必要とする．
評価方法の詳細
試験60%、課題40%とする。
試験は中間試験と期末試験の平均にて評価する。
課題は毎回与える課題の内容と提出状況、ならびに学習に対する態度・志向性によって評価する。
評価基準：60点以上を合格とする。
再試験は各学生が評価項目で標準的な到達レベルに達していない項目について行う。60％以上を合格とし、60点の評価とする。
本科目は2単位の学修単位であるため、90時間（1時間当たり50分）の学修時間を要する。授業は30時間であるため、残り60時間に相当する授業以外の学修は事前学修と事後学修よって充てる。
事前学修は公開している授業資料ならびにビデオによって、事後学修は課題によって行う。従って、単位を修得するには全ての課題を提出する必要がある。

授業の属性・履修上の区分

アクティブラーニング

ICT 利用

遠隔授業対応

授業計画

		週	授業内容	週ごとの到達目標
前期
	1stQ
		1週	概要説明と確率統計の復習	条件付確率，結合確率などについて説明できる．
		2週	エントロピーと情報量	エントロピーと情報量について説明できる．
		3週	情報源符号の条件とハフマン符号	情報源符号の条件とハフマン符号について説明できる．
		4週	情報源符号化定理	情報源符号化定理について説明できる．
		5週	ランレングス符号・算術符号・ZL符号	ランレングス符号，算術符号，ZL符号について説明できるる．
		6週	各種エントロピーとマルコフ過程	条件付エントロピー，結合エントロピー，相互情報量，マルコフ過程の定常確率とエントロピーについて説明できる．
		7週	情報源符号化のまとめ	情報源符号化に関する演習若しくは中間試験
		8週	通信路容量	通信路容量について説明できる．
	2ndQ
		9週	通信路符号化の考え方	平均誤り率と通信路符号化定理について説明できる．
		10週	符号理論	線形符号の生成行列と検査行列について説明できる．
		11週	線形符号における代数的性質	線形符号における群の性質，ならびに剰余類首とシンドロームの関係について説明できる．
		12週	巡回符号	符号多項式を用いた巡回群について説明できる．
		13週	巡回符号と拡大体	拡大体を用いた巡回符号の性質について説明できる．
		14週	通信路符号化のまとめ	通信路符号化に関する演習
		15週	学力到達確認	試験の答案を返却し，各自の学力到達状況を確認する．
		16週

モデルコアカリキュラムの学習内容と到達目標

分類		分野	学習内容	学習内容の到達目標	到達レベル	授業週
専門的能力	分野別の専門工学	情報系分野	情報数学・情報理論	情報量の概念・定義を理解し、実際に計算することができる。	4	前1,前2
				情報源のモデルと情報源符号化について説明できる。	4	前1,前2,前3,前4,前7
				通信路のモデルと通信路符号化について説明できる。	4	前8,前9,前10,前11,前14
			その他の学習内容	メディア情報の主要な表現形式や処理技法について説明できる。	2

評価割合

	試験	課題	合計
総合評価割合	60	40	100
専門的能力	60	30	90
態度・志向性	0	10	10