情報理論基礎

科目基礎情報

学校	群馬工業高等専門学校	開講年度	平成30年度 (2018年度)
授業科目	情報理論基礎
科目番号	4J017	科目区分	専門 / 必修
授業形態	授業	単位の種別と単位数	履修単位: 1
開設学科	電子情報工学科	対象学年	4
開設期	後期	週時間数	2
教科書/教材	情報理論入門（サイエンス社）
担当教員	石田 等

到達目標

□情報量・エントロピーについて基本的な計算ができる。
□情報源符号化の基本を理解することができる。
□通信路符号化の基本を理解することができる。
□現代情報通信技術に情報量がどのように使われているかを理解することができる。

ルーブリック

	理想的な到達レベルの目安	標準的な到達レベルの目安	未到達レベルの目安
評価項目1	情報量、エントロピーについての教科書演習問題程度が解ける。	情報量、エントロピーの説明ができ、基本的な計算ができる。	情報量、エントロピーの説明と基本の計算ができない。
評価項目2	情報源符号化定理およびハフマン符号について説明し、計算ができる。	情報源のモデルと情報源符号化について説明できる。	情報源のモデルと情報源符号化の説明ができない。
評価項目3	通信路符号化定理および誤り訂正符号について説明し、計算できる。	通信路のモデルと通信路符号化の説明ができる。	通信路のモデルと通信路符号化の説明ができない。

教育方法等

概要:

この講義では「情報とは何か」をキーワードに、確率統計の復習から始め、情報理論の基礎を学ぶ。具体的には情報と確率との関係、情報量とエントロピー、さらに符号理論の初歩まで学ぶ。
○確率論の基礎
応用数学Iで習った確率統計を復習する。
○情報量とエントロピー
確率をもとに情報量、エントロピーを定義し、例を示す。さらに結合エントロピー、条件付エントロピー、相互情報
量について学ぶ。
○情報源符号化
情報源の定義とモデル、符号化による冗長度の除去、ハフマン符号、LZ符号、情報源符号化定理を学ぶ。
○通信路符号化と誤り訂正符号
通信路符号化定理、誤り訂正符号を学ぶ。

授業の進め方・方法:

パワーポイント、黒板を用いた板書とプリントを使用して説明をします。

注意点:

この授業の内容は情報通信、符号理論、信号処理、人工知能などの発展的な分野の基礎となります。応用数学Iの教科書を手元に用意しておいてください。

授業計画

		週	授業内容	週ごとの到達目標
後期
	3rdQ
		1週	確率論の基礎	情報量の概念・定義を理解し、実際に計算することができる。
		2週	確率論の基礎	情報量の概念・定義を理解し、実際に計算することができる。
		3週	情報量とエントロピー	情報量の概念・定義を理解し、実際に計算することができる。
		4週	情報量とエントロピー	情報量の概念・定義を理解し、実際に計算することができる。
		5週	情報量とエントロピー	情報量の概念・定義を理解し、実際に計算することができる。
		6週	情報量とエントロピー	情報量の概念・定義を理解し、実際に計算することができる。
		7週	情報源符号化	情報源のモデルと情報源符号化について説明できる。
		8週	情報源符号化	情報源のモデルと情報源符号化について説明できる。
	4thQ
		9週	情報源符号化	情報源のモデルと情報源符号化について説明できる。
		10週	通信路符号化	通信路のモデルと通信路符号化について説明できる。
		11週	通信路符号化	通信路のモデルと通信路符号化について説明できる。
		12週	通信路符号化	通信路のモデルと通信路符号化について説明できる。
		13週	誤り訂正符号	通信路符号化について説明できる。
		14週	誤り訂正符号	通信路符号化について説明できる。
		15週	誤り訂正符号	通信路符号化について説明できる。
		16週	誤り訂正符号

モデルコアカリキュラムの学習内容と到達目標

分類		分野	学習内容	学習内容の到達目標	到達レベル	授業週
専門的能力	分野別の専門工学	情報系分野	情報数学・情報理論	情報量の概念・定義を理解し、実際に計算することができる。	3	前1,前2,前3,後3
				情報源のモデルと情報源符号化について説明できる。	3	前4,前5,前6,前7,後7
				通信路のモデルと通信路符号化について説明できる。	3	前9,前10,前11,後9

評価割合

	試験	発表	相互評価	態度	ポートフォリオ	その他	合計
総合評価割合	80	0	0	0	0	20	100
基礎的能力	40	0	0	0	0	20	60
専門的能力	40	0	0	0	0	0	40
分野横断的能力	0	0	0	0	0	0	0