Information Theory

Course Information

College	Tokuyama College	Year	2020
Course Title	Information Theory
Course Code	0124	Course Category	Specialized / Compulsory
Class Format	Lecture	Credits	Academic Credit: 2
Department	Department of Computer Science and Electronic Engineering	Student Grade	4th
Term	First Semester	Classes per Week	2
Textbook and/or Teaching Materials	1. 小川英一　｢マルチメディア時代の情報理論｣　コロナ社，2. 三木成彦・吉川英機「情報理論」コロナ社
Instructor	Miyazaki Ryoichi

Course Objectives

１．情報量の概念・定義を理解し、実際に計算することができる．
２．情報源符号化について説明できる．
３．通信路符号化について説明できる．
４．基礎的・実用的な誤り検出・訂正符号について説明できる．
５．伝送路符号化について説明できる．

Rubric

	理想的な到達レベルの目安	標準的な到達レベルの目安	未到達レベルの目安
評価項目1	情報量の概念について深く理解し，演習問題に対して正しく答えることができ，語句を自らの言葉で説明できる．	情報量の概念について深く理解し，語句や計算問題に対して正しく答えることができる．	情報量の概念について理解できず，語句や計算問題に対して正しく答えることができない．
評価項目2	情報源符号化について深く理解し，演習問題に対して正しく答えることができ，語句を自らの言葉で説明できる．	情報源符号化について深く理解し，語句や計算問題に対して正しく答えることができる．	情報源符号化について理解できず，語句や計算問題に対して正しく答えることができない．
評価項目3	通信路符号化について深く理解し，演習問題に対して正しく答えることができ，語句を自らの言葉で説明できる．	通信路符号化について深く理解し，語句や計算問題に対して正しく答えることができる．	通信路符号化について理解できず，語句や計算問題に対して正しく答えることができない．
評価項目4	誤り検出・訂正符号について深く理解し，演習問題に対して正しく答えることができ，語句を自らの言葉で説明できる．	誤り検出・訂正符号について深く理解し，語句や計算問題に対して正しく答えることができる．	誤り検出・訂正符号について理解できず，語句や計算問題に対して正しく答えることができない．
評価項目5	伝送路符号化について深く理解し，演習問題に対して正しく答えることができ，語句を自らの言葉で説明できる．	伝送路符号化について深く理解し，語句や計算問題に対して正しく答えることができる．	伝送路符号化について理解できず，語句や計算問題に対して正しく答えることができない．

Assigned Department Objectives

到達目標 A 1 （「世界に通用する」技術者をめざすために、複合分野の基礎となる基本的素養を身につけること）

JABEE d-1 （専門工学）

Teaching Method

Outline:

コンピュータや携帯電話，インターネットの普及は，情報と通信の基礎となる情報理論の技術成果が大きく影響している．本講義では情報理論の基礎について解説する．また，身近なディジタル機器や通信技術と情報理論との関連を具体的に解説する．

Style:

各回の授業では教科書1に沿ってスライドを用いた講義を行う．スライドは授業開始時に配布するが，復習や演習用にノートを準備することが好ましい．また，理解度を確認するために項目ごとに学習シートで課題を与える．必要に応じて教科書2を用いて理論に関しての詳細な解説を行う．事後学習として学習シート，教科書の例題・演習問題を行うこと．

Notice:

【最終成績】授業への参加態度（Formsで集計）：20%, 学習シート：40%, 期末試験：40%
【関連科目】情報と論理（２年）、情報数学（４年）、数値解析（５年）

Course Plan

			Theme	Goals
1st Semester
	1st Quarter
		1st	【授業内容】ガイダンス，情報伝送の基礎知識 【事後学習（2時間）】 ・配布スライド・教科書第1章を熟読し， 　ノートにまとめる． ・教科書第1章の例題，演習問題を行う．	情報理論全体像を把握し，情報理論とその役割，符号化の役割について説明できる．
		2nd	【授業内容】情報量の数量化（１） 【事後学習（2時間）】 ・配布スライド・教科書第2章を熟読し， 　ノートにまとめる． ・学習シート1，教科書第2章の例題，演習問題を行う．	情報量と確率との対応，自己情報量ついて説明できる．
		3rd	【授業内容】情報量の数量化（２） 【事後学習（2時間）】 ・配布スライド・教科書第2章を熟読し， 　ノートにまとめる． ・学習シート1，教科書第2章の例題，演習問題を行う．	エントロピーとその性質について説明できる．
		4th	【授業内容】情報源符号化（１） 【事後学習（2時間）】 ・配布スライド・教科書第3章を熟読し， 　ノートにまとめる． ・学習シート2，教科書第3章の例題，演習問題を行う．	符号の条件と性質，符号の長さについて説明できる．
		5th	【授業内容】情報源符号化（２） 【事後学習（2時間）】 ・配布スライド・教科書第3章を熟読し， 　ノートにまとめる． ・学習シート3，教科書第3章の例題，演習問題を行う．	ハフマン符号化，情報源符号化定理について説明できる．
		6th	【授業内容】通信路符号化（１） 【事後学習（2時間）】 ・配布スライド・教科書第5章を熟読し， 　ノートにまとめる． ・学習シート4，教科書第5章の例題，演習問題を行う．	誤りの発生と制御，誤り検出・訂正の原理，ハミング距離について説明できる．
		7th	【授業内容】通信路符号化（２） 【事後学習（2時間）】 ・配布スライド・教科書第5章を熟読し， 　ノートにまとめる． ・学習シート4，教科書第5章の例題，演習問題を行う．	誤り検出・訂正能力について説明できる．
		8th	【授業内容】通信路符号化（３） 【事後学習（2時間）】 ・配布スライド・教科書第5章を熟読し， 　ノートにまとめる． ・学習シート4，教科書第5章の例題，演習問題を行う．	伝送できる情報量，通信路符号化定理について説明できる．
	2nd Quarter
		9th	【授業内容】基礎的な誤り検出・訂正符号（１） 【事後学習（2時間）】 ・配布スライド・教科書第6章を熟読し， 　ノートにまとめる． ・学習シート5，教科書第6章の例題，演習問題を行う．	パリティ検査符号，ハミング符号について説明できる．
		10th	【授業内容】基礎的な誤り検出・訂正符号（２） 【事後学習（2時間）】 ・配布スライド・教科書第6章を熟読し， 　ノートにまとめる． ・学習シート5，教科書第6章の例題，演習問題を行う．	符号の性質，行列による表現について説明できる．
		11th	【授業内容】実用的な誤り検出・訂正符号（１） 【事後学習（2時間）】 ・配布スライド・教科書第7章を熟読し， 　ノートにまとめる． ・学習シート5，教科書第7章の例題，演習問題を行う．	巡回検査符号について説明できる．
		12th	【授業内容】実用的な誤り検出・訂正符号（２） 【事後学習（2時間）】 ・配布スライド・教科書第7章を熟読し， 　ノートにまとめる． ・学習シート5，教科書第7章の例題，演習問題を行う．	誤り訂正符号，畳込み符号について説明できる．
		13th	【授業内容】伝送路符号化 【事後学習（2時間）】 ・配布スライド・教科書第8章を熟読し， 　ノートにまとめる． ・学習シート6，教科書第8章の例題，演習問題を行う．	伝送路符号，変調方式，変調方式と誤りについて説明できる．
		14th	総合演習	第11週から第13週で学んだ内容の演習を行う． 学習シート3, 4の最終締め切り
		15th	期末試験	第1週から第14週の内容に関する理解度を確認する．
		16th	答案返却など	試験の解説を行う，

Evaluation Method and Weight (%)

	授業への参加態度	学習シート	期末試験	Total
Subtotal	20	40	40	100
基礎的能力	0	0	0	0
専門的能力	20	40	40	100
分野横断的能力	0	0	0	0