Information Theory

Course Information

College	Tokuyama College	Year	2022
Course Title	Information Theory
Course Code	0083	Course Category	Specialized / Compulsory
Class Format	Lecture	Credits	Academic Credit: 2
Department	Department of Computer Science and Electronic Engineering	Student Grade	4th
Term	First Semester	Classes per Week	2
Textbook and/or Teaching Materials	1. 小川英一　｢マルチメディア時代の情報理論｣　コロナ社，2. 三木成彦・吉川英機「情報理論」コロナ社
Instructor	Miyazaki Ryoichi

Course Objectives

１．情報量の概念・定義を理解し、実際に計算することができる．
２．情報源符号化について説明できる．
３．通信路符号化について説明できる．
４．基礎的・実用的な誤り検出・訂正符号について説明できる．
５．伝送路符号化について説明できる．

Rubric

	理想的な到達レベルの目安	標準的な到達レベルの目安	未到達レベルの目安
評価項目1	情報量の概念について深く理解し，演習問題に対して正しく答えることができ，語句を自らの言葉で説明できる．	情報量の概念について深く理解し，語句や計算問題に対して正しく答えることができる．	情報量の概念について理解できず，語句や計算問題に対して正しく答えることができない．
評価項目2	情報源符号化について深く理解し，演習問題に対して正しく答えることができ，語句を自らの言葉で説明できる．	情報源符号化について深く理解し，語句や計算問題に対して正しく答えることができる．	情報源符号化について理解できず，語句や計算問題に対して正しく答えることができない．
評価項目3	通信路符号化について深く理解し，演習問題に対して正しく答えることができ，語句を自らの言葉で説明できる．	通信路符号化について深く理解し，語句や計算問題に対して正しく答えることができる．	通信路符号化について理解できず，語句や計算問題に対して正しく答えることができない．
評価項目4	誤り検出・訂正符号について深く理解し，演習問題に対して正しく答えることができ，語句を自らの言葉で説明できる．	誤り検出・訂正符号について深く理解し，語句や計算問題に対して正しく答えることができる．	誤り検出・訂正符号について理解できず，語句や計算問題に対して正しく答えることができない．

Assigned Department Objectives

到達目標 A 1 （「世界に通用する」技術者をめざすために、複合分野の基礎となる基本的素養を身につけること）

JABEE d-1 （専門工学）

Teaching Method

Outline:

コンピュータや携帯電話，インターネットの普及は，情報と通信の基礎となる情報理論の技術成果が大きく影響している．本講義では情報理論の基礎について解説する．また，身近なディジタル機器や通信技術と情報理論との関連を具体的に解説する．

Style:

各回の授業では教科書1に沿ってスライドを用いた講義を行う．スライドは Team で共有するが，復習や演習用にノートを準備することが好ましい．また，理解度を確認するために項目ごとに学習シートで課題を与える．必要に応じて教科書2を用いて理論に関しての詳細な解説を行う．事後学習として学習シート，教科書の例題・演習問題を行うこと．

成績に関しては定期試験は実施せず，各単元の終了時に小テスト実施する．各単元の小テストの正答率が40%以上60%未満の学生に対しては，教員が指示する課題を提出することによって60%に引き上げる．

Notice:

【最終成績】学習シート：20%, 単元ごとの小テスト：80%
【関連科目】情報と論理（２年）、情報数学（４年）、数値解析（５年）

Characteristics of Class / Division in Learning

Active Learning

Aided by ICT

Applicable to Remote Class

Course Plan

			Theme	Goals
1st Semester
	1st Quarter
		1st	【授業内容】オリエンテーション，第１章：情報伝送の基礎知識 【事後学習（２時間）】 ・配布スライド・教科書第１章を熟読し，ノートにまとめる． ・教科書第１章の例題，演習問題を行う．	情報理論全体像を把握し，情報理論とその役割，符号化の役割について説明できる．
		2nd	【授業内容】第２章：情報量の数量化（１） 【事後学習（２時間）】 ・配布スライド・教科書第２章を熟読し，ノートにまとめる． ・学習シート１，教科書第２章の例題，演習問題を行う．	情報量と確率との対応，自己情報量ついて説明できる．
		3rd	【授業内容】第２章：情報量の数量化（２） 【事後学習（２時間）】 ・配布スライド・教科書第２章を熟読し，ノートにまとめる． ・学習シート１，教科書第２章の例題，演習問題を行う．	エントロピーとその性質について説明できる．
		4th	【授業内容】第２章の単元テスト，第３章：情報源符号化（１） 【事後学習（２時間）】 ・配布スライド・教科書第３章を熟読し，ノートにまとめる． ・学習シート２，教科書第３章の例題，演習問題を行う．	符号の条件と性質，符号の長さについて説明できる．
		5th	【授業内容】第３章：情報源符号化（２） 【事後学習（２時間）】 ・配布スライド・教科書第３章を熟読し，ノートにまとめる． ・学習シート３，教科書第３章の例題，演習問題を行う．	ハフマン符号化，情報源符号化定理について説明できる．
		6th	【授業内容】第３章の単元テスト，第５章：通信路符号化（１） 【事後学習（２時間）】 ・配布スライド・教科書第５章を熟読し，ノートにまとめる． ・学習シート４，教科書第５章の例題，演習問題を行う．	誤りの発生と制御，誤り検出・訂正の原理，ハミング距離について説明できる．
		7th	【授業内容】第５章：通信路符号化（２） 【事後学習（２時間）】 ・配布スライド・教科書第５章を熟読し，ノートにまとめる． ・学習シート４，教科書第５章の例題，演習問題を行う．	誤り検出・訂正能力について説明できる．
		8th	【授業内容】第５章：通信路符号化（３） 【事後学習（２時間）】 ・配布スライド・教科書第５章を熟読し，ノートにまとめる． ・学習シート４，教科書第５章の例題，演習問題を行う．	伝送できる情報量，通信路符号化定理について説明できる．
	2nd Quarter
		9th	第５章の単元テスト，第２章から第５章までの振り返り
		10th	【授業内容】第６章：基礎的な誤り検出・訂正符号（１） 【事後学習（２時間）】 ・配布スライド・教科書第６章を熟読し，ノートにまとめる． ・学習シート６，教科書第６章の例題，演習問題を行う．	パリティ検査符号，ハミング符号について説明できる．
		11th	【授業内容】第６章：基礎的な誤り検出・訂正符号（２） 【事後学習（２時間）】 ・配布スライド・教科書第６章を熟読し，ノートにまとめる． ・学習シート６，教科書第６章の例題，演習問題を行う．	符号の性質，行列による表現について説明できる．
		12th	【授業内容】第６章の単元小テスト，第７章：実用的な誤り検出・訂正符号（１） 【事後学習（２時間）】 ・配布スライド・教科書第７章を熟読し，ノートにまとめる． ・学習シート６，教科書第７章の例題，演習問題を行う．	巡回検査符号について説明できる．
		13th	【授業内容】第７章：実用的な誤り検出・訂正符号（２） 【事後学習（２時間）】 ・配布スライド・教科書第７章を熟読し，ノートにまとめる． ・学習シート６，教科書第７章の例題，演習問題を行う．	誤り訂正符号について説明できる．
		14th	【授業内容】第７章：実用的な誤り検出・訂正符号（３） 【事後学習（２時間）】 ・配布スライド・教科書第７章を熟読し，ノートにまとめる． ・学習シート７，教科書第７章の例題，演習問題を行う．	畳込み符号について説明できる．
		15th	第７章の単元テスト，第１０週から第１４週の振り返り
		16th

Evaluation Method and Weight (%)

	学習シート	単元ごとの小テスト	Total
Subtotal	20	80	100
基礎的能力	0	0	0
専門的能力	20	80	100
分野横断的能力	0	0	0