情報理論特論

科目基礎情報

学校	東京工業高等専門学校	開講年度	平成29年度 (2017年度)
授業科目	情報理論特論
科目番号	0033	科目区分	専門 / 選択
授業形態	講義	単位の種別と単位数	履修単位: 2
開設学科	機械情報システム工学専攻	対象学年	専2
開設期	後期	週時間数	4
教科書/教材	クロード・シャノン，ワレン・ウィーバー著，植松友彦訳「通信の数学的理論」ちくま学芸文庫
担当教員	小嶋 徹也

到達目標

情報理論とデジタル通信技術の関係について理解する。
シャノン理論が情報通信分野に与えた影響について理解する。
シャノンの原著に書かれた内容が，現代の情報理論でどのように整備されているか理解する。

ルーブリック

	理想的な到達レベルの目安	標準的な到達レベルの目安	未到達レベルの目安
評価項目1	デジタル通信の通信速度やデータ圧縮限界などについて，情報理論の用語を用いて説明できる。	デジタル通信の通信速度やデータ圧縮限界などについて，教科書などを参照しながら説明できる。	デジタル通信の通信速度やデータ圧縮限界などについて，文献が与えられても説明できない。
評価項目2	シャノンが雑音のある通信路を介した情報伝送技術にどのような影響を与えたのか，説明できる。	シャノンが情報伝送技術にどのような影響を与えたのか，教科書などを参照しながら説明できる。	シャノンが情報伝送技術にどのような影響を与えたのか，文献が与えられても説明できない。
評価項目3	シャノンの原著と現代の情報理論で用いられる用語や概念の違いについて，例を挙げて説明できる。	シャノンの原著と現代の情報理論で用いられる用語や概念の違いについて，教科書を参照しながら説明できる。	シャノンの原著と現代の情報理論で用いられる用語や概念の違いについて，文献が与えられても説明できない。

学科の到達目標項目との関係

JABEE (d)

JABEE (f)

JABEE (h)

学習・教育目標 B3

学習・教育目標 C2

学習・教育目標 C6

教育方法等

概要:

本科で学んだ情報理論や情報通信工学の内容で含まれていたシャノンによる情報理論の内容について，1948年に発行されたシャノンの原著を読みながら，理解を深める。特に，雑音のある通信路で情報伝送を行なう問題において，シャノン理論によりどのような技術的インパクトが与えられたのか，理解することを目的とする。また，原著に書かれた基本的概念が現代の情報理論教材において，どのように洗練され整備されているかについても学ぶ。

授業の進め方・方法:

教科書の内容について，事前に調査するよう学生には課題が与えられ，担当する部分について教科書の内容をまとめ，学生が発表を行なう形式で授業を進める。毎回2〜3名の学生が輪番で担当する。学生の発表後，質疑応答と教員による内容のフォローが行なわれ，理解を助けるため毎回演習問題を課す。学生への課題や演習問題等の配布物はすべて英語で記述されるが，学生の発表やスライドは日本語でも英語でも構わない。教員によるフォローは英語で行なわれる場合もある。成績評価は試験は行なわず，レポートで評価する。

注意点:

本科で学んだ情報理論や符号理論，情報通信工学の内容を復習しておくこと。他の学生の発表は，積極的に質問をできるよう意識して聴くこと。毎回，演習問題を行なう。

授業計画

		週	授業内容	週ごとの到達目標
後期
	3rdQ
		1週	Introduction	この授業の進め方について理解し，本科で学んだ授業とこの授業の関係についても把握する。
		2週	The Discrete Noiseless Channel	離散通信路のモデルについて図を用いて説明できる。
		3週	The Discrete Source of Information	離散情報源の例を挙げることができる。
		4週	Markoff Process, Ergodic and Mixed Sources	マルコフ過程，エルゴード情報源，混合情報源について例を挙げることができる。
		5週	The Entropy of an Information Source	情報源のエントロピーを計算することができる。
		6週	Encoding and Decoding Operations	符号化と復号化のモデルについて図を用いて説明できる。
		7週	Noisy Discrete Channel and Channel Capacity	雑音のない離散通信路における通信路容量がどのような情報量で与えられるか，説明できる。
		8週	Attainable Region of Discrete Channel with Noise	雑音あり通信路における達成可能領域が何か説明できる。
	4thQ
		9週	The Channel Capacity in Certain Special Cases	いくつかの簡単な場合について通信路容量を計算することができる。
		10週	Entropy of a Continuous Distribution	連続情報源におけるエントロピーの定義と離散情報源の場合との違いを説明することができる。
		11週	Entropy of an Ensemble of Functions	雑音がガウス分布に従う場合について，アンサンブルのエントロピーがどのように与えられるか説明できる。
		12週	The Capacity of a Continuous Channel	ピーク電力の制限がある特殊な場合の通信路容量を計算することができる。
		13週	Fidelity Evaluation Functions	信頼性関数の例を挙げることができる。
		14週	Information Theory and Communications	シャノンによる情報理論が情報通信技術に与えた影響について説明することができる。
		15週	Summary	この授業を振り返って，重要なトピックスを一つ挙げ，その内容を簡潔に説明できる。
		16週

評価割合

	レポート	発表	演習問題	合計
総合評価割合	75	15	10	100
基礎的能力	45	15	10	70
専門的能力	30	0	0	30
分野横断的能力	0	0	0	0