情報理論

科目基礎情報

学校	奈良工業高等専門学校	開講年度	令和03年度 (2021年度)
授業科目	情報理論
科目番号	0072	科目区分	専門 / 必修
授業形態	講義	単位の種別と単位数	学修単位: 2
開設学科	情報工学科	対象学年	4
開設期	前期	週時間数	2
教科書/教材	「わかりやすいディジタル情報理論」、塩野充 著、オーム社
担当教員	岡村 真吾

到達目標

【中間試験】
　情報量、平均情報量（エントロピー）、情報源、通信路について理解する。
【期末試験】
　情報源符号化、通信路符号化について理解する。

ルーブリック

	理想的な到達レベルの目安	標準的な到達レベルの目安	未到達レベルの目安
情報量、平均情報量	情報量や平均情報量に関する定義や定理を理解し、実際に計算することができる。	情報量や平均情報量に関する定義や定理を理解している。	情報量や平均情報量に関する授業への取り組みができていない。
情報源	情報源に関する定義や定理を理解し、基本的な情報源における平均情報量を計算することができる。	情報源に関する定義や定理を理解している。	情報源に関する授業への取り組みができていない。
通信路	通信路に関する定義や定理を理解し、基本的な通信路の通信路容量を計算することができる。	通信路に関する定義や定理を理解している。	通信路に関する授業への取り組みができていない。
情報源符号化	情報源符号化に関する定義や定理を理解し、基本的な符号化法を用いた情報源符号化ができる。	情報源符号化に関する定義や定理を理解している。	情報源符号化に関する授業への取り組みができていない。
通信路符号化	通信路符号化に関する定義や定理を理解し、基本的な符号化法を用いた通信路符号化ができる。	通信路符号化に関する定義や定理を理解している。	通信路符号化に関する授業への取り組みができていない。

学科の到達目標項目との関係

準学士課程（本科１〜５年）学習教育目標 （２）

JABEE基準 (d-1)

JABEE基準 (d-2a)

システム創成工学教育プログラム学習・教育目標 B-2

システム創成工学教育プログラム学習・教育目標 D-1

教育方法等

概要:

シャノンの通信理論に基づく理論体系について学ぶ。さらに、符号理論の基礎についても学ぶ。

授業の進め方・方法:

本科目では、情報や通信の数学的な扱い方について学ぶ。各種理論の説明に加え、具体例の紹介や演習問題を行い、理解を深めていく。

注意点:

【参考書】
　「情報・符号理論」、楫勇一 編著、オーム社
　「ビギナーズガイド情報理論」、井上純一 著、プレアデス出版
　「通信の数学的理論」、クロード・E. シャノン、ワレン・ウィーバー 著、植松友彦 訳、筑摩書房
　「シャノンの情報理論入門」、高岡詠子著、講談社
【関連科目】
　情報数学、応用数学、情報セキュリティ、信号処理、計算理論
【学習指針】
　本科目の内容は確率論を基礎とするが、確率論の説明は応用数学での内容との重複を避けるために本科目では省略す
　る。応用数学でしっかりと勉強しておくこと。また、教科書には載っていない内容を扱うこともあるため、ノートを
　取ることをお薦めする。ただし、単に板書をそのまま書き写すのではなく、内容を理解し、自分なりに要約や補足を
　すること。レポートは、参考文献や他人の意見の単なるコピーではなく、自分自身による考えや作業の結果などが
　含まれるようにすること。
【事前学習】
　規則正しい生活を送り、体調を整えておくこと。余力があれば教科書に目を通しておくこと。
【事後展開学習】
　各講義終了後速やかに、講義内容において理解できたことと理解できなかったことを整理すること。理解できなかっ
　たことについては、次回の講義までに解決しておくこと。
【評価割合】
　試験の成績（100%）で評価する。ただし、本科目への取り組み姿勢に問題がある場合（講義時間中に取り組むべき
　演習問題に取り組んでいない、レポート等の課題が未提出、提出物の内容が不十分、など）は最大61%減点する
　ことがある。

学修単位の履修上の注意

講義時間中に提示する演習問題や教科書に掲載されている演習問題を自学自習時間に解くこと。演習問題の類似問題を試験で出題し、試験の成績として自学自習内容を評価する。

授業計画

		週	授業内容	週ごとの到達目標
前期
	1stQ
		1週	情報量	情報量の定義を理解する。
		2週	平均情報量	平均情報量（エントロピー）を理解する。
		3週	相互情報量	相互情報量を理解する。
		4週	通信系のモデル	シャノンの通信系のモデルを理解する。
		5週	情報源	情報源のモデルを理解する。
		6週	通信路	通信路のモデルと通信路容量を理解する。
		7週	中間試験	授業内容を理解し、正しく解答する。
		8週	試験返却と解説	自身の答案を見直し、理解が不十分な点を解消する。
	2ndQ
		9週	符号化の基礎知識	一意的復号可能と瞬時復号可能を理解する。
		10週	符号化法	ハフマン符号などの符号化法を理解する。
		11週	情報源符号化定理	情報源符号化定理を理解する。
		12週	雑音のある場合の符号化	誤り検出と誤り訂正の原理を理解する。
		13週	誤り訂正符号	ハミング符号と巡回符号を理解する。
		14週	通信路符号化定理	通信路符号化定理を理解する。
		15週	期末試験	授業内容を理解し、正しく解答する。
		16週	試験返却と解説	自身の答案を見直し、理解が不十分な点を解消する。

モデルコアカリキュラムの学習内容と到達目標

分類		分野	学習内容	学習内容の到達目標	到達レベル	授業週
専門的能力	分野別の専門工学	情報系分野	情報数学・情報理論	離散数学に関する知識をアルゴリズムの設計、解析に利用することができる。	4	前6,前10,前13
				情報量の概念・定義を理解し、実際に計算することができる。	4	前1,前2,前3
				情報源のモデルと情報源符号化について説明できる。	4	前4,前5,前9,前10,前11
				通信路のモデルと通信路符号化について説明できる。	4	前4,前6,前12,前13,前14

評価割合

	試験	合計
総合評価割合	100	100
専門的能力	100	100