情報理論

科目基礎情報

学校	旭川工業高等専門学校	開講年度	2018
授業科目	情報理論
科目番号	0154	科目区分	専門 / 選択
授業形態	講義	単位の種別と単位数	学修単位: 1
開設学科	システム制御情報工学科	対象学年	5
開設期	後期	週時間数	後期:2
教科書/教材
担当教員	佐竹 利文

到達目標

・確率の基礎知識について，説明でき，それを実際の場面で応用し活用することが出来る．
・情報量の概念を説明でき，実際の場面で各種情報のエントロピーを求め，活用することが出来る．
・符号化の原理を理解でき，いくつかある具体的な方法を説明できる．

ルーブリック

	理想的な到達レベルの目安	標準的な到達レベルの目安	未到達レベルの目安
評価項目1 （A-2，D-1，D-2）	確率の基礎知識について，説明でき，それを実際の場面で応用し活用することが出来る．	確率の基礎知識について，説明でき，標準的な問題を解くことが出来る．	確率の基礎知識について，説明できない．
評価項目2 （A-2，D-1，D-2）	情報量の概念を説明でき，実際の場面で各種情報のエントロピーを求め，活用することが出来る．	情報量の概念を説明でき，各種情報のエントロピーを求めることが出来る．	各種情報のエントロピーを求めることが出来ない．
評価項目3 （A-2，D-1，D-2）	符号化の原理を理解でき，いくつかある具体的な方法を説明できる．	符号化の原理を理解でき，代表的な方法を説明できる．	符号化の原理を理解でき，代表的な少なくとも１つの方法を説明できない．

学科の到達目標項目との関係

学習・教育到達度目標 システム制御情報工学科の教育目標 ① （コンピュータ応用技術に関する専門科目と実験・実習を通して，コンピュータを道具として自在に操る情報技術を持たせる。）

学習・教育到達度目標 本科の教育目標 ③ （工学基礎及び専門基礎をしっかり身に付けさせ，広い専門的視野と総合的判断力を持たせる。）

JABEE A-2 （基礎工学の知識・能力をもとに，地域・社会の要求を理解し，それに対応することができる。）

JABEE D-1 （基礎工学及び専門工学に関する知識・技術を有し，それを活用することができる。）

JABEE D-2 （データを分析・解釈し，正しく結論を導き出すことができる。）

JABEE基準 (d) （当該分野において必要とされる専門的知識とそれらを応用する能力）

教育方法等

概要:

パーソナルコンピュータ，タブレット型ＰＣ，スマートフォンなど情報機器が生活の場に浸透し，インターネット等の情報伝達の手段を介して，様々な情報を共有している．この講義では，情報という一見あいまいにも感じられるものを数量化する方法や，情報通信の基礎を学ぶ．

授業の進め方・方法:

座学を中心に理論の説明と演習問題を交互に実施する．

注意点:

この科目は，情報工学の基礎科目であり，確率の基礎知識を踏まえた上で，情報という形の見えないものを数値化することを基礎としている．情報社会を生きるうえでの必須の知識であるともいえるので，常に，実際の応用を想像しつつ学んでいくことが重要である．
・教育プログラムの学習・教育到達目標の各項目の割合は，A-2(10%)D-1(40%)D-2(50%)とする。
・総時間数45時間（自学自習15時間）
・自学自習時間（15時間）は，日常の授業（30時間）の予習・復習，講義体験（2回/受講生）の準備・まとめ，および定期試験のための学習を総合したものとする。
・評価については，合計点数が60点以上で単位修得となる．その場合，各到達目標項目の到達レベルが標準以上であること，教育プログラムの学習・教育到達目標の各項目を満たしたことが認められる．

授業計画

		週	授業内容	週ごとの到達目標
後期
	3rdQ
		1週	ガイダンス	情報理論とは何か？情報という一見あいまいな言葉について科学的に説明できる，
		2週	情報量の定義	情報量をある事柄が起こる確率から導くことを理解する．
		3週	エントロピー	情報の不確定の度合いを表すエントロピーを求める式を理解できる．
		4週	エントロピーの性質	複合事象のエントロピー或いは結合エントロピーについて理解する．
		5週	確率の基礎知識	完全事象系，大数の法則，加法定理，情報定理，条件付確率，ベイズの定理等の基礎を理解する．
		6週	確率の計算	確率の基礎知識の確認のための演習問題を解くことが出来る．
		7週	条件付エントロピー 次週中間試験	確率の基礎知識をベースに2つの非独立な事象の不確定度を意味する条件付エントロピーを理解する．
		8週	条件付エントロピーの実際と，性質	具体例を用いた条件付エントロピーの計算ができ，条件付エントロピーの性質について理解する．
	4thQ
		9週	相互情報量	相互情報量を理解し，具体的問題を解くことが出来る．
		10週	情報量のとエントロピーの計算	情報量とエントロピーの具体的問題を解くことができる．
		11週	情報伝送と通信系のモデル	情報源について理解し，マルコフ情報源，エルゴード情報源について説明できる．
		12週	通信路容量	雑音が無い理想的な環境において，基本的な通信路と通信路行列を求めることが出来る．
		13週	符号化と復号化	符号化と復号化の概要とその効率を図る方法について理解し，シャノンの第一基本定理を説明できる．．
		14週	雑音のある場合の符号化１	シャノンの第２基本定理と理解し，パリティ検査法，長方形符号，三角符号，ハミング符号について理解する．
		15週	雑音のある場合の符号化２	各種符号化法のついて，雑音がある符合を復元できる．
		16週	期末試験

評価割合

	試験	発表	相互評価	態度	ポートフォリオ	レポート	合計
総合評価割合	80	0	0	0	0	20	100
基礎的能力	30	0	0	0	0	10	40
専門的能力	50	0	0	0	0	10	60
分野横断的能力	0	0	0	0	0	0	0