基礎情報理論

科目基礎情報

学校	松江工業高等専門学校	開講年度	令和04年度 (2022年度)
授業科目	基礎情報理論
科目番号	0045	科目区分	専門 / 選択
授業形態	授業	単位の種別と単位数	学修単位: 2
開設学科	情報工学科	対象学年	5
開設期	後期	週時間数	2
教科書/教材	小嶋哲也，はじめての情報理論（近代科学社）
担当教員	原 元司

到達目標

（１）エントロピー（情報量）の基礎を理解している
（２）情報伝達に必要となる符号の基礎を理解している
（３）通信路の基本モデルについて理解している

ルーブリック

	理想的な到達レベルの目安	標準的な到達レベルの目安	未到達レベルの目安
評価項目1	エントロピー（情報量）の基礎をよく理解している	エントロピー（情報量）の基礎を理解している	エントロピー（情報量）の基礎を理解していない
評価項目2	情報伝達に必要となる符号の基礎をよく理解している	情報伝達に必要となる符号の基礎を理解している	情報伝達に必要となる符号の基礎を理解していない
評価項目3	通信路の基本モデルについてよく理解している	通信路の基本モデルについて理解している	通信路の基本モデルについて理解していない

学科の到達目標項目との関係

学習・教育到達度目標 J2 （コンピュータを動かすソフトウェア技術の基礎的な専門知識がある。）

学習・教育到達度目標 J4 （データを解析・考察し，説明できる基礎能力がある。）

教育方法等

概要:

情報の伝達，蓄積，処理の技術は情報化社会を支える基盤技術である．本科目では，その情報の伝達，蓄積，処理に重要となる基礎理論を取り扱う．具体的には，シャノンが定義するエントロピー（情報量），ダイバージェンス，符号化，通信路のモデルについて解説を行う．
なお，本科目は，情報処理学会が策定したIPSJ-SE推奨カリキュラムの「情報理論及び符号理論」中の主要な内容に対応する．

授業の進め方・方法:

到達目標(1)～(3)の到達度を小テストおよび期末試験80％，課題レポート・自学ノート20％の割合で評価し，60点以上を合格とする．
なお，本科目では総合評価の他に，課題レポート・自学ノートの評価が20点満点中12点以上であることを合格の条件とする．また，講義ノートとは別に所定の自学ノートを提出しないと期末試験の受験を認めない．さらに，卒業追認試験については，課題レポート・自学ノートの評価が１００点中６０点以上かつ総合評価が３６点以上の者について申請があった場合にのみ受験を認める．

注意点:

本科目は、1/2以上出席を条件とする。なお、再試験は2/3以上出席のものについてのみ実施する。
本科目は学修単位科目であり，１回の授業（90分）に対して，180分以上の自学自習が必要である。

授業計画

		週	授業内容	週ごとの到達目標
後期
	3rdQ
		1週	科目ガイダンス，情報理論と確率論，確率と確率分布等について説明する．	情報理論と確率論，確率と確率分布の基礎を理解し，説明できる．
		2週	条件付き確率と確率分布，確率変数の期待値について説明する．	条件付き確率と確率分布，確率変数の期待値の基礎を理解し，説明できる．
		3週	エントロピー，エントロピーの計算，エントロピーの最大・最小値について説明する．	エントロピー，エントロピーの計算，エントロピーの最大・最小値の基礎を理解し，説明できる．
		4週	同時エントロピー，条件付エントロピーについて説明する．	同時エントロピー，条件付エントロピーの基礎を理解し，説明できる．
		5週	エントロピーのチェイン則，ダイバージェンスの距離の公理について説明する．	エントロピーのチェイン則，ダイバージェンスの距離の公理の基礎を理解し，説明できる．
		6週	ダイバージェンス，ダイバージェンスと距離の公理，ダイバージェンスの非負性について説明する．	ダイバージェンスとダイバージェンスの距離の公理，ダイバージェンスの非負性の基礎を理解し，説明できる．
		7週	ダイバージェンスの応用，ダイバージェンスの性質について説明する．	ダイバージェンスの応用，ダイバージェンスの性質の基礎について理解し，説明できる．
		8週	中間試験 １～７週目の内容について試験を行う	１〜７週目までの内容を理解し，説明できる．
	4thQ
		9週	中間試験の回答固定符号と可変長符号，符号の定義と平均語長について説明する	固定符号を可変長符号，符号の定義と平均語長の基礎を理解し，説明できる．
		10週	符号の正則性と分節可能符号，分節可能符号判定アルゴリズムについて説明する．	符号の正則性と分節可能符号，分節可能符号判定アルゴリズムの基礎を理解し，説明できる．
		11週	語頭符号，符号のクラスについて説明する．	語頭符号，符号のクラスの基礎を理解し，説明できる．
		12週	符号木，符号の数直線による表現，クラフトの不等式について説明する．	符号木，符号の数直線による表現，クラフトの不等式の基礎を理解し，説明できる．
		13週	D進分布，情報源分布の推定誤りについて説明する．	D進分布，情報源分布の推定誤りの基礎を理解し，説明できる．
		14週	シャノン−ファノ符号，ハフマン符号について説明する． 通信路符号化について説明する．	シャノン−ファノ符号，ハフマン符号の基礎を理解し，説明できる．通信路符号化について説明できる．
		15週	期末試験 ９～１４週目までの内容について試験を行う	９〜１４週目までの内容を理解し，説明できる．
		16週	試験の解説と補足 試験の解説と補足事項を説明する	試験の回答を理解し，説明できる．

評価割合

	定期試験	発表	相互評価	課題レポート，小テスト	ポートフォリオ	その他	合計
総合評価割合	80	0	0	20	0	0	100
基礎的能力	0	0	0	0	0	0	0
専門的能力	80	0	0	20	0	0	100
分野横断的能力	0	0	0	0	0	0	0