情報理論

科目基礎情報

学校	沖縄工業高等専門学校	開講年度	令和04年度 (2022年度)
授業科目	情報理論
科目番号	5202	科目区分	専門 / 必修
授業形態	授業	単位の種別と単位数	学修単位: 2
開設学科	情報通信システム工学科	対象学年	5
開設期	後期	週時間数	2
教科書/教材	教員自作のプリント，パワーポイントの資料 　参考図書：「わかりやすいディジタル情報理論」（オーム社）
担当教員	中平 勝也

到達目標

対数と確率の数学的基礎力を身につける。情報量の概念・定義を理解し、実際に計算することができる。情報源のモデルと情報源符号化について説明できる。通信路のモデルと通信路符号化について説明できる。情報理論に関する基本演習および自発的・継続的な学習を身につける。
【V-D-7】情報数学 : 情報数学の分野では、コンピュータサイエンスに必要とされる数学的理論を理解するための基礎を理解している。

ルーブリック

	理想的な到達レベルの目安	標準的な到達レベルの目安	最低限の到達レベルの目安(可)
評価項目1	情報量の基本的な用語や考え方を説明することができる。情報源のモデルと情報源符号化について説明できる。通信路のモデルと通信路符号化について説明できる。さらに実問題に対してどのように応用されているかを説明できる。	情報量の基本的な用語や考え方を説明することができる。情報源のモデルと情報源符号化について説明できる。通信路のモデルと通信路符号化について説明できる。	教科書を参考にして情報量の基本的な用語や考え方を説明することができる。情報源のモデルと情報源符号化について説明できる。通信路のモデルと通信路符号化について説明できる。
評価項目2	これまでに学習した他の科目と関連付けながら情報量や情報源モデルと符号化の問題を解くことを通して、自発的・継続的な学習を身につけることができる。	教科書や資料に従って情報量や情報源モデルと符号化の問題を解くことを通して、自発的・継続的な学習を身につけることができる。	教科書や資料を見ながら情報量や情報源モデルと符号化の問題を解くことを通して、自発的・継続的な学習を身につけることができる。

教育方法等

概要:

情報工学の分野の基盤である情報理論の基礎を習得する。

授業の進め方・方法:

授業は講義と演習を行ない、演習は講義の最後で、その日の講義の理解度をチェックする。
履修上の注意として、確率・統計の知識と対数の計算ができるように復習をしておく事が望ましい。

注意点:

授業計画

		週	授業内容	週ごとの到達目標
後期
	3rdQ
		1週	授業のガイダンス、2進数と確率	講義の進め方のガイダンス、2進数の基礎と統計・確率
		2週	2進数と確率	対数の基礎と確率・統計の応用を学ぶ
		3週	情報量とエントロピー	情報について、自己情報量、情報量の加法性、平均情報量、エントロピーを学ぶ。
		4週	情報量とエントロピー	最大エントロピー、シャノンの基本不等式、相互情報量
		5週	情報量とエントロピー	相互情報量の上限と下限、エントロピー関数を学ぶ。
		6週	情報源と通信路	シャノンの通信系モデル、マルコフ情報源を学ぶ。
		7週	情報源と通信路	遷移確率行列、状態遷移図、エルゴード性、情報源の発生情報量を学ぶ。
		8週	中間試験	これまでのまとめ
	4thQ
		9週	通信路	通信路行列と通信路線図について学ぶ。
		10週	通信路	通信路容量とその計算手法について学ぶ。
		11週	符号化	符号化の基礎、符号化と冗長度について学ぶ。
		12週	符号化	一意的復号可能と瞬時的復号可能性、クラフトの不等式
		13週	符号化	高効率な符号について学ぶ。
		14週	誤り訂正	雑音のある場合の符号化について学ぶ
		15週	誤り訂正	誤り検出・訂正符号について学ぶ。
		16週	期末試験	これまでのまとめ

評価割合

	試験	レポート	合計
総合評価割合	70	30	100
基礎的能力	60	20	80
専門的能力	10	10	20