基礎情報理論

科目基礎情報

学校 松江工業高等専門学校 開講年度 令和02年度 (2020年度)
授業科目 基礎情報理論
科目番号 0047 科目区分 専門 / 選択
授業形態 授業 単位の種別と単位数 学修単位: 2
開設学科 情報工学科 対象学年 5
開設期 後期 週時間数 2
教科書/教材 小嶋哲也,はじめての情報理論(近代科学社)
担当教員 原 元司

到達目標

(1)エントロピー(情報量)の基礎を理解している
(2)情報伝達に必要となる符号の基礎を理解している
(3)通信路の基本モデルについて理解している

ルーブリック

理想的な到達レベルの目安標準的な到達レベルの目安未到達レベルの目安
評価項目1エントロピー(情報量)の基礎をよく理解しているエントロピー(情報量)の基礎を理解しているエントロピー(情報量)の基礎を理解していない
評価項目2情報伝達に必要となる符号の基礎をよく理解している情報伝達に必要となる符号の基礎を理解している情報伝達に必要となる符号の基礎を理解していない
評価項目3通信路の基本モデルについてよく理解している通信路の基本モデルについて理解している通信路の基本モデルについて理解していない

学科の到達目標項目との関係

学習・教育到達度目標 J2 説明 閉じる
学習・教育到達度目標 J4 説明 閉じる

教育方法等

概要:
情報の伝達,蓄積,処理の技術は情報化社会を支える基盤技術である.本科目では,その情報の伝達,蓄積,処理に重要となる基礎理論を取り扱う.具体的には,シャノンが定義するエントロピー(情報量),ダイバージェンス,符号化,通信路のモデルについて解説を行う.
なお,本科目は,情報処理学会が策定したIPSJ-SE推奨カリキュラムの「情報理論及び符号理論」中の主要な内容に対応する.
授業の進め方・方法:
到達目標(1)~(3)の到達度を小テストおよび期末試験80%,課題レポート・自学ノート20%の割合で評価し,60点以上を合格とする.
なお,本科目では総合評価の他に,課題レポート・自学ノートの評価が20点満点中12点以上であることを合格の条件とする.また,講義ノートとは別に所定の自学ノートを提出しないと期末試験の受験を認めない.さらに,卒業追認試験については,課題レポート・自学ノートの評価が100点中60点以上かつ総合評価が36点以上の者について申請があった場合にのみ受験を認める.
注意点:
本科目は、1/2以上出席を条件とする。なお、再試験は2/3以上出席のものについてのみ実施する。
本科目は学修単位科目であり,1回の授業(90分)に対して,180分以上の自学自習が必要である。

授業計画

授業内容 週ごとの到達目標
後期
3rdQ
1週 科目ガイダンス,情報理論と確率論,確率と確率分布等について説明する. 情報理論と確率論,確率と確率分布の基礎を理解し,説明できる.
2週 条件付き確率と確率分布,確率変数の期待値について説明する. 条件付き確率と確率分布,確率変数の期待値の基礎を理解し,説明できる.
3週 エントロピー,エントロピーの計算,エントロピーの最大・最小値について説明する. エントロピー,エントロピーの計算,エントロピーの最大・最小値の基礎を理解し,説明できる.
4週 同時エントロピー,条件付エントロピーについて説明する. 同時エントロピー,条件付エントロピーの基礎を理解し,説明できる.
5週 エントロピーのチェイン則,ダイバージェンスの距離の公理について説明する. エントロピーのチェイン則,ダイバージェンスの距離の公理の基礎を理解し,説明できる.
6週 ダイバージェンス,ダイバージェンスと距離の公理,ダイバージェンスの非負性について説明する. ダイバージェンスとダイバージェンスの距離の公理,ダイバージェンスの非負性の基礎を理解し,説明できる.
7週 ダイバージェンスの応用,ダイバージェンスの性質について説明する. ダイバージェンスの応用,ダイバージェンスの性質の基礎について理解し,説明できる.
8週 中間試験
1~7週目の内容について試験を行う
1〜7週目までの内容を理解し,説明できる.
4thQ
9週 中間試験の回答と固定符号と可変長符号,符号の定義と平均語長について説明する 固定符号を可変長符号,符号の定義と平均語長の基礎を理解し,説明できる.
10週 符号の正則性と分節可能符号,分節可能符号判定アルゴリズムについて説明する. 符号の正則性と分節可能符号,分節可能符号判定アルゴリズムの基礎を理解し,説明できる.
11週 語頭符号,符号のクラスについて説明する. 語頭符号,符号のクラスの基礎を理解し,説明できる.
12週 符号木,符号の数直線による表現,クラフトの不等式について説明する. 符号木,符号の数直線による表現,クラフトの不等式の基礎を理解し,説明できる.
13週 D進分布,情報源分布の推定誤りについて説明する. D進分布,情報源分布の推定誤りの基礎を理解し,説明できる.
14週 シャノン−ファノ符号,ハフマン符号について説明する.
シャノン−ファノ符号,ハフマン符号の基礎を理解し,説明できる.
15週 期末試験
9~14週目までの内容について試験を行う
9〜14週目までの内容を理解し,説明できる.
16週 試験の解説と補足
試験の解説と補足事項を説明する
試験の回答を理解し,説明できる.

モデルコアカリキュラムの学習内容と到達目標

分類分野学習内容学習内容の到達目標到達レベル授業週
専門的能力分野別の専門工学情報系分野情報数学・情報理論集合に関する基本的な概念を理解し、集合演算を実行できる。3
集合の間の関係(関数)に関する基本的な概念を説明できる。3
ブール代数に関する基本的な概念を説明できる。3
論理代数と述語論理に関する基本的な概念を説明できる。3
離散数学に関する知識をアルゴリズムの設計、解析に利用することができる。4
コンピュータ上での数値の表現方法が誤差に関係することを説明できる。4
コンピュータ上で数値計算を行う際に発生する誤差の影響を説明できる。4
コンピュータ向けの主要な数値計算アルゴリズムの概要や特徴を説明できる。4
情報量の概念・定義を理解し、実際に計算することができる。4
情報源のモデルと情報源符号化について説明できる。4
通信路のモデルと通信路符号化について説明できる。4

評価割合

試験発表相互評価小テスト,レポート,自学ノート等ポートフォリオその他合計
総合評価割合80002000100
基礎的能力0000000
専門的能力80002000100
分野横断的能力0000000