情報理論

科目基礎情報

学校 奈良工業高等専門学校 開講年度 2017
授業科目 情報理論
科目番号 0043 科目区分 専門 / 選択
授業形態 講義 単位の種別と単位数 履修単位: 1
開設学科 電子制御工学科 対象学年 5
開設期 後期 週時間数 2
教科書/教材 「情報理論」 (出版社:コロナ社,著者:三木成彦・吉川英樹)
担当教員 櫟 弘明

到達目標

1.情報量の定量化ができる.
2.情報源のモデル化ができる.
3.情報の符号化ができる.
4.情報伝達モデルや通信路モデルが理解でき応用できる.

ルーブリック

理想的な到達レベルの目安標準的な到達レベルの目安未到達レベルの目安
評価項目1
評価項目2
評価項目3

学科の到達目標項目との関係

準学士課程(本科1〜5年)学習教育目標 (2) 説明 閉じる
JABEE基準 (d-1) 説明 閉じる
JABEE基準 (d-2a) 説明 閉じる
システム創成工学教育プログラム学習・教育目標 B-2 説明 閉じる
システム創成工学教育プログラム学習・教育目標 D-1 説明 閉じる

教育方法等

概要:
現代社会においては情報端末を利用して相手に情報を伝えたり,逆に相手から情報を受け取ったりする.その情報量は年々増加しているため伝達の方法が重量になる.情報理論とはこのような情報の伝達を効率化し,信頼性を高めるための理論である.本講義では情報に関する体系的な学問である情報理論について学習する.
授業の進め方・方法:
座学による講義が中心である.講義項目ごとに例題や演習問題に取り組み,各自の理解度を確認する.
注意点:
 関連科目
情報数学,応用数学,プログラミング,アルゴリズムとデータ構造,計測工学,信号処理などと関連する.
  学習指針
学習内容の定着のために繰り返し演習が不可欠である.講義中に例題・演習問題に取り組み提出を求める.
  自己学習
演習問題・レポート等は講義ノート・教科書を参考に,内容の理解を深めながら取り組むこと

授業計画

授業内容 週ごとの到達目標
後期
3rdQ
1週 情報量を表す関数
情報源のモデル化
情報量を表す関数の性質について説明できる.
結合確率.条件付き確率.定常情報源について説明できる.
2週 記憶のある情報源 単純マルコフ情報源と多重マルコフ情報源について説明ができる.
3週 情報源の分布
極限分布
状態の分布.分布の遷移.遷移確率行列について説明できる.
極限分布を求めることができる
4週 エントロピー
拡大情報源
平均情報量.エントロピー関数について説明ができる
5週 通信システムのモデル
情報源符号化
通信システムのモデル,瞬時符号,特異符号,等長符号について説明ができる
6週 平均符号長
ハフマン符号化
平均符号長とエントロピー,コンパクト符号について説明できる
7週 ブロック符号化
通信路モデル
情報源記号を組み合わせによる確率分布が多様化,記憶のない定常通信路モデルについて説明ができる.
8週 中間試験 授業内容を理解し,試験問題に対して正しく解答できる.
4thQ
9週 試験返却・解答 試験問題を見直し,理解が不十分な点を解消する.
10週 通信路モデル 加法的2元通信路,記憶のある定常通信路モデル.バースト誤り通信路について説明ができる.
11週 通信路容量 通信路容量,通信の価値,相互情報量について説明ができる.
12週 通信路容量
通信路符号化
2元対称通信路の相互情報量,ハミング符号について説明ができる.
13週 パリティ検査
検査行列
符号化のための用語解説,ハミング符号の検査行列の生成方法について説明ができる.
14週 符号の誤り訂正 符号の誤り訂正能力について説明ができる.
15週 期末間試験 授業内容を理解し,試験問題に対して正しく解答できる.
16週 試験返却・解答 試験問題を見直し,理解が不十分な点を解消する.

モデルコアカリキュラムの学習内容と到達目標

分類分野学習内容学習内容の到達目標到達レベル授業週
専門的能力分野別の専門工学情報系分野情報数学・情報理論集合に関する基本的な概念を理解し、集合演算を実行できる。1後1
集合の間の関係(関数)に関する基本的な概念を説明できる。1後1
ブール代数に関する基本的な概念を説明できる。1後1
論理代数と述語論理に関する基本的な概念を説明できる。1後1
情報量の概念・定義を理解し、実際に計算することができる。3後1,後2,後3,後4,後5,後6,後7,後11,後12
情報源のモデルと情報源符号化について説明できる。3後2,後3,後5,後6,後7,後12,後14
通信路のモデルと通信路符号化について説明できる。3後5,後6,後7,後10,後11,後12,後13

評価割合

試験発表相互評価態度ポートフォリオその他合計
総合評価割合800010010100
基礎的能力60001001080
専門的能力200000020
分野横断的能力0000000