情報理論

科目基礎情報

学校 沼津工業高等専門学校 開講年度 平成29年度 (2017年度)
授業科目 情報理論
科目番号 0001 科目区分 専門 / 必修
授業形態 授業 単位の種別と単位数 学修単位: 1
開設学科 電気電子工学科 対象学年 5
開設期 前期 週時間数 1
教科書/教材 情報理論、三木成彦・吉川英機、コロナ社
担当教員 (E科 非常勤講師),佐藤 眞一

到達目標

1.情報量、エントロピーについて理解し、計算できる。
2.ハフマン符号について理解し、計算できる。
3.マルコフ情報源エントロピーについて理解し、計算できる。
4.通信路で発生する誤りを検出・訂正する原理を理解し、計算ができる。

ルーブリック

理想的な到達レベルの目安標準的な到達レベルの目安未到達レベルの目安
情報量、エントロピーについて理解し、計算できる
情報量、エントロピーについて理解し、計算できる
マルコフ情報源エントロピーについて理解し、計算できる
通信路で発生する誤りを検出・訂正する原理を理解し、計算ができる

学科の到達目標項目との関係

【本校学習・教育目標(本科のみ)】 2 説明 閉じる

教育方法等

概要:
 現在、情報化の波はあらゆるところに押し寄せてきており、特に、インターネットや携帯電話の普及はあらゆる分野に革命を起こしつつある。従って、情報と通信の基礎となっている「情報理論」はますます重要になってきており、社会は知的社会へと変化している。この授業では、話題をディジタル関係に絞り、シャノンが定義した情報の量り方・考え方を基本とし、情報の定量化と応用、効率の良い最適符号、雑音に強い符号化、誤り検出・訂正などについて講義する。
授業の進め方・方法:
講義と演習による授業を行う。
練習問題を解く事により、理解を深めるように努める。
宿題あるいは授業時に小テストを行い、知識の定着を図る。
注意点:
1.試験や課題レポート等は、JABEE 、大学評価・学位授与機構、文部科学省の教育実施検査に使用することがあります。
2.授業参観される教員は当該授業が行われる少なくとも1週間前に教科目担当教員へ連絡してください。

授業計画

授業内容 週ごとの到達目標
前期
1stQ
1週 授業概要 通信システムモデル、標本化定理
2週 確率論の基礎 条件付き確率、マルコフ過程、ベイズの定理
3週 情報量、エントロピー 情報量、エントロピー(平均情報量)の意味と計算方法
4週 冗長度、平均符号長(1) 無駄の程度の表現、平均符号長の定義、効率の良い符号化
5週 平均符号長(2) 一意復号可能な符号、瞬時符号、符号の木
6週 情報源符号化定理 拡大情報源、クラフトの不等式、均符号長の上限と下限
7週 ハフマン符号 ハフマン符号の作り方、ハフマン符号の平均符号長
8週 中間試験 到達度チェック
2ndQ
9週 各種符号 試験問題返却、問題の解説
ランレングス符号、算術符号、ZL符号
10週 結合、条件付エントロピー 情報源に結合、条件付き関係があるときのエントロピー
11週 マルコフ情報源エントロピー 過去に生起した情報に影響される情報源のエントロピー
12週 通信路容量、平均誤り率、情報速度 誤りのある通信路モデルでの通信路容量、平均誤り率、情報速度の計算法
13週 誤り検出と訂正 誤り検出・訂正の概念、パリティ検査符号
14週 線形符号 生成行列、検査行列、パリティ検査符号の関係
15週 期末試験 期末試験を実施する
16週 復習 試験問題返却、問題の解説、授業の総括

モデルコアカリキュラムの学習内容と到達目標

分類分野学習内容学習内容の到達目標到達レベル授業週

評価割合

試験宿題課題レポート態度ポートフォリオその他合計
総合評価割合75250000100
基礎的能力4515000060
専門的能力3010000040
分野横断的能力0000000