情報理論

科目基礎情報

学校 函館工業高等専門学校 開講年度 平成30年度 (2018年度)
授業科目 情報理論
科目番号 0429 科目区分 専門 / 必修
授業形態 授業 単位の種別と単位数 学修単位: 1
開設学科 生産システム工学科 対象学年 4
開設期 後期 週時間数 1
教科書/教材 情報理論 (三木成彦 吉川英機 著,コロナ社)/ 配布プリント
担当教員 倉山 めぐみ

到達目標

1. 情報量の概念・定義を理解し,実際に計算することができる.
2. 情報源のモデルと情報源符号化について説明できる.
3. 各種エントロピー,相互情報量を理解し,計算することができる.
4. 通信路のモデルと通信路符号化について説明できる.

ルーブリック

理想的な到達レベルの目安標準的な到達レベルの目安未到達レベルの目安
評価項目1さまざまな情報量・エントロピーを実際に計算することができる.授業で扱った情報量・エントロピーを実際に計算することができる.授業で扱った情報量・エントロピーを実際に計算することができない.
評価項目2情報源符号化について理解でき,さまざまな情報源符号を符号化できる.情報源符号化について理解でき,授業で扱った情報源符号を自力で符号化できる.情報源符号化について理解できず,授業で扱った情報源符号を自力で符号化できない.
評価項目3さまざまな各種エントロピー,相互情報量を計算することができる.授業で扱った各種エントロピー,相互情報量を計算することができる.授業で扱った各種エントロピー,相互情報量を計算することができない.
評価項目4通信路符号化定理を理解し,さまざまな通信路容量,平均誤り率の計算ができる.通信路符号化定理を理解し,授業で扱った通信路の通信路容量,平均誤り率の計算ができる.通信路符号化定理を理解し,授業で扱った通信路の通信路容量,平均誤り率の計算ができない.

学科の到達目標項目との関係

函館高専教育目標 B 説明 閉じる

教育方法等

概要:
情報理論は,情報伝達・蓄積の効率化・高信頼化に関する基礎知識であり,今日の情報化社会を支える基盤となっている.ここでは,数学的な内容に偏ることなく,例題及び問題演習を通して理論の本質を学習し,より実践的な情報理論に応用できる基礎知識を習得する.
授業の進め方・方法:
学習上の留意点
 確率、線形代数的な知識を必要とするため,各自復習しておくこと.
 特に,確率と対数計算は多用するので,必ずできるようにしておくこと.
 レポート課題は,授業内で行った演習課題等が基本となるため,授業へ積極的に参加してほしい.また,6回の課題を予定している.

関連する科目
基礎数学,微分積分,線形代数,確率・統計
注意点:
JABEE教育到達目標評価 定期試験70%(B-3),課題30%(B-3)

授業計画

授業内容 週ごとの到達目標
後期
3rdQ
1週 ガイダンス
通信システム,標本化定理と量子化
授業の進め方,評価方法を理解する.
通信システムのモデル,標本化定理・量子化を説明できる
2週 情報源モデル 情報源モデルが理解できる
3週 情報量,エントロピー 情報量,エントロピーが説明でき計算できる
4週 情報量,エントロピー 情報量,エントロピーが説明でき計算できる
5週 平均符号長,情報源符号化定理 符号化,平均符号長を理解できる
情報源符号化定理を理解できる
6週 ハフマン符号,ランレングス符号 ハフマン符号,ランレングス符号を作ることができる
7週 算術符号,ZL符号 算術符号,ZL符号を理解し作ることができる
8週 中間試験
4thQ
9週 中間試験解答返却・解答解説
結合エントロピー
試験問題の間違った箇所を理解できる
結合エントロピー,条件付きエントロピーが理解でき計算できる
10週 条件付きエントロピー 条件付きエントロピーが理解でき計算できる
11週 相互情報量,マルコフ情報源のエントロピー 相互情報量,マルコフ情報源のエントロピーが理解でき計算できる
12週 通信路のモデル 各種通信路を説明できる
13週 通信路容量,平均誤り率 各種通信路の通信路容量を求めることができ,平均誤り率を理解できる
14週 通信路符号化定理 通信路符号化定理を理解できる
15週 期末試験
16週 試験答案返却・解答解説 試験問題の間違った箇所を理解できる

モデルコアカリキュラムの学習内容と到達目標

分類分野学習内容学習内容の到達目標到達レベル授業週
専門的能力分野別の専門工学情報系分野情報数学・情報理論情報量の概念・定義を理解し、実際に計算することができる。4後3,後4,後9,後10,後11
情報源のモデルと情報源符号化について説明できる。4後2,後5,後6,後7
通信路のモデルと通信路符号化について説明できる。4後12,後13,後14

評価割合

試験課題合計
総合評価割合7030100
基礎的能力000
専門的能力7030100
分野横断的能力000