情報理論

科目基礎情報

学校 函館工業高等専門学校 開講年度 令和03年度 (2021年度)
授業科目 情報理論
科目番号 0132 科目区分 専門 / 必修
授業形態 授業 単位の種別と単位数 履修単位: 1
開設学科 生産システム工学科 対象学年 4
開設期 後期 週時間数 2
教科書/教材 情報理論 (三木成彦 吉川英機 著,コロナ社)/ 配布プリント
担当教員 倉山 めぐみ

到達目標

1. 情報量の概念・定義を理解し,実際に計算することができる.
2. 情報源のモデルと情報源符号化について説明できる.
3. 各種エントロピー,相互情報量を理解し,計算することができる.
4. 通信路のモデルと通信路符号化について説明できる.

ルーブリック

理想的な到達レベルの目安標準的な到達レベルの目安未到達レベルの目安
評価項目1さまざまな情報量・エントロピーを実際に計算することができる.授業で扱った情報量・エントロピーを実際に計算することができる.授業で扱った情報量・エントロピーを実際に計算することができない.
評価項目2情報源符号化について理解でき,さまざまな情報源符号を符号化できる.情報源符号化について理解でき,授業で扱った情報源符号を自力で符号化できる.情報源符号化について理解できず,授業で扱った情報源符号を自力で符号化できない.
評価項目3さまざまな各種エントロピー,相互情報量を計算することができる.授業で扱った各種エントロピー,相互情報量を計算することができる.授業で扱った各種エントロピー,相互情報量を計算することができない.
評価項目4通信路符号化定理を理解し,さまざまな通信路容量,平均誤り率の計算ができる.通信路符号化定理を理解し,授業で扱った通信路の通信路容量,平均誤り率の計算ができる.通信路符号化定理を理解し,授業で扱った通信路の通信路容量,平均誤り率の計算ができない.

学科の到達目標項目との関係

函館高専教育目標 B 説明 閉じる

教育方法等

概要:
情報理論は,情報伝達・蓄積の効率化・高信頼化に関する基礎知識であり,今日の情報化社会を支える基盤となっている.ここでは,数学的な内容に偏ることなく,例題及び問題演習を通して理論の本質を学習し,より実践的な情報理論に応用できる基礎知識を習得する.
授業の進め方・方法:
学習上の留意点
・ 確率,線形代数的な知識を必要とするため,各自復習しておくこと.
・ 特に,確率と対数計算は多用するので,必ずできるようにしておくこと.
・ 授業では,板書時間を削減するため,プリントを利用するが,計算するための用紙を各自で用意すること.
・ レポート課題は,授業内で行った演習課題等が基本となるため,授業へ積極的に参加してほしい.

関連する科目
基礎数学,微分積分,線形代数,確率・統計
注意点:
評価 定期試験40%(B),小テスト40%(B), 課題20%(B)
定期試験は,期末試験1回のみの実施とし,再試験は行わず,追試験のみ実施する.
小テストは,全体で4回実施し,再試験を行う.
課題は,年5回を予定している.提出されていない場合は,小テストの再試験を受けられないなどの措置をとる場合がある.

授業の属性・履修上の区分

アクティブラーニング
ICT 利用
遠隔授業対応
実務経験のある教員による授業

授業計画

授業内容 週ごとの到達目標
後期
3rdQ
1週 ガイダンス
通信システム,標本化定理と量子化
授業の進め方,評価方法を理解する.
通信システムのモデル,標本化定理・量子化を説明できる
2週 情報源モデル 情報源モデルが理解できる
3週 情報量,エントロピー 情報量,エントロピーが説明でき計算できる
4週 平均符号長,情報源符号化定理 符号化,平均符号長を理解できる
情報源符号化定理を理解できる
5週 小テスト① 1・2章についての小テスト
6週 ハフマン符号,ランレングス符号 ハフマン符号,ランレングス符号を作ることができる
7週 算術符号,ZL符号 算術符号,ZL符号を理解し作ることができる
8週 小テスト② 3章についての小テスト
4thQ
9週 結合エントロピー 結合エントロピー,条件付きエントロピーが理解でき計算できる
10週 条件付きエントロピー 条件付きエントロピーが理解でき計算できる
11週 相互情報量,マルコフ情報源のエントロピー 相互情報量,マルコフ情報源のエントロピーが理解でき計算できる
12週 小テスト③
通信路のモデル
4章についての小テスト
各種通信路を説明できる
13週 通信路容量,平均誤り率
通信路符号化定理
各種通信路の通信路容量を求めることができ,平均誤り率を理解できる
通信路符号化定理を理解できる
14週 小テスト④ 5章についての小テスト
15週 期末試験 情報理論全範囲
16週 試験答案返却・解答解説 試験問題の間違った箇所を理解できる

モデルコアカリキュラムの学習内容と到達目標

分類分野学習内容学習内容の到達目標到達レベル授業週
専門的能力分野別の専門工学情報系分野情報数学・情報理論情報量の概念・定義を理解し、実際に計算することができる。4後3,後4,後9,後10,後11
情報源のモデルと情報源符号化について説明できる。4後2,後5,後6,後7
通信路のモデルと通信路符号化について説明できる。4後12,後13,後14

評価割合

試験課題小テスト合計
総合評価割合402040100
基礎的能力0000
専門的能力402040100
分野横断的能力0000