情報理論

科目基礎情報

学校 石川工業高等専門学校 開講年度 令和03年度 (2021年度)
授業科目 情報理論
科目番号 20333 科目区分 専門 / 必修
授業形態 講義 単位の種別と単位数 履修単位: 2
開設学科 電子情報工学科 対象学年 4
開設期 通年 週時間数 2
教科書/教材 塩野 充、「わかりやすいディジタル情報理論」、オーム社
担当教員 川除 佳和

到達目標

1.確率の基礎を理解し、計算できること。
2.条件付き確率とベイズの定理を理解し、計算できること。
3.情報量とエントロピーについて理解し、計算できること。
4.相互情報量について理解し、計算できること。
5.情報源のモデルを理解し、説明できること。
6.マルコフ情報源を理解し、計算できること。
7.通信路のモデルを理解し、説明できること。
8.通信路容量について理解し、計算できること。
9.情報源符号化について理解し、計算できること。

ルーブリック

理想的な到達レベルの目安標準的な到達レベルの目安未到達レベルの目安
到達目標 項目 1、2、3、4情報量の概念・定義を理解したうで各種符号化手法を説明できる。情報量の概念・定義、および、符号化の基本的な概念を説明できる。情報量の概念・定義、および、符号化の基本的な概念を説明できない。
到達目標 項目 5、6、7情報源と通信路のモデルを理解したうえで、各モデルを説明できる。情報源と通信路のモデルを説明できる。情報源と通信路のモデルを説明できない。
到達目標 項目 8、9通信路容量および情報源符号化における各種符号化手法を理解した上で、説明できる。通信路容量および情報源符号化における各種符号化手法を説明できる。通信路容量および情報源符号化における各種符号化手法を説明できない。

学科の到達目標項目との関係

本科学習目標 1 説明 閉じる
本科学習目標 2 説明 閉じる
創造工学プログラム A1 説明 閉じる
創造工学プログラム B1専門(電気電子工学&情報工学) 説明 閉じる

教育方法等

概要:
今日の情報化社会の根幹は、情報の伝達、蓄積、処理の技術に支えられている。我々は日々多くの情報に接しているにも関わらず、情報の量や価値、またその伝達方法について考える機会は少ない。本授業では、情報量の定義から出発し、情報の発生源(情報源)と通信路のモデル化、さらに情報の伝達・蓄積における効率化(情報源符号化)と高信頼化(通信路符号化)について、電子・情報・通信分野の根幹をなす情報理論を体系的に学ぶ。
授業の進め方・方法:
授業内容の理解を深め、かつ、到達目標の達成度を確認するため、演習または宿題を課します。
【関連科目】確率・統計Ⅰ、基礎数学
【MCC対応】Ⅴ-D-7 情報数学・情報理論
注意点:
授業中にその内容を理解することが最も重要です。「説明を聞いてその場で理解する能力」はいろいろな局面で非常に重要な能力であり,授業はそのような能力を訓練する絶好の機会です。自分で問題を解くことも理解を深める効果的な方法です。演習や宿題を課しますので,積極的に演習問題に取り組み,理解するように努力してください。授業で理解できなかったところは復習し,次の講義までに理解をすることが重要です。
【評価方法・評価基準】
前期中間試験、前期末試験、後期中間試験、学年末試験を実施する。成績の評価基準として60点以上を合格とする。
前期末評価:中間試験(40%)、期末試験(40%),課題(20%)
後期末評価:中間試験(40%)、学年末試験(40%),課題(20%)
学年末評価:前期末評価(50%)、後期末評価(50%)

テスト

授業の属性・履修上の区分

アクティブラーニング
ICT 利用
遠隔授業対応
実務経験のある教員による授業

授業計画

授業内容 週ごとの到達目標
前期
1stQ
1週 ディジタル情報理論の概要 情報理論の概念について理解し、説明できる。
2週 確率論の基礎知識 情報を確率的に扱う方法について基礎的な数学的記法を理解し、説明できる。
3週 確率論の様々な定理(1) 確率論の様々な定理について理解し、説明できる。
4週 確率論の様々な定理(2) 確率論の様々な定理をつかって計算ができる。
5週 条件付き確率(1) 条件付き確率を理解し、説明できる。
6週 条件付き確率(2) 条件付き確率を使った計算ができる。
7週 ベイズの定理(1) ベイズの定理を理解し、説明できる。
8週 ベイズの定理(2) ベイズの定理を使った計算ができる。
2ndQ
9週 情報量(1) 情報量の概念・定義を理解し、説明できる。
10週 情報量(2) 情報量の計算ができる。
11週 エントロピー エントロピー(平均情報量)の基本的な概念を説明できる。
12週 相互情報量 相互情報量の基本的な概念を説明できる。
13週 情報源のモデル 情報源のモデルに関する基本的な概念を説明できる。
14週 マルコフ情報源 情報源のモデル化に関する基本的な概念を説明できる。
15週 前期復習
16週
後期
3rdQ
1週 通信路のモデル(1) 通信路のモデルに関する基本的な概念を説明できる。
2週 通信路のモデル(2) 様々な通信路のモデルがあることを理解し、説明できる。
3週 通信路線図 通信路のモデルを表す通信路線図を描くことができる。
4週 伝送情報量(1) 伝送情報量の概念を理解し、説明できる。
5週 伝送情報量(2) 様々な通信路のモデルから伝送情報量を計算できる。
6週 通信路容量(1) 通信路容量の概念を理解し、説明できる。
7週 通信路容量(2) 通信路容量の計算ができる。
8週 通信路容量(3) 通信路容量の計算ができる。
4thQ
9週 情報源符号化 情報源符号化の概要について理解し、説明できる。
10週 平均符号長 平均符号長の概念を理解し、計算できる。
11週 符号のクラスと符号木 符号のクラスの概念、符号木の意味を理解するとともに、実際に符号から符号木を描くことができる。
12週 シャノンの符号化、ファノ符号化 シャノンの符号化法およびファノの符号化法を理解し、符号を構成できる。
13週 符号化効率と拡大情報源 符号化効率の計算ができるとともに、拡大情報源の概要を理解し、計算できる。
14週 ハフマン符号化とハフマンブロック符号化 ハフマン符号化および拡大情報源に対するハフマンブロック符号を構成できる。
15週 後期復習
16週

モデルコアカリキュラムの学習内容と到達目標

分類分野学習内容学習内容の到達目標到達レベル授業週
専門的能力分野別の専門工学情報系分野情報数学・情報理論情報量の概念・定義を理解し、実際に計算することができる。4
情報源のモデルと情報源符号化について説明できる。4
通信路のモデルと通信路符号化について説明できる。4

評価割合

試験課題合計
総合評価割合8020100
基礎的能力000
専門的能力8020100
分野横断的能力000