情報理論

科目基礎情報

学校 北九州工業高等専門学校 開講年度 令和06年度 (2024年度)
授業科目 情報理論
科目番号 1205 科目区分 専門 / 選択
授業形態 授業 単位の種別と単位数 学修単位: 2
開設学科 生産デザイン工学専攻(連携プログラム) 対象学年 専1
開設期 前期 週時間数 2
教科書/教材 電気・電子系教科書シリーズ22情報理論,三木成彦・吉川英機著,コロナ社
担当教員 秋本 髙明

到達目標

1. 情報量・エントロピーの概念・定義を理解し、実際に計算することができる。
2. 情報源のモデルと情報源符号化について説明でき、情報を効率よく符号化する基本的な手法を理解できる。
3. 通信路のモデルと通信路符号化について説明でき、基本的な誤り検出符号、誤り訂正符号を理解できる。

ルーブリック

理想的な到達レベルの目安標準的な到達レベルの目安未到達レベルの目安
評価項目1情報量とエントロピーについて理解し,実際に計算できる情報量とエントロピーについて理解できる情報量とエントロピーについて理解していない
評価項目2情報源のモデルと情報源符号化について説明でき,実際に符号を作ることができる情報源のモデルと情報げ符号化について説明できる情報源のモデルと情報源符号化について理解していない
評価項目3通信路のモデルと通信路符号化について説明でき,実際に符号を作ることができる通信路のモデルと通信路符号化について説明できる通信路のモデルと通信路符号化について理解していない

学科の到達目標項目との関係

教育方法等

概要:
今日の情報化社会を支える技術基盤は、情報を効率的よくデータ化する技術、データ化された情報を誤りなく伝達・蓄積する技術、データを高速処理する技術などによって成り立っている。本授業では、これらの技術基盤である情報理論の基礎を学習する. 具体的には, 情報量、情報源のエントロピー、情報の効率的な符号化手法などを学ぶ。
授業の進め方・方法:
教科書を用いて考え方を理解できるように詳しく説明した後に、例題と演習問題を解くことによって理解を深める。
注意点:

授業の属性・履修上の区分

アクティブラーニング
ICT 利用
遠隔授業対応
実務経験のある教員による授業

授業計画

授業内容 週ごとの到達目標
前期
1stQ
1週 情報理論の概要 情報理論とは何かを理解できる
シャノンの通信システムのモデルを説明できる
2週 情報源のモデル、情報量とエントロピー
情報源のモデル、情報量、エントロピーを理解し,計算できる
3週 通信システムのモデル、2元情報源 シャノンの通信システムのモデル、2元情報源について理解できる
4週 情報源符号化、ハフマン符号 一意復号可能な符号、瞬時符号、ハフマン符号について理解でき、符号をつくることができる
5週 拡大情報源、情報源符号化定理 平均符号長と平均情報量の関係、情報源符号化定理について理解できる
6週 その他の情報源符号化方法 算術符号化法、シャノンファノ符号化法、Lempel-Ziv法、ランレングス法について理解できる
7週 通信路符号化 通信路符号の概要、ハミング距離、最小ハミング距離
と誤り検出能力・誤り訂正能力について理解でき、符号の誤り検出能力、訂正能力を求めることができる
単一パリティ検査符号
8週 通信路符号化方法 簡単な通信路符号化法である単一パリティ検査符号、垂直水平パリティ検査符号について理解でき、符号をつくることができる
2ndQ
9週 組織符号、線形符号 通信路符号における組織符号、線形符号とは何かを理解できる
10週 ハミング符号 代表的な誤り訂正符号であるハミング符号について理解でき、符号をつくることができる
11週 巡回符号(2元系列の多項式表現) 2を法とする演算、2元系列の多項式表現を理解できる
12週 巡回符号、CRC 代表的な誤り検出符号である巡回符号やCRCを理解できる
13週 結合エントロピー、条件付きエントロピー、相互情報量 結合エントロピー、条件付きエントロピー、相互情報量について理解でき、計算することができる
14週 通信路容量、通信路符号化定理 通信路容量、通信路容量と情報速度の関係、通信路符号化定理について理解でき、2元通信路の通信路容量を求めることができる
15週 定期試験 これまでの講義内容を網羅した試験により,授業内容の理解の定着を図る
16週 定期試験内容についての解説 定期試験の内容を理解する

モデルコアカリキュラムの学習内容と到達目標

分類分野学習内容学習内容の到達目標到達レベル授業週
専門的能力分野別の専門工学情報系分野情報数学・情報理論情報量の概念・定義を理解し、実際に計算することができる。3後5
情報源のモデルと情報源符号化について説明できる。3後12
通信路のモデルと通信路符号化について説明できる。3後14

評価割合

試験演習合計
総合評価割合70300000100
基礎的能力0000000
専門的能力70300000100
分野横断的能力0000000