情報理論

科目基礎情報

学校 北九州工業高等専門学校 開講年度 2017
授業科目 情報理論
科目番号 0023 科目区分 専門 / 選択
授業形態 授業 単位の種別と単位数 学修単位: 2
開設学科 生産デザイン工学専攻 対象学年 専1
開設期 前期 週時間数 2
教科書/教材 電気・電子系教科書シリーズ22情報理論,三木成彦・吉川英機著,コロナ社
担当教員 秋本 髙明

到達目標

1. 情報量・エントロピーの概念・定義を理解し、実際に計算することができる。
2. 情報源のモデル化と情報源符号化について説明できる。
3. ハフマン符号、算術符号などの情報源符号化方法について理解できる。
4. 通信路のモデルと通信路符号化について説明できる。
5. パリティ符号、ハミング符号などの誤り検出・誤り訂正符号について理解できる。
6. 相互情報量、通信路容量について理解できる。

ルーブリック

理想的な到達レベルの目安標準的な到達レベルの目安未到達レベルの目安
評価項目1情報量,エントロピー,相互情報量,通信路容量について理解し,実際に計算できる情報量,エントロピー,相互情報量,通信路容量について理解できる情報量,エントロピー,相互情報量,通信路容量について理解していない
評価項目2情報源のモデルと情報源符号化について説明でき,ハフマン符号などで実際に符号を作ることができる情報源のモデルと情報げ符号化について説明できる情報源のモデルと情報源符号化について理解していない
評価項目3通信路のモデルと通信路符号化について説明でき,ハミング符号などで実際に符号を作ることができる通信路のモデルと通信路符号化について説明できる通信路のモデルと通信路符号化について理解していない

学科の到達目標項目との関係

教育方法等

概要:
現代社会において必要不可欠な技術である情報処理技術および情報通信技術の基礎理論である情報理論を学ぶ。1 つの情報の情報量や情報源から発信される情報の平均情報量といった情報の量を定量的に扱うための理論や、情報や情報源の性質と情報量との関係について学ぶ。さらに、様々な情報を効率よくデジタルデータで表現する技術である情報源符号化や、データ通信などにおいて通信の信頼性の向上や通信誤りの軽減を実現する技術である誤り検出符号・誤り訂正符号といった通信路符号化について学ぶ。
授業の進め方・方法:
教科書に沿って授業を進める。講義後に演習を実施し,授業内容を復習すると共に理解度を確認する。
注意点:
講義後に実施する演習は採点し,その点数は成績評価に含める.

授業計画

授業内容 週ごとの到達目標
前期
1stQ
1週 情報理論の概要
情報理論の概要,シャノンの通信システムのモデル,情報源のモデルについて説明できる
2週 情報量とエントロピー 情報量とエントロピーを理解し,計算できる.
3週 情報源符号 一意復号可能な符号、瞬時符号,平均符号長を理解できる
4週 情報源符号化定理 拡大情報源と情報源符号化定理について理解できる
5週 代表的な情報源符号 ハフマン符号を構成できる
6週 その他の情報源符号 算術符号を構成できる
7週 その他の情報源符号 ランレングス符号,ZL符号を理解できる
8週 中間試験 1~7週の内容を網羅した試験により,授業内容の理解の定着を図る
2ndQ
9週 通信路符号化 通信路符号化の目的を理解できる.最小ハミング距離と誤り検出,誤り訂正能力の関係について理解できる
10週 誤り訂正・誤り検出符号 単一パリティ検査符号,垂直水平検査符号などの簡単な通信路符号を理解し,構成できる
11週 ハミング符号 ハミング符号について理解し,簡単なハミング符号を構成できる
12週 巡回符号 巡回符号,CRCについて理解できる.
13週 相互情報量 結合エントロピー、条件付きエントロピー、相互情報量について理解し,計算できる
14週 通信路符号化定理 通信路容量と通信路符号化定理について理解できる
15週 期末試験 9~14週の内容を網羅した試験により,授業内容の理解の定着を図る
16週 期末試験の解説 期末試験の内容を理解する

モデルコアカリキュラムの学習内容と到達目標

分類分野学習内容学習内容の到達目標到達レベル授業週
専門的能力分野別の専門工学情報系分野情報数学・情報理論情報量の概念・定義を理解し、実際に計算することができる。3後5
情報源のモデルと情報源符号化について説明できる。3後12
通信路のモデルと通信路符号化について説明できる。3後14

評価割合

試験演習相互評価態度ポートフォリオその他合計
総合評価割合70300000100
基礎的能力0000000
専門的能力70300000100
分野横断的能力0000000