情報理論

科目基礎情報

学校 鶴岡工業高等専門学校 開講年度 令和05年度 (2023年度)
授業科目 情報理論
科目番号 0056 科目区分 専門 / 必修
授業形態 講義 単位の種別と単位数 学修単位: 2
開設学科 創造工学科(情報コース) 対象学年 4
開設期 前期 週時間数 2
教科書/教材 はじめての情報理論、森北出版、稲井 寛 、教材はパワーポイントを利用
担当教員 金 帝演

到達目標

情報量および情報源などの情報理論の基礎を理解し、その説明およびエントロピーの計算等が行えることである。そして、情報理論の基礎を理解し、通信路符号化について説明でき、誤り率等の計算ができ、線形符号の基礎を理解し、巡回符号などの設計ができることである。

ルーブリック

理想的な到達レベルの目安標準的な到達レベルの目安未到達レベルの目安
評価項目1情報量、エントロピーの意味するところを説明でき、値を計算できる。情報量、エントロピーの値を計算できる。情報量、エントロピーの値を計算できない。
評価項目2情報源符号化定理の意味を説明でき、ハフマン符号等を用いて情報源符号化ができる。ハフマン符号等を用いて情報源符号化ができる。ハフマン符号等を用いて情報源符号化ができない。
評価項目3通信路符号化定理の意味を説明でき、パリティ検査符号等の誤り検出・訂正符号の原理を説明できる。パリティ検査符号等の誤り検出・訂正符号の原理を説明できる。パリティ検査符号等の誤り検出・訂正符号の原理を説明できない。

学科の到達目標項目との関係

(D) 専門分野の知識と情報技術を身につける。 説明 閉じる

教育方法等

概要:
情報理論に関する基礎知識を取得させ、情報量、エントロピー、情報源、符号化・復号化、情報通信路、誤り検出・訂正、様々な符号などを学習する。そして、通信や情報ネットワーク上でこれらの活用について学ぶ。
この科目は学修単位科目のため、事前・事後学修として演習問題やレポート、オンラインテストを実施します。
授業の進め方・方法:
1.分かりやすい教科書やスライドの利用
2.演習問題、宿題を与え、理解度の確認
3.学んだ内容の復習や到達度を確認するため試験などの実施
注意点:

事前・事後学習、オフィスアワー

事前学習は教科書を読んできてください。
事後学習はパワーポイントを中心に教科書を参考にしながら理解度を確認してください。
オフィスアワー:いつでも良いですが、メールでアポイントメントをとって来研してください。

授業の属性・履修上の区分

アクティブラーニング
ICT 利用
遠隔授業対応
実務経験のある教員による授業

授業計画

授業内容 週ごとの到達目標
前期
1stQ
1週 ガイダンス、情報科学の歴史 シラバス、授業用パワーポイント、授業の進め方などについて説明する。情報科学の歴史について理解する。
2週 確率論の基礎 集合、試行、確率、平均と分散、条件付確率、マルコフ過程、ベイズの定理、命題論理について説明ができる。
3週 情報とは 情報とは何か、情報の定義と最小単位、シャノン理論のエッセンスについて理解する
4週 情報量 情報の価値、情報量、エントロピー、エントロピーの最小値と最大値について説明ができる。また、結合エントロピーと条件付きエントロピーについて説明ができる。
5週 情報源(情報源、無記憶情報源、マルコフ情報源、状態遷移、平均情報量、状態分布) 情報源、無記憶情報源、マルコフ情報源、状態遷移、平均情報量、状態分布について説明ができる。
6週 情報源(状態の分類(定常分布、時間平均分布、極限分布)、随伴情報源、一般的な情報源のエントロピー) 状態の分類、随伴情報源、一般的な情報源のエントロピーについて説明ができる。
7週 情報源のまとめ 情報源、無記憶情報源、マルコフ情報源、状態遷移、平均情報量、状態分布、状態の分類について復習する。
8週 中間試験
2ndQ
9週 情報源符号化(符号化とは、瞬時に複合可能であるための条件、クラフトの不等式、マクミランの不等式) 符号化とは、瞬時に複合可能であるための条件、クラフトの不等式、マクミランの不等式について説明ができる。
10週 情報源符号化(平均符号長、符号の効率と冗長度、コンパクト符号化、情報源符号化定理) 平均符号長、符号の効率と冗長度、コンパクト符号化、情報源符号化定理について説明ができる。
11週 通信路(通信路、事前エントロピーと事後エントロピー、相互情報量) 通信路、事前エントロピーと事後エントロピー、相互情報量について説明ができる。
12週 通信路(特徴のある通信路、通信路容量) 特徴のある通信路、通信路容量について説明ができる。
13週 通信路符号化(受信シンボルの判定)
受信シンボルの判定について説明ができる。
14週 通信路符号化(通信路符号化、ハミング距離、誤り検出・訂正の原理、通信路符号化定理) 通信路符号化、ハミング距離、誤り検出・訂正の原理、通信路符号化定理について説明ができる。
15週 期末試験
16週

モデルコアカリキュラムの学習内容と到達目標

分類分野学習内容学習内容の到達目標到達レベル授業週
専門的能力分野別の専門工学情報系分野情報数学・情報理論離散数学に関する知識をアルゴリズムの設計、解析に利用することができる。4
コンピュータ上での数値の表現方法が誤差に関係することを説明できる。4
コンピュータ上で数値計算を行う際に発生する誤差の影響を説明できる。4
コンピュータ向けの主要な数値計算アルゴリズムの概要や特徴を説明できる。4
情報量の概念・定義を理解し、実際に計算することができる。4
情報源のモデルと情報源符号化について説明できる。4
通信路のモデルと通信路符号化について説明できる。4
その他の学習内容基本的な暗号化技術について説明できる。4
基本的なアクセス制御技術について説明できる。4

評価割合

試験発表・宿題等課題態度ポートフォリオその他合計
総合評価割合80020000100
基礎的能力5001000060
専門的能力3001000040
分野横断的能力0000000