情報理論

科目基礎情報

学校 豊田工業高等専門学校 開講年度 令和04年度 (2022年度)
授業科目 情報理論
科目番号 35212 科目区分 専門 / 選択
授業形態 講義 単位の種別と単位数 学修単位: 2
開設学科 情報工学科 対象学年 5
開設期 後期 週時間数 2
教科書/教材 情報理論 ―基礎から応用まで―、中川 聖一、近代科学社 ISBN:978-4764903890
担当教員 山本 一公

到達目標

(ア)情報理論と現在使われているコンピュータや通信技術との関係を説明できる。
(イ)情報量・情報エントロピーといった情報理論の基本的概念を理解し,それを基礎として情報源符号化定理,通信路符号化定理までの諸理論を一連の流れとして理解し,説明できる。
(ウ)通信技術を,電気・電波やハードウェア技術からはなれ,その本質を抽象的に説明できる。

ルーブリック

最低限の到達レベルの目安(優)最低限の到達レベルの目安(良)最低限の到達レベルの目安(可)
評価項目(ア)最新ディジタル技術と情報理論の複数の内容との関係を関連づけて説明できる。最新ディジタル技術と情報理論の複数の内容との関係を説明できる。最新ディジタル技術と情報理論の内容との関係を一つ説明できる。
評価項目(イ)情報理論の全体を一連の流れとして説明できる。情報理論の全体を関連付けられない複数の流れとして説明できる。情報理論の全体を断片的に説明できる。
評価項目(ウ)情報と通信の本質とはなにか,ハードウェアから離れて,抽象化した説明ができる。また,その抽象論と実際の技術との対応も明確に理解している。情報と通信の本質とはなにか,ハードウェアから離れて,抽象化した説明ができる。その抽象論と実際の技術との対応は一部,明確ではない。情報と通信の本質とはなにか,ハードウェアから離れて,抽象化した説明ができる。その抽象論と実際の技術との対応は明確ではない。

学科の到達目標項目との関係

学習・教育到達度目標 A3 コンピュータネットワークの動作を通信理論の観点から数理的に解析できる.
JABEE d 当該分野において必要とされる専門的知識とそれらを応用する能力
本校教育目標 ② 基礎学力

教育方法等

概要:
「情報理論」とは聞き慣れない言葉だと思いますが、現代のコンピュータ技術と通信技術はこれ無しには始まらない重要な理論です。その内容は非常に抽象的で、確率を初めとした各種の理論を駆使して情報や通信について本質を追求する学問になります。そのため、少し難しいと感じられる側面もあると思いますが、同時に、それは数学に裏打ちされた美しい抽象思考の世界でもあります。本講義では、それらの抽象的な理論の導出から、それらの意味・意義、そして現代の最新技術との関係と位置付けを明らかにしながら、情報理論の総合的理解を目指します。
授業の進め方・方法:
情報理論は、それ自体は数学に基づく極めて抽象的な理論です。つまり、現在使われているコンピュータや通信と情報理論の関係は、それ自体からはわかりにくいものとなっています。そこで授業では、音声・言語情報処理や画像情報処理といった最新のメディア処理技術や通信技術と情報理論、さらには情報理論と社会との関係にも触れながら、世の中全体の中での情報理論の位置付けを明らかにして進めていきます。
注意点:
情報理論の理解は簡単ではありません。予習・復習を必ず行って、「何がわからないのかわかっている」「どこがわからないのかわかる」ようにして授業に臨んでください。課題がわからない場合は放置せず、質問して解決することを心掛けてください。また、欠席はもとより遅刻するとわからなくなってしまいますので、そうしたことがないよう注意してください。

選択必修の種別・旧カリ科目名

授業の属性・履修上の区分

アクティブラーニング
ICT 利用
遠隔授業対応
実務経験のある教員による授業
必履修

授業計画

授業内容 週ごとの到達目標
後期
3rdQ
1週 ディジタル通信の概観(自学自習内容:知っているディジタル通信技術を挙げ、アナログ技術と比較する) ディジタル通信技術の全体を概観し、情報理論の位置付けと目的を説明できる。
2週 情報量とエントロピーの理論(自学自習内容:身の回りの情報の例を挙げ、その情報量を検討する) 情報量の概念を、確率を通して説明できる。
3週 無記憶情報源とマルコフ情報源(自学自習内容:身の回りの情報源の例を挙げ、マルコフ情報源としてモデル化する) 「記憶のない情報源」とマルコフ情報源を説明できる。
4週 情報源符号化の概念(自学自習内容:ASCIIコードをはじめパソコンで使われている符号の特徴を調べる) 離散情報源の符号化の概念と目指すことを説明できる。
5週 情報源符号化定理(自学自習内容:情報源符号化の導出の概要をまとめる) 情報源符号化定理とその導出を説明できる。
6週 情報源符号化の例(自学自習内容:ハフマン符号を構成し、情報源の拡大によって情報源符号の平均符号長が短くなることを確認する) いくつかの基本的な情報源符号を構成できる。
7週 中間試験
8週 通信路の理論(自学自習内容:数学の確率統計の教科書を見て条件付き確率およびベイズの定理について確認する) 確率を用いた通信路のモデル化について説明できる。
4thQ
9週 通信路容量(自学自習内容:) 通信路容量の概念を理解し、情報理論における通信路の意味を説明できる。
10週 通信路符号化定理(自学自習内容:通信路符号化の導出の概要をまとめる) 通信路符号化定理とその導出を説明できる。
11週 通信路符号の基礎(自学自習内容:誤り検出・訂正符号を「誤りの球」を書いて確認する。) 誤り検出・訂正符号の全体像を説明できる。
12週 通信路符号の例(自学自習内容:様々な生成多項式で巡回符号を構成してみる) 巡回符号を説明できる。
13週 標本化定理(自学自習内容:パソコンのオーディオのサンプリング周波数を調べ、どの最高周波数まで録音されているか調べる) 標本化定理と、デジタルシステムへの適用方法を説明できる。
14週 情報理論の応用(自学自習内容:自らの卒業研究の内容と情報理論の関わりについて考えをまとめる) メディア情報処理と情報理論の関わりについて説明できる。
15週 総まとめ
16週

モデルコアカリキュラムの学習内容と到達目標

分類分野学習内容学習内容の到達目標到達レベル授業週
基礎的能力数学数学数学1次元のデータを整理して、平均・分散・標準偏差を求めることができる。3
2次元のデータを整理して散布図を作成し、相関係数・回帰直線を求めることができる。3
専門的能力分野別の専門工学情報系分野情報数学・情報理論情報量の概念・定義を理解し、実際に計算することができる。4後2
情報源のモデルと情報源符号化について説明できる。4後4,後5,後6
通信路のモデルと通信路符号化について説明できる。4後8,後9,後10,後11,後12
その他の学習内容情報を離散化する際に必要な技術ならびに生じる現象について説明できる。3

評価割合

中間試験定期試験課題合計
総合評価割合305020100
専門的能力305020100