情報理論

科目基礎情報

学校 久留米工業高等専門学校 開講年度 令和03年度 (2021年度)
授業科目 情報理論
科目番号 5S10 科目区分 専門 / 必修
授業形態 講義 単位の種別と単位数 学修単位: 2
開設学科 制御情報工学科 対象学年 5
開設期 前期 週時間数 2
教科書/教材 教科書:三木成彦,吉川英機,情報理論(コロナ社)。参考書:映像情報メディア学会編,誤り訂正符号とその応用(オーム社)。今井秀樹,情報理論(昭晃堂)。平澤茂一,西島利尚,符号理論入門(培風館)。甘利俊一,情報理論(ちくま学芸文庫)
担当教員 黒木 祥光

到達目標

1.情報量の概念・定義を理解し,実際に計算することができる.
2.情報源のモデルと情報源符号化について説明できる.
3.通信路のモデルと通信路符号化について説明できる.

ルーブリック

理想的な到達レベルの目安標準的な到達レベルの目安未到達レベルの目安
評価項目1情報量の概念・定義を理解し,実際に計算することができる.情報量の計算をすることができる.情報量の概念・定義のみならず,計算を行うこともできない.
評価項目2情報源のモデルと情報源符号化について説明できる.情報源のモデルと情報源符号化について示すことができる.情報源のモデルと情報源符号化について示すこともできない.
評価項目3通信路のモデルと通信路符号化について説明できる.通信路のモデルと通信路符号化について示すことができる.通信路のモデルと通信路符号化について示すこともできない.

学科の到達目標項目との関係

JABEE C-1 説明 閉じる

教育方法等

概要:
情報理論は情報の伝達や蓄積を効率化,高信頼化するための基礎理論である.先ず情報量の定量化について学んだ後,出来るだけ短い符号にて情報を表現する方法およびその限界を表す情報源符号化に関する知識を習得する.引き続き,情報を伝送,蓄積する際に生じるビット誤りを,検出,訂正する手法およびその限界を表す通信路符号化に関する知識を習得する.
授業の進め方・方法:
授業は配布プリントおよびスライドにて説明を終えた後,学生の主体的な学習を促すため,数名の班に分かれて与えられた課題に取り組んでもらう.情報理論を理解するためには線形代数や確率統計のほか,群,環,体といった代数学の基礎知識がで必要あるため,特に代数学に関しては丁寧な説明を心掛けるつもりである.
本科目は学修単位であるため,授業では教科書の演習問題の解説を行わず,課題の一部として提出を義務付ける.各自,演習を通じて理解を深めておくこと.
注意点:
履修にあたり,数学,特に線形代数と確率統計の知識を必要とする.
評価方法の詳細
期末試験100%として評価する.
本科目は学修単位であるので,授業時間以外での学修が必要であり,毎回の授業ごとに課題として課す.
次回の授業までに提出すること.
未提出の課題がある学生は60点未満の評価とする.
評価基準:60点以上を修得とする.
再試験を行う.60点以上を合格(60点)とする.

授業の属性・履修上の区分

アクティブラーニング
ICT 利用
遠隔授業対応
実務経験のある教員による授業

授業計画

授業内容 週ごとの到達目標
前期
1stQ
1週 概要説明と確率統計の復習 条件付確率,結合確率などについて説明できる.
2週 エントロピーと情報量 エントロピーと情報量について説明できる.
3週 情報源符号の条件とハフマン符号 情報源符号の条件とハフマン符号について説明できる.
4週 情報源符号化定理 情報源符号化定理について説明できる.
5週 ランレングス符号・算術符号・ZL符号 ランレングス符号,算術符号,ZL符号について説明できるる.
6週 各種エントロピーとマルコフ過程 条件付エントロピー,結合エントロピー,相互情報量,マルコフ過程の定常確率とエントロピーについて説明できる.
7週 情報源符号化のまとめ 情報源符号化に関する演習若しくは中間試験
8週 通信路容量 通信路容量について説明できる.
2ndQ
9週 通信路符号化の考え方 平均誤り率と通信路符号化定理について説明できる.
10週 符号理論 線形符号の生成行列と検査行列について説明できる.
11週 線形符号における代数的性質 線形符号における群の性質,ならびに剰余類首とシンドロームの関係について説明できる.
12週 巡回符号 符号多項式を用いた巡回群について説明できる.
13週 巡回符号と拡大体 拡大体を用いた巡回符号の性質について説明できる.
14週 通信路符号化のまとめ 通信路符号化に関する演習
15週 学力到達確認 試験の答案を返却し,各自の学力到達状況を確認する.
16週

モデルコアカリキュラムの学習内容と到達目標

分類分野学習内容学習内容の到達目標到達レベル授業週
専門的能力分野別の専門工学情報系分野情報数学・情報理論情報量の概念・定義を理解し、実際に計算することができる。4前2
情報源のモデルと情報源符号化について説明できる。4前2,前3,前4
通信路のモデルと通信路符号化について説明できる。4前8,前9,前10,前11
その他の学習内容メディア情報の主要な表現形式や処理技法について説明できる。2

評価割合

試験発表相互評価態度ポートフォリオその他合計
総合評価割合10000000100
基礎的能力400000040
専門的能力500000050
分野横断的能力100000010