土曜セミナーのページ

土曜セミナー

電気通信大学の情報理論研究者が中心となって，不定期に土曜セミナーなるものを開催しております．セミナー後は参加者を囲んで，懇親会を通して交流を図っております．土曜セミナーに関するご質問等は八木までご連絡ください．

世話人：大濱靖匡
八木秀樹

　　　　　〜　第１５回開催のご案内　〜　
日時：２０２３年１０月２１日（土）13:30から　　　　　　　　　　
場所：電気通信大学　西１０号館２階大会議室（学内マップ56番の建物）
https://www.uec.ac.jp/about/profile/access/
今回の発表者：長岡浩司さん（電気通信大学）　　　

セミナー題目：情報と幾何学 --- 私の学問的遍歴について

概要：講演者はこれまで情報幾何学や量子情報理論を中心に研究者生活を送って来ましたが、現在の学問的関心がどのように形成されていったのか、
自分でもよくわからないところがあります。数年前の大学退職時に最終講義をさぼってしまったので、この機会に自分の学問的遍歴を辿り、
自分が何を目指してきたのかを考えてみたいと思います。具体的には、以下のような話題についてお話しする予定です。
・学生時代の関心と時代的背景
・情報幾何との出会いと再会
・理学、工学、数学、数理科学、数理工学、etc.
・情報理論の素人として
・物理学的な問題意識
・その他

第１５回のセミナーの写真

過去のセミナー情報

第１回（2014年6月21日）
講演者：岩本貢さん
セミナー題目：使い捨て暗号と秘密分散法の違い
概要：秘密分散法は使い捨て暗号（ワンタイムパッド）の一つの拡張と捉えることが出来る．特に，シェアが２つしかない（２，２）しきい値秘密分散法は，片方のシェアを秘密鍵，もう片方を暗号文と考えることで使い捨て暗号と見なすことが出来る．しかし，平文の確率分布に制限がある状況や，完全秘匿とは安全性規準が異なる状況では，秘密分散法で実現できることが使い捨て暗号では実現できない場合がある．今回の土曜ゼミでは，簡単な例をもとに，使い捨て暗号と秘密分散法の違いについて考えたい．

第２回（2014年9月4日）
講演者：有村光晴さん
セミナー題目：Multishot Tunstall 符号の符号化レートの評価
概要：定常無記憶情報源に対するmultishot Tunstall符号の符号化レートを評価する． Tunstall符号は可変長のブロック集合を固定長の符号語集合に符号化するVFデータ圧縮アルゴリズムである．従来VF符号の平均符号化レートを評価する際には，固定長の符号語長をブロック長の期待値で割った物が用いられてきた．これに対し発表者は以前，oneshot Tunstall符号において，個別符号化レートの期待値を取ったものを平均符号化レートとして評価し，これが定常無記憶情報源のエントロピーに収束することを示した．本発表では，この解析を情報源系列から複数のブロックを切り出して符号化するmultishot Tunstall符号に拡張し，ある条件の下で発表者の定義する平均符号化レートが定常無記憶情報源のエントロピーに収束することを示す．この解析においては，Tunstall木のデカルト連結(Cartesian concatenation)と葉の数に対する幾何平均が重要な性質となる．

第３回（2015年1月24日）
講演者：韓太舜さん
セミナー題目：Second-order information theory and information spectrum analysis

第３回のセミナーの写真

第４回（2015年7月11日）
発表者：古賀弘樹さん
セミナー題目：敵対者が存在する秘密分散法の多数決に基づく復号とその性能解析
概要：(k,n)しきい値法では，１つの秘密情報をシェアと呼ばれる n 個の分散情報に符号化する．秘密情報は k 個以上の任意のシェアから復元され，また，k個未満の任意のシェアの集合からは秘密情報が一切漏れない．本研究では，この(k,n)しきい値法の枠組みにおいて，復号時に c 個の不正なシェアが混在する状況を考える．特に我々が興味をもつのは c ≧ kの場合である．本発表では，ある種の多数決論理を用いて秘密情報を n 個すべてのシェアから復号する場合に，任意に改ざんされたc個のシェアの存在のもとでも，ある条件のもとで秘密情報が１に近い確率で復元されることを示す．解析で用いる手法は認証符号の基本的な性能評価にも適用可能であり，本発表ではその一端にも触れてみたい．

第５回（2015年11月7日）
発表者：小川朋宏さん
セミナー題目：古典系および量子系における状態識別とレニー・ダイバージェンス
概要：古典単純仮説検定における Han-Kobayashiの強逆指数[1]と Nakagawa-Kanayaの解析を題材にして，Renyi divergence（Renyi相対エントロピー）とCramerの定理が情報理論において果たす役割について考察したい．情報理論においては，タイプ理論の全盛もあって，長らくSanovの定理とKL divergenceが中心的な役割を果たしてきた．一方で，情報スペクトル理論や量子情報理論に見られるように，定常無記憶の舞台から離れると，タイプ理論を適用するよりCramerの定理やGaltner-Ellisの定理に訴える方が簡明な議論が得られることが認識されつつあるように思う．また，Renyi divergenceは実数パラメータαを含む情報量で，αを変えていくと下記の通り様々な重要な情報量が得られる．
α=1/2 : fiedelity (affinity, Hellinger distance)
α=1: Kulback-Leibler divergence
α=2: collision relative entropy
α=∞: max-relative entropy (min-entropyの相対版)
本発表では，これらの情報量が Cramerの定理を通して単純仮説検定の誤り指数や強逆指数の表現として現れる様子について述べる．後半では，量子系の簡単な解説の後，Renyi divergenceにまつわる最近の量子情報理論の発展について述べる．

第６回（2016年5月14日）
発表者：渡辺峻さん（東京農工大学）
セミナー題目：Tilted Information Densityと二次オーダ漸近解析
概要：本講演ではいくつかの符号化問題の二次オーダ漸近解析について議論する．二次オーダ漸近解析を行う際，二次の係数はその問題固有の information densityの分散で与えられることが多い．例えば，無歪情報源符号化問題の場合，二次の係数はentropy density (対数尤度)の分散によって与えられることは最近ではよく知られている．しかしながら，より複雑な問題に対してはどのようなinformation densityを考えればよいかは自明ではない．Kostina-Verduはレート歪問題において，D- tilted information densityを導入し，二次の係数がD-tilted information densityの分散によって与えられることを示した．本講演では，最も基本的な無歪情報源符号化問題のentropy densityの性質から始め，Kostina-Verduによって示されたD-tilted information densityの様々な性質について解説する．また，Ingber-Kochmanによって導入された，タイプ理論を用いた二次オーダ漸近解析の導出法についても解説する．最後に時間があれば，tilted information densityと二次オーダ漸近解析の多端子符号化問題への拡張についても紹介する．

第７回（2016年11月19日）
発表者：八木秀樹さん（電気通信大学）
セミナー題目：通信路 Resolvability の一般公式
概要：一様乱数を変換して与えられた通信路の出力確率分布を近似する際に，必要となる乱数サイズのレート (resolvability レート) の最小値を求める問題は(固定長)『通信路 resolvability 問題』と呼ばれる．最少 resolvabilityレートを解析することは，同定符号の通信路容量の解析や盗聴通信路における強安全性の保障につながり，重要な課題として認知されている．一方，一般通信路に対する最少 resolvability レートの公式は，特別な場合を除いて知られていない．本発表では，分布間の変動距離を近似精度の尺度としたもとで，与えられた一般情報源と一般通信路の組に対する最少 resolvabilityレートの一般公式を導出する．
通信路が恒等写像となる特別な場合には，この問題は与えられた情報源をできるだけ小さいサイズの一様乱数で近似する『情報源resolvability 問題』に帰着される．通信路 resolvability レートの一般公式から，一般情報源に対する情報スペクトル的量の別表現が得られることを示す．また，複数の通信路の集合（複合通信路）が与えられたもとで全ての通信路からの出力分布を近似する複合通信路 resolvability 問題や，通信路resolvability の強逆性等に関する話題についても，時間が許す範囲で紹介する．

第８回（2017年2月24日）
発表者：林正人さん（名古屋大学）
セミナー題目：量子系・古典系におけるpopulation coding の情報圧縮
概要：脳科学においては、神経回路網における情報表現は、population codingとよばれる方法で符号化がなされていると考えられている。このような情報表現は、１つの情報を表現するために重複してニューロンを用いるため、情報理論で普通に考えられる符号化と比較すると大変冗長な表現であるとみなすことができる。しかし、様々な物理媒体を用いて情報を伝達する場合、量子レベルで見ると複数の物理素子を用いて１つの情報を表現しており、 population codingと類似の手法で情報が表現されている。
本研究では、population codingの中でも最も基本的な場合である、独立同一分布によって情報が表現されている場合に注目し、このような形式で情報が符号化された場合での情報源圧縮について議論する。この問題設定は、統計学で議論される十分統計量を一般化した設定になっている。より正確には、メモリサイズを考慮した漸近十分性に関する議論とみなすことができる。本発表では、これまで講演者が得た古典系・量子系でのpopulation codingの情報圧縮に関する成果について議論する。特に、このような量子系での情報の場合、どれだけの量子性が現れているか議論する。

[1] Y. Yang, G. Chiribella and M. Hayashi,“Optimal compression for identically prepared qubit states,” Physical Review Letters, vol. 117, 090502 (2016)
[2] Masahito Hayashi, Vincent Y. F. Tan, “Minimum Rates of Approximate Sufficient Statistics,” arXiv:1612.02542
[3] Yuxiang Yang, Ge Bai, Giulio Chiribella, Masahito Hayashi, “Compression for quantum population coding,” arXiv:1701.03372

第９回（2017年7月29日）
発表者：小林欣吾さん（電気通信大学）
セミナー題目：パスの数え上げ散歩

第１０回（2017年7月29日）
発表者：中川健治さん（長岡科学技術大学）
セミナー題目：ダイバージェンス幾何に基づく通信路容量の計算法に関する研究
概要：離散的無記憶通信路の通信路容量を計算する代表的な２つの方法として，Murogaによる直接計算法と
Arimotoによる逐次計算法がある。本研究では，これらの２つの方法について，Kullback-Leiblerダイバージェンスの
持つ幾何的な性質に基づいて考察する。Murogaに関しては，ダイバージェンス幾何とユークリッド幾何の類似性に
注目して新しい計算アルゴリズムを得る。また，Arimotoに関しては，通信路行列の行ベクトルの幾何的配置に
基づいてArimotoアルゴリズムの収束速度を明らかにする。

第１１回（2018年11月17日）
発表者：Vincent Tanさん、Lei Yuさん、Lin Zhouさん（シンガポール国立大学）
セミナー題目：Third-order asymptotics for discrete and Gaussian channels with and without feedback (Vincent Tan)
https://ieeexplore.ieee.org/document/7056434 (joint work with M. Tomamichel)
https://ieeexplore.ieee.org/document/6572802 (joint work with M. Tomamichel)
https://ieeexplore.ieee.org/document/8012458 (joint work with S. L. Fong)
セミナー題目：Common Information Problems (Lei Yu)
https://ieeexplore.ieee.org/document/8292937
https://arxiv.org/abs/1810.00295
セミナー題目：Second-order statistical classification (Lin Zhou)
https://arxiv.org/abs/1806.00739

第１２回（2018年12月1日）
発表者：阪井祐太さん（福井大学）
セミナー題目：Fanoの不等式の拡張：一般化条件付き情報量、可算無限アルファベット、リスト復号法へ
概要：本講演では、とても代表的な情報理論的不等式であるFanoの不等式の一般化を解説する。
Fanoの不等式には、条件付きShannonエントロピーに対する上界と、相互情報量に対する下界の
2種類が存在するが、本講演では前者を扱う。本講演で考える一般化の方向性は、次のとおりである。
第一に、情報源アルファベットを、有限集合から可算無限集合へと拡張する。
可算無限アルファベットへの拡張をするにあたり、第二に、情報源の周辺分布を固定する制約を与える。
第三に、Shannon情報量に対する不等式から、一般化条件付き情報量に対する不等式へと拡張する。
第四に、復号ルールをリスト復号法へと拡張する。
本講演で提案する一般化条件付き情報量は、Shannon情報量やRenyi情報量への書き換えが容易である。このことから、
本講演の一般化Fano不等式が、これまでに知られているいくつかの一般化Fanoの不等式に帰着できることを紹介する。
また、漸近等分割性（asymptotic equipartition property; AEP）を有する一般情報源を考え、漸近的にゼロに収束する
リスト復号誤り確率は、正規化された条件付きShannonエントロピー（equivocation）もまたゼロに収束することを
今回の一般化Fanoの不等式から考察する。この考察によって、漸近等分割性に対する新たな特徴づけを示す。

第１３回（2019年7月27日）
発表者：大濱靖匡さん（電気通信大学）
セミナー題目：分散符号化の枠組みにおける仮説検定問題について
概要：分散符号化の枠組みで統計的推論を行う問題（分散符号化統計的推論）は，1979年にBerger によって提起された．
この問題に関しては，これまでの精力的な研究により幾つかの重要な部分解決が得られているものの一般には未解決である．
本講演では上記問題の重要な１つである分散符号化の枠組みで仮説検定を行う問題（分散符号化仮説検定問題）に注目し，
この問題についてのこれまでの研究を概観する．
また，2つの分散符号器による仮説検定問題について，分散符号器の一方のみが圧縮を行う場合に講演者が最近得た結果を紹介する．

第１４回（2021年3月13日）Zoomによるオンライン開催
発表者：齋藤翔太さん（早稲田大学）
セミナー題目：ベイズ符号～基礎と広がり～
概要：ベイズ符号はユニバーサル情報源符号のひとつである．本セミナーでは，ベイズ符号について三つの話題を紹介する．
まず，ベイズ符号の平均符号語長やオーバーフロー確率に関する理論評価を紹介する．次に，文脈木情報源に対する
ベイズ符号の効率的なアルゴリズムを解説する．最後に，ベイズ符号の広がりとして，仮説検定問題，パターン認識，
画像圧縮等への応用について簡単に述べる．