公開日:2023.03.06
ニューラルネットワークの隆盛はすさまじく、人間の意味空間を理解するかに見える巨大モデルも登場しつつあります。このような基盤モデルにおいてさえ、確率的勾配法で得られる解よりも汎化した解に到達できる学習法を用いれば、性能改善が期待できます。
本講演では、そのような事後学習手法であるPoF(Post training of Feature extractor)について紹介いたします。また、人間はエンコード(推論)と、デコード(生成)がシームレスにつながった状態の中で学習が行われます。
しかし、現状の機械学習では推論と生成は独立に学習されており、人間の学習と乖離があるように見えます。本講演では、推論と生成の協調的な学習に向けた第一歩として、順伝播と逆伝播のネットワークが同時に学習されるアルゴリズムであるDifference Target Propagationを改善した、Fixed-Weight Difference Target Propagation(FW-DTP)について紹介いたします。
併せて、これまでのキャリアパスについても紹介いたします。
概要
講演タイトル
深層モデルの汎化性能改善と推論・生成の協調的な学習にむけて
講演者
川上 玲 氏(2022年度マイクロン財団女性教員研究助成受給者)
開催日時
2023年3月23日(木)12:00 - 12:45
開催場所
オンライン(Zoom)
対象者
本学の学生、本学の教職員
使用言語
日本語
申込方法
- 下記フォームより事前登録が必要です(登録者にズームリンクを送付します)。