講演抄録/キーワード |
講演名 |
2025-02-18 13:35
連合学習におけるモデルマージ導入の有効性に関する評価 ~ 複数のドメインを対象とした画像分類タスクによる検証 ~ ○久保田健太・藤後 廉・前田圭介・小川貴弘・長谷山美紀(北大) |
抄録 |
(和) |
本研究では,事前学習済みモデルを継続的に更新することを想定した連合学習において,モデルマージ手法の有効性の検討を行う.
事前学習済みモデルをファインチューニングして得られる複数のドメイン特化モデルを融合し,様々なタスクに対して有効な単一のモデルを獲得することを目標とするモデルマージに関する手法が近年活発に研究されている.
連合学習は,データ分散環境において複数のモデルが協働して学習するフレームワークであり,その問題設定上モデルマージの応用先として期待される.
しかしながら,従来研究においてモデルマージ手法の連合学習に対する有効性を包括的に調査した例は少なく,さらなる検討の余地が存在する.
そこで,本稿では連合学習にモデルマージを導入した際の技術的な課題点を明確化するため,連合学習設定の画像分類タスクにおいて種々の手法を適用し,モデルの精度に与える影響を実験的に調査した. |
(英) |
In this paper, we evaluate the effectiveness of model merging methods for federated learning, which continuously update the pre-trained models.
Model merging, which aims to build a single effective model for various tasks by combining multiple domain-specific models obtained by fine-tuning pre-trained models, has been actively studied in recent years.
Federated learning is a framework in which multiple models collaborate to learn in a data-distributed environment and is expected to be an application of model merging due to its problem setting.
However, previous studies paid little attention to the effectiveness of model merging methods for federated learning, and there is room for further investigation.
Therefore, to clarify the technical issues involved in introducing model merging to federated learning, this paper applies some methods to an image classification task in a federated learning setting and experimentally investigates the impact of model merging on the accuracy of the model. |
キーワード |
(和) |
モデルマージ / 連合学習 / 基盤モデル / / / / / |
(英) |
Model merge / Federated learning / Foundation model / / / / / |
文献情報 |
映情学技報, vol. 49, no. 4, ME2025-10, pp. 52-56, 2025年2月. |
資料番号 |
ME2025-10 |
発行日 |
2025-02-11 (MMS, ME, AIT, SIP) |
ISSN |
Online edition: ISSN 2424-1970 |
PDFダウンロード |
|
研究会情報 |
研究会 |
ME AIT MMS IEICE-IE IEICE-ITS SIP |
開催期間 |
2025-02-18 - 2025-02-19 |
開催地(和) |
北海道大学 |
開催地(英) |
Hokkaido Univ. |
テーマ(和) |
画像処理,一般 |
テーマ(英) |
Image Processing, etc. |
講演論文情報の詳細 |
申込み研究会 |
ME |
会議コード |
2025-02-ME-AIT-MMS-IE-ITS-SIP |
本文の言語 |
日本語 |
タイトル(和) |
連合学習におけるモデルマージ導入の有効性に関する評価 |
サブタイトル(和) |
複数のドメインを対象とした画像分類タスクによる検証 |
タイトル(英) |
Effectiveness Verification of Introducing Model Merging in Federated Learning |
サブタイトル(英) |
Investigation from Multi-domain Image Classification Tasks |
キーワード(1)(和/英) |
モデルマージ / Model merge |
キーワード(2)(和/英) |
連合学習 / Federated learning |
キーワード(3)(和/英) |
基盤モデル / Foundation model |
キーワード(4)(和/英) |
/ |
キーワード(5)(和/英) |
/ |
キーワード(6)(和/英) |
/ |
キーワード(7)(和/英) |
/ |
キーワード(8)(和/英) |
/ |
第1著者 氏名(和/英/ヨミ) |
久保田 健太 / Kenta Kubota / クボタ ケンタ |
第1著者 所属(和/英) |
北海道大学 (略称: 北大)
Hokkaido University (略称: Hokkaido Univ.) |
第2著者 氏名(和/英/ヨミ) |
藤後 廉 / Reb Togo / トウゴ レン |
第2著者 所属(和/英) |
北海道大学 (略称: 北大)
Hokkaido University (略称: Hokkaido Univ.) |
第3著者 氏名(和/英/ヨミ) |
前田 圭介 / Keisuke Maeda / マエダ ケイスケ |
第3著者 所属(和/英) |
北海道大学 (略称: 北大)
Hokkaido University (略称: Hokkaido Univ.) |
第4著者 氏名(和/英/ヨミ) |
小川 貴弘 / Takahiro Ogawa / オガワ タカヒロ |
第4著者 所属(和/英) |
北海道大学 (略称: 北大)
Hokkaido University (略称: Hokkaido Univ.) |
第5著者 氏名(和/英/ヨミ) |
長谷山 美紀 / Miki Haseyama / ハセヤマ ミキ |
第5著者 所属(和/英) |
北海道大学 (略称: 北大)
Hokkaido University (略称: Hokkaido Univ.) |
第6著者 氏名(和/英/ヨミ) |
/ / |
第6著者 所属(和/英) |
(略称: )
(略称: ) |
第7著者 氏名(和/英/ヨミ) |
/ / |
第7著者 所属(和/英) |
(略称: )
(略称: ) |
第8著者 氏名(和/英/ヨミ) |
/ / |
第8著者 所属(和/英) |
(略称: )
(略称: ) |
第9著者 氏名(和/英/ヨミ) |
/ / |
第9著者 所属(和/英) |
(略称: )
(略称: ) |
第10著者 氏名(和/英/ヨミ) |
/ / |
第10著者 所属(和/英) |
(略称: )
(略称: ) |
第11著者 氏名(和/英/ヨミ) |
/ / |
第11著者 所属(和/英) |
(略称: )
(略称: ) |
第12著者 氏名(和/英/ヨミ) |
/ / |
第12著者 所属(和/英) |
(略称: )
(略称: ) |
第13著者 氏名(和/英/ヨミ) |
/ / |
第13著者 所属(和/英) |
(略称: )
(略称: ) |
第14著者 氏名(和/英/ヨミ) |
/ / |
第14著者 所属(和/英) |
(略称: )
(略称: ) |
第15著者 氏名(和/英/ヨミ) |
/ / |
第15著者 所属(和/英) |
(略称: )
(略称: ) |
第16著者 氏名(和/英/ヨミ) |
/ / |
第16著者 所属(和/英) |
(略称: )
(略称: ) |
第17著者 氏名(和/英/ヨミ) |
/ / |
第17著者 所属(和/英) |
(略称: )
(略称: ) |
第18著者 氏名(和/英/ヨミ) |
/ / |
第18著者 所属(和/英) |
(略称: )
(略称: ) |
第19著者 氏名(和/英/ヨミ) |
/ / |
第19著者 所属(和/英) |
(略称: )
(略称: ) |
第20著者 氏名(和/英/ヨミ) |
/ / |
第20著者 所属(和/英) |
(略称: )
(略称: ) |
第21著者 氏名(和/英/ヨミ) |
/ / |
第21著者 所属(和/英) |
(略称: )
(略称: ) |
第22著者 氏名(和/英/ヨミ) |
/ / |
第22著者 所属(和/英) |
(略称: )
(略称: ) |
第23著者 氏名(和/英/ヨミ) |
/ / |
第23著者 所属(和/英) |
(略称: )
(略称: ) |
第24著者 氏名(和/英/ヨミ) |
/ / |
第24著者 所属(和/英) |
(略称: )
(略称: ) |
第25著者 氏名(和/英/ヨミ) |
/ / |
第25著者 所属(和/英) |
(略称: )
(略称: ) |
第26著者 氏名(和/英/ヨミ) |
/ / |
第26著者 所属(和/英) |
(略称: )
(略称: ) |
第27著者 氏名(和/英/ヨミ) |
/ / |
第27著者 所属(和/英) |
(略称: )
(略称: ) |
第28著者 氏名(和/英/ヨミ) |
/ / |
第28著者 所属(和/英) |
(略称: )
(略称: ) |
第29著者 氏名(和/英/ヨミ) |
/ / |
第29著者 所属(和/英) |
(略称: )
(略称: ) |
第30著者 氏名(和/英/ヨミ) |
/ / |
第30著者 所属(和/英) |
(略称: )
(略称: ) |
第31著者 氏名(和/英/ヨミ) |
/ / |
第31著者 所属(和/英) |
(略称: )
(略称: ) |
第32著者 氏名(和/英/ヨミ) |
/ / |
第32著者 所属(和/英) |
(略称: )
(略称: ) |
第33著者 氏名(和/英/ヨミ) |
/ / |
第33著者 所属(和/英) |
(略称: )
(略称: ) |
第34著者 氏名(和/英/ヨミ) |
/ / |
第34著者 所属(和/英) |
(略称: )
(略称: ) |
第35著者 氏名(和/英/ヨミ) |
/ / |
第35著者 所属(和/英) |
(略称: )
(略称: ) |
第36著者 氏名(和/英/ヨミ) |
/ / |
第36著者 所属(和/英) |
(略称: )
(略称: ) |
講演者 |
第1著者 |
発表日時 |
2025-02-18 13:35:00 |
発表時間 |
15分 |
申込先研究会 |
ME |
資料番号 |
MMS2025-10, ME2025-10, AIT2025-10, SIP2025-10 |
巻番号(vol) |
vol.49 |
号番号(no) |
no.4 |
ページ範囲 |
pp.52-56 |
ページ数 |
5 |
発行日 |
2025-02-11 (MMS, ME, AIT, SIP) |
|