連合学習ポイズニング攻防ラボ — 壊そうとしても壊れない

ボタンを押すと何が起きる？ — 1ラウンドの流れ

ポイント: 攻撃者が送れるのは「重み差分」だけ。サーバーは中身の善悪を当てにいかず、「採用すると精度が下がるか」だけで機械的に弾きます。

3つのボタンの違い（早見表）

「ゲート無しなら」は、もし無防備に更新をそのまま反映していた場合の精度です。攻撃を選んでも、ゲートありでは精度が下がらないことを確認してください。

結果の読み方

• 現在のグローバル精度：今のモデルの賢さ。攻撃を何度押しても下がらないのが見どころ。
• 攻撃の無害化率：攻撃のうち何件をゲートが弾いたか（例: 5/5 件ブロック）。
• ゲートあり（緑）：実際に採用された結果。「開始% → 採用後%」。下がる更新は不採用。
• ゲート無しなら：同じ更新を無防備に反映した場合の精度。攻撃だと赤字で大きく低下＝ゲートが救った差。

用語ミニ辞典

具体的な悪意のある攻撃と、本ラボのゲートで防げるか

連合学習への攻撃は、大きく「データを汚す（データポイズニング）」と「送る更新（重み）を直接いじる（モデルポイズニング）」に分かれます。 このデモが再現する😈ラベル反転・🎲ランダム汚染は氷山の一角です。代表的な攻撃を、防御可否とともに整理します。

出典: Bagdasaryan et al. “How To Backdoor Federated Learning”（バックドア・モデル置換） ／ Fang et al. USENIX Security 2020（ビザンチン耐性への局所攻撃） ／ Fung et al. “Mitigating Sybils …”（FoolsGold） ／ FL Security & Privacy サーベイ(2025)

なぜ「悪意があっても壊れない」のか

不特定多数が参加する連合学習では、わざと壊そうとする参加者（ポイズニング攻撃）への対策が必須です。 重要なのは「単一の更新から悪意を完璧に見分ける」ことではなく、悪意があっても結果としてモデルが悪くならない仕組みにすることです。