FedReFT: Federated Representation Fine‑Tuning mit All‑But‑Me Aggregation

Die neue Methode FedReFT bringt Parameter‑Effizientes Fine‑Tuning (PEFT) in die Welt des Federated Learning (FL) und setzt dabei auf die vielversprechende Technik der Representation Fine‑Tuning (ReFT). Während klassische PEFT‑Ansätze die Gewichte eines Modells anpassen, manipuliert ReFT direkt die versteckten Repräsentationen, die reich an semantischen Informationen sind. FedReFT erweitert dieses Konzept, indem es gezielte, spärliche Interventionsschichten einsetzt, die die versteckten Zustände der Modelle steuern und damit eine leichte, aber semantisch starke Anpassung ermöglichen – ideal für Edge‑Geräte mit begrenzten Ressourcen.

Ein zentrales Problem bei der Anwendung von ReFT in heterogenen FL‑Umgebungen ist die Gefahr von Aggregationsfehlern. Unterschiedliche Datenverteilungen, Modellkapazitäten und Rechenressourcen der Clients führen dazu, dass ein einfacher Mittelwert der Updates die semantische Ausrichtung zerstören kann. FedReFT begegnet diesem Problem mit der All‑But‑Me (ABM) Aggregation: Jeder Client erhält die aggregierten Updates aller anderen Teilnehmer und integriert diese teilweise in seine eigene Anpassung. Dieses Verfahren schafft ein Gleichgewicht zwischen lokaler Spezialisierung und globalem Wissen, wodurch die Stabilität und Personalisierung der Lernprozesse verbessert werden.

Die Evaluation von FedReFT an Aufgaben wie Commonsense‑Reasoning, arithmetische Aufgaben, Instruction‑Tuning und GLUE hat gezeigt, dass die Methode die aktuellen PEFT‑Standards übertrifft. Durch die Kombination aus sparsamen Interventionsschichten und der ABM‑Aggregation bietet FedReFT eine robuste, ressourcenschonende Lösung für die Feinabstimmung großer vortrainierter Modelle in verteilten, heterogenen Umgebungen.