Beste Methoden, KI-Modelle zu kombinieren

Hat sonst noch jemand Probleme, die Leistung beim Mischen domänenspezifischer Modelle zu erhalten? Es ist, als würden sie ihre Stärke verlieren.

Tipps zum Debuggen, wenn das Mischen zu unerwarteten Ausgaben führt?

Wie sieht es mit dem Mischen von Modellen aus, die auf verschiedenen Modalitäten trainiert wurden, wie Audio und Text? Hat das schon jemand ausprobiert?

Für diejenigen, die das im Code machen, hat PyTorch einige praktische Hilfsmittel zum Mischen von Modellparametern, aber man muss auf Lernraten und Initialisierung achten.

Hat sonst noch jemand bemerkt, dass Mischen manchmal dazu führt, dass Modelle einige ihrer Spezialitäten vergessen? Es verwischt irgendwie die einzigartigen Stärken.

Würde gerne einige Benchmarks sehen, die verschiedene Mischstrategien vergleichen, falls jemand welche hat!

Benutzt sonst noch jemand latente Rauminterpolation, um Modelle zu mischen? Es ist irgendwie wie das Morphen zwischen zwei KI-Fähigkeiten.

Ich frage mich, ob jemand versucht hat, Transformer-Modelle zu mischen, die auf verschiedenen Sprachen trainiert wurden? Wie lief das?

Wie sieht es mit Mischen für Echtzeitanwendungen aus? Ich mache mir Sorgen um die Latenz beim Kombinieren mehrerer Modelle.

Ich habe kürzlich ein Tool gefunden, mit dem man Modelle visuell mischen kann, so ähnlich wie das Mischen von Ebenen in Photoshop, aber für KI. Macht das Experimentieren viel einfacher.

Ich habe ein paar Methoden ausprobiert, aber ehrlich gesagt bringt das einfache Mittelwertbilden der Gewichte nicht die erhofften Ergebnisse.

Hat jemand versucht, generative Modelle wie GANs oder VAEs zu mischen? Wie stabil sind die Ergebnisse?

Könnte Mischen helfen, Vorurteile in einzelnen Modellen zu reduzieren, indem ihre Eigenheiten gemittelt werden?

Glaubst du, dass Mischen nur eine Phase ist, bis leistungsfähigere einheitliche Modelle kommen?

Gibt es einen Konsens, ob das Mischen vortrainierter Modelle oder das Trainieren eines kombinierten Modells von Grund auf besser ist?

Wie handhabst du Versionierung und Kompatibilität beim Mischen von Modellen aus verschiedenen Quellen?

Verwendet jemand Neural Architecture Search, um beim Mischen zu helfen, oder ist das übertrieben?

Gibt es Open-Source-Frameworks, die sich speziell dem Mischen von KI-Modellen widmen?

Manchmal liefert das Stapeln von Modellausgaben und das Trainieren eines kleinen Meta-Modells darauf bessere Ergebnisse als das direkte Mischen von Gewichten.

Mischen kann Spaß machen, aber manchmal fühlt es sich eher wie Kunst als Wissenschaft an, ehrlich gesagt.