Fine-Tuning: ein KI-Modell mit eigenen Beispielen nachtrainieren

Fine-Tuning, deutsch Feinabstimmung, ist das Nachtrainieren eines bereits trainierten KI-Modells mit eigenen Beispielen. Das Modell lernt dabei nicht von vorn, sondern passt sein vorhandenes Können an eine bestimmte Aufgabe, ein Ausgabeformat oder einen Stil an. Google beschreibt es als zweiten, aufgabenbezogenen Trainingsdurchlauf auf einem vortrainierten Modell.

Wie Fine-Tuning abläuft

Grundlage ist ein Datensatz aus Beispielen: eine Eingabe und die Antwort, die das Modell darauf geben soll. Das Training verschiebt die Gewichte des Modells so, dass es solche Antworten wahrscheinlicher erzeugt. Danach wird das Ergebnis an Beispielen geprüft, die im Training nicht vorkamen.

Die Verfahren unterscheiden sich darin, welche Rückmeldung das Modell bekommt. OpenAI nennt in seiner Dokumentation vier:

• Überwachtes Fine-Tuning: Beispiele mit der richtigen Antwort.
• Direct Preference Optimization: zu jeder Eingabe eine bessere und eine schlechtere Antwort.
• Reinforcement Fine-Tuning: Das Modell antwortet selbst, die Antworten werden bewertet, und gut bewertete Lösungswege werden verstärkt.
• Fine-Tuning mit Bildern: dieselbe Idee für Bildeingaben.

LoRA: Nachtrainieren mit kleinem Aufwand

Ein vollständiges Fine-Tuning verändert alle Gewichte eines Modells und braucht entsprechend viel Rechenleistung. Das Verfahren LoRA (Low-Rank Adaptation) geht sparsamer vor: Die ursprünglichen Gewichte bleiben eingefroren, trainiert werden nur kleine Zusatzmatrizen in den Schichten des Modells. Damit wird Fine-Tuning auch für offene Modelle auf eigener Hardware erreichbar.

Wann sich Fine-Tuning lohnt und wann nicht

Fine-Tuning ist selten der erste Schritt. In der Praxis bewährt sich diese Reihenfolge:

• Zuerst eine gute Anweisung mit Beispielen. Das kostet am wenigsten und zeigt schnell, ob das Modell die Aufgabe grundsätzlich beherrscht.
• Für Wissen, das sich ändert, ein Suchverfahren. Geht es um Inhalte aus eigenen Dokumenten, ist RAG mit Embeddings meist passender: Die Dokumente lassen sich austauschen, ohne das Modell neu zu trainieren.
• Fine-Tuning für ein festes Verhalten. Es lohnt sich, wenn ein Modell eine eng umrissene Aufgabe sehr häufig und immer gleich erledigen soll, etwa ein festes Ausgabeformat, eine Einordnung in Kategorien oder eine bestimmte Tonalität.

OpenAI nennt als Vorteile, dass mehr Beispiele eingehen können, als in eine einzelne Anfrage passen, dass kürzere Anweisungen Kosten und Wartezeit senken und dass sich mit Daten trainieren lässt, die man nicht bei jeder Anfrage mitschicken möchte.

Aufwand und Risiken

• Die Beispiele bestimmen das Ergebnis. Widersprüchliche oder fehlerhafte Beispiele lernt das Modell genauso mit wie gute.
• Ohne Prüfdatensatz kein Urteil. Ob das nachtrainierte Modell besser ist, zeigen nur Beispiele, die nicht im Training verwendet wurden.
• Das Ergebnis hängt am Basismodell. Kommt eine neue Modellgeneration, beginnt ein Teil der Arbeit von vorn.
• Rechtliche Fragen. Trainingsdaten mit personenbezogenen Inhalten brauchen eine Rechtsgrundlage. Wer ein Modell verändert und weitergibt, sollte prüfen, ob sich daraus eigene Pflichten nach dem EU AI Act ergeben.

Ob Fine-Tuning, RAG oder eine gut gebaute Anweisung: Die Entscheidung hängt an Aufgabe, Datenlage und Betriebsmodell. Bei einer KI-Implementierung klären wir das zu Beginn, ebenso die Frage, ob ein lokales Modell die bessere Wahl ist.

Verwandte Begriffe

Begriff	Worum es geht
Basismodell	Das vortrainierte Modell, auf dem Fine-Tuning aufsetzt.
LoRA und QLoRA	Ressourcenschonende Verfahren für Fine-Tuning.
RAG	Sucht passende Dokumente und gibt sie dem Modell mit, ohne das Modell zu verändern.
Prompt Engineering	Steuerung über die Anweisung, ebenfalls ohne Eingriff ins Modell.

Quellen

• Google for Developers, Machine Learning Glossary, Eintrag „fine-tuning“, abgerufen am 14. September 2026
• OpenAI, Model optimization, abgerufen am 14. September 2026
• Hu u. a., „LoRA: Low-Rank Adaptation of Large Language Models“, arXiv 2021

Diese Seite vertieft einen Eintrag aus dem KI-Glossar von minoka, dort finden Sie weitere Begriffe in Kurzform.