Was ist Fine-Tuning?
Fine-Tuning heißt: Du nimmst ein fertiges Sprachmodell und trainierst es mit deinen eigenen Beispielpaaren aus Eingabe und gewünschter Antwort weiter. Das Ergebnis ist ein eigenes Modell, das dein Format, deinen Ton und deine Kategorien schon kennt, statt sie jedes Mal aus einer langen Anweisung ableiten zu müssen. Der Unterschied zum Prompting ist die Dauerhaftigkeit: Was im `System-Prompt` steht, muss bei jedem Aufruf mitgeschickt werden, was im Modell steckt, ist einfach da.
Wichtig ist, wofür Fine-Tuning taugt und wofür nicht. Es bringt Form bei, keine Fakten: Klassifikation nach deinen Kategorien, ein sperriges Ausgabeformat, ein sehr spezieller Schreibstil, verlässliches Verhalten bei immer gleichen Aufgaben. Aktuelles Wissen und Firmendaten gehören dagegen nicht ins Training, sondern zur Laufzeit ins Modell hinein, also über Retrieval. Ein nachtrainiertes Modell, das die Preisliste vom März auswendig gelernt hat, erzählt im Juni überzeugend Falsches.
Der Preis ist Aufwand und Bindung. Du brauchst saubere Trainingsdaten, ein Testset, das nicht im Training war, und einen Plan für den Tag, an dem der Anbieter ein besseres Basismodell veröffentlicht. Deshalb ist die übliche Reihenfolge: erst Prompt schärfen, dann Beispiele in den Prompt legen, dann Retrieval, und erst wenn das messbar nicht reicht, nachtrainieren.
Warum ist Fine-Tuning wichtig?
Die Hürde ist niedriger, als viele denken: OpenAI nennt in der eigenen Fine-Tuning-Dokumentation 50 bis 100 sorgfältig kuratierte Beispiele als Startpunkt, empfiehlt aber ausdrücklich, vorher Prompting und Retrieval auszureizen. Der Engpass ist also nicht die Datenmenge, sondern die Frage, ob dein Problem überhaupt ein Formproblem ist.
Fine-Tuning in der Praxis
- 01Ein Support-Team trainiert ein kleines Modell auf 300 echte Ticket-Klassifikationen, damit die Zuordnung zu 12 Kategorien ohne seitenlangen Prompt funktioniert.
- 02Eine Redaktion trainiert ein Modell auf 80 eigene, redigierte Beiträge, damit Rohentwürfe von vornherein in der Hausschreibweise ankommen statt nach Standard-KI zu klingen.
- 03Ein Vertriebsteam braucht Angebotszusammenfassungen in einem festen JSON-Format und trainiert genau darauf, weil das Format im Prompt regelmäßig verrutscht ist.
