Fragen & AntwortenRAG oder Fine-Tuning: Was passt für Unternehmenswissen?
Zwei Wege, einem Sprachmodell Unternehmenswissen beizubringen. Einer ist fast immer der richtige Anfang.
Für Unternehmenswissen ist RAG fast immer der richtige Anfang: Das Modell antwortet aus Ihren Dokumenten, mit Quellenangabe, und neue Dokumente sind sofort verfügbar. Fine-Tuning verändert das Modell selbst und lohnt sich für Stil, Format und Fachsprache, nicht für Fakten. Beides lässt sich kombinieren, aber Fine-Tuning ohne RAG beantwortet keine Frage zu Dokumenten, die nach dem Training entstanden sind.
Wann ist RAG sinnvoll?
Immer dann, wenn das Modell Fragen zu Inhalten beantworten soll, die sich ändern oder die es nicht kennen kann: Handbücher, Verträge, Arbeitsanweisungen, Ticketverläufe. RAG holt zu jeder Frage die passenden Stellen und zeigt sie an. Neue Dokumente sind sofort verfügbar, zurückgezogene verschwinden. Das ist der Normalfall für Unternehmenswissen.
Wann ist Fine-Tuning sinnvoll?
Wenn es nicht um Fakten geht, sondern um Verhalten: Das Modell soll in einem festen Format antworten, den Hausstil treffen, Fachbegriffe richtig verwenden oder Eingaben in feste Kategorien einordnen. Dafür braucht es einige hundert bis tausend gute Beispiele und einen Trainingslauf. Fine-Tuning lohnt sich außerdem, wenn ein kleines Modell auf eine enge Aufgabe spezialisiert werden soll, um Hardware zu sparen.
Wann ist keines von beiden sinnvoll?
Wenn ein gutes Modell die Aufgabe mit einer klaren Anweisung bereits erledigt. Viele Fälle scheitern nicht am Modell, sondern an unklaren Anforderungen. Erst prüfen, ob ein Prompt reicht, dann RAG, dann Fine-Tuning.
Voraussetzungen
- RAG: Dokumente in lesbarer Form, eine Entscheidung, welche Fassungen gelten, ein Rechtekonzept und eine Vektordatenbank wie ChromaDB.
- Fine-Tuning: Ein sauberer Datensatz aus Beispielen, Rechenleistung für das Training, ein Verfahren zur Bewertung und die Bereitschaft, das Training bei Änderungen zu wiederholen.
Vorteile und Grenzen im Vergleich
- Aktualität. RAG sofort, Fine-Tuning erst nach neuem Training.
- Nachvollziehbarkeit. RAG nennt Quellen, Fine-Tuning nicht.
- Rechte. RAG kann pro Wissensbasis filtern. Ein nachtrainiertes Modell weiß alles, was es gelernt hat, für jeden Nutzer.
- Verhalten. Fine-Tuning prägt Stil und Format zuverlässiger als jede Anweisung.
- Aufwand. RAG ist in Wochen produktiv, Fine-Tuning braucht Datensatz, Training und Bewertung.
Beispiel
Ein Anbieter wollte, dass sein Modell Produktdaten kennt, und dachte an Fine-Tuning. Die Produktdaten änderten sich monatlich. Mit RAG auf den Datenblättern war das System in drei Wochen produktiv und immer aktuell. Erst später kam ein kleines Fine-Tuning dazu, damit die Antworten das feste Format des Kundenservice einhalten. Beides zusammen löste, was keines allein gelöst hätte.
Häufige Fragen
Was ist der Unterschied zwischen RAG und Fine-Tuning?
RAG sucht zu jeder Frage passende Textstellen in Ihren Dokumenten und lässt das Modell daraus antworten. Fine-Tuning trainiert das Modell mit Beispielen nach, sodass es Stil, Format oder Fachsprache übernimmt. RAG verändert die Daten, die das Modell sieht. Fine-Tuning verändert das Modell.
Kann Fine-Tuning Fakten lernen?
Nur unzuverlässig. Ein nachtrainiertes Modell erinnert sich ungefähr, nicht exakt, und kennt keine Quellen. Für Fakten, Zahlen und gültige Fassungen ist RAG das richtige Verfahren.
Wann lohnt sich Fine-Tuning trotzdem?
Wenn das Modell einen bestimmten Ton, ein festes Ausgabeformat oder Fachvokabular beherrschen soll, etwa für Klassifikation mit festen Kategorien oder für Antworten im eigenen Stil. Voraussetzung sind einige hundert bis tausend gute Beispiele.
Geht beides zusammen?
Ja. Ein leicht nachtrainiertes Modell für Format und Ton, das über RAG auf die aktuellen Dokumente zugreift. In der Praxis beginnt man mit RAG und ergänzt Fine-Tuning nur, wenn ein konkretes Problem bleibt.
Fazit
RAG für Wissen, Fine-Tuning für Verhalten. Wer Fragen zu eigenen Dokumenten beantworten will, beginnt mit RAG. Fine-Tuning kommt dazu, wenn Stil, Format oder Fachsprache ein konkretes Problem bleiben. In dieser Reihenfolge, nicht umgekehrt.
Verwandte Fragen: Was bedeutet RAG im Unternehmenskontext?, Kann KI Unternehmens-PDFs durchsuchen?, Welche Open-Source-KI eignet sich für Unternehmen?
Unternehmenswissen mit KI
Private Wissenssysteme, die Fragen an Ihre Dokumente mit Quellenangabe beantworten. Lokal oder in einer EU-Umgebung.
Zur Lösung: Unternehmenswissen