Termin buchen →

Was ist RAG? Einfach erklärt

Retrieval Augmented Generation macht KI zum Experten für dein Unternehmen. Wie das funktioniert, wofür es sich eignet und worauf es ankommt.

Kurz gesagt

RAG (Retrieval Augmented Generation) ist ein Verfahren, bei dem ein KI-Sprachmodell vor jeder Antwort passende Informationen aus einer Wissensquelle abruft, zum Beispiel aus Firmendokumenten, und seine Antwort nur auf diese Informationen stützt. So antwortet die KI aktuell, nachvollziehbar und mit deutlich weniger Halluzinationen.

01
Frage„Wie lange gilt die Garantie?“
02
SuchenPassende Stellen in den Dokumenten
03
ErgänzenFrage + Fundstellen ans Modell
04
AntwortenMit Quellenangabe

Das Problem: KI kennt dein Unternehmen nicht

Sprachmodelle wie ChatGPT wurden mit riesigen Textmengen aus dem Internet trainiert. Deine Preisliste, dein Mitarbeiterhandbuch oder die Garantiebedingungen deiner Produkte waren nicht dabei. Fragt man das Modell trotzdem danach, rät es, und das klingt oft überzeugend falsch. Außerdem endet sein Wissen an einem Stichtag.

Die Lösung: erst nachschlagen, dann antworten

RAG funktioniert wie ein guter Mitarbeiter, der bei einer Kundenfrage zuerst im Handbuch nachschaut. Technisch läuft das in vier Schritten ab:

  1. Einlesen: Deine Dokumente werden in kurze Textstücke zerlegt und als Vektoren (Embeddings) in einer Vektordatenbank gespeichert.
  2. Suchen: Kommt eine Frage, wird auch sie in einen Vektor umgewandelt. Die Datenbank findet die inhaltlich ähnlichsten Textstücke.
  3. Ergänzen: Die Frage und die gefundenen Textstücke gehen gemeinsam an das Sprachmodell, mit der Anweisung, nur daraus zu antworten.
  4. Antworten: Die KI formuliert eine verständliche Antwort und nennt die Quelle.

Ein Beispiel aus dem Alltag

Ein neuer Mitarbeiter fragt in Teams: „Wie viele Urlaubstage habe ich im ersten Jahr?“ Der RAG-Assistent findet im Mitarbeiterhandbuch die Stelle zur Urlaubsregelung und antwortet: „Du hast 25 Urlaubstage pro Jahr, im ersten Jahr anteilig ab Eintritt. Quelle: Mitarbeiterhandbuch, Seite 12.“ Die Personalabteilung muss diese Frage nie wieder beantworten.

Vorteile für KMU

  • Richtige Antworten aus deinen eigenen Unterlagen statt aus dem Internet.
  • Immer aktuell: Neue Dokumente werden nachgeladen, ohne die KI neu zu trainieren.
  • Nachvollziehbar: Jede Antwort zeigt ihre Quelle.
  • Kostengünstig: Deutlich günstiger als ein eigenes KI-Modell zu trainieren.
  • Kontrollierbar: Du bestimmst, welche Dokumente der Assistent sehen darf.

Worauf es bei der Umsetzung ankommt

Ein einfaches RAG-System ist schnell gebaut. Ein gutes braucht mehr: sinnvoll zerlegte Dokumente, Metadaten für Aktualität und Zuständigkeit, mehrere Suchvarianten pro Frage, Reranking der Treffer, Guardrails gegen unpassende Antworten und eine Evaluation mit Testfragen vor dem Start. Genau diese Bausteine setzt flowkraft bei jedem RAG-Wissensassistenten ein.

Wann lohnt sich RAG?

RAG lohnt sich, wenn in deinem Betrieb immer wieder dieselben Fragen gestellt werden und die Antworten irgendwo dokumentiert sind: im Kundenservice, im internen Helpdesk, im Vertrieb oder beim Onboarding. Ob es sich in deinem Fall rechnet, klären wir im kostenlosen Erstgespräch.

Autor: Daniel Kraßnitzer · flowkraft, Kärnten · aktualisiert 2026-11-20

Fragen zu RAG

Was bedeutet RAG?

RAG steht für Retrieval Augmented Generation, auf Deutsch etwa „durch Abruf erweiterte Texterzeugung“. Ein Sprachmodell holt sich vor der Antwort passende Informationen aus einer Wissensquelle und antwortet auf dieser Grundlage.

Ist RAG besser als ein eigenes KI-Modell zu trainieren?

Für Firmenwissen fast immer. RAG ist günstiger, schneller umgesetzt, jederzeit aktualisierbar und zeigt Quellen an. Ein Training (Fine-Tuning) lohnt sich eher für einen bestimmten Schreibstil oder sehr spezielle Aufgaben.

Kann ChatGPT mit meinen Dokumenten arbeiten?

Ja, über RAG. Deine Dokumente werden in einer Vektordatenbank gespeichert, und ChatGPT oder ein anderes Modell bekommt bei jeder Frage nur die passenden Ausschnitte mitgeliefert.

Was kostet ein RAG-System für ein KMU?

Das hängt von Datenmenge, Kanälen und Anforderungen an den Datenschutz ab. Im kostenlosen Erstgespräch mit flowkraft bekommst du eine konkrete Einschätzung und danach ein Fixpreis-Angebot.

Kostenlos · unverbindlich

Bereit, Zeit zurückzugewinnen?

Lass uns in einem kurzen, kostenlosen Gespräch klären, wo in deinem Betrieb Automatisierung wirklich etwas bringt.

Kostenloses Erstgespräch vereinbaren →

Oder direkt: +43 664 63 76 102 · office@flowkraft.at

  • 01 · Gespräch, meist 45 Minuten
  • 02 · Ehrliche Einschätzung deiner Abläufe
  • 03 · Fixpreis-Angebot, falls es sich lohnt