LLM (Large Language Model)

Was bedeutet LLM (Large Language Model)?

Ein Large Language Model wird mit sehr großen Textmengen trainiert und berechnet, welches Textstück als Nächstes wahrscheinlich folgt. Daraus entstehen Fähigkeiten wie Fragen beantworten, Texte zusammenfassen, übersetzen und formulieren. Das Modell speichert dabei kein geprüftes Faktenwissen, sondern statistische Muster aus seinen Trainingsdaten. Abgerechnet und begrenzt wird in Token, also Wortteilen: Sie bestimmen die Kosten einer Anfrage und wie viel Text ein Modell auf einmal berücksichtigen kann (Kontextfenster).

Für Unternehmen ist nicht der Begriff entscheidend, sondern der zu lösende Ablauf. Sprachnahe Aufgaben wie Klassifizieren, Zusammenfassen und Entwürfe formulieren passen gut. Verbindliche Aussagen brauchen eigene Datenquellen, feste Regeln und menschliche Prüfung, denn ein Modell kann plausibel klingende, aber falsche Aussagen liefern.

Worauf Sie achten sollten

• Das Einsatzgebiet ist sprachnah, etwa Anfragen, Entwürfe oder Zusammenfassungen.
• Fachliche Aussagen sind durch eigene Quellen gestützt, nicht nur durch das Modell.
• Kosten und Datentransfer sind vor dem Einsatz geklärt.
• Verbindliche Ausgaben laufen über Freigaben und feste Regeln.

Wo die Grenzen liegen

Ein LLM kennt nur Muster aus seinen Trainingsdaten. Es kann Aussagen ergänzen, die dort nicht stehen, und unterscheidet nicht zwischen Wahrscheinlichkeit und Wahrheit. Ohne Quellen, Regeln und Prüfpunkte wird ein Sprachmodell zur Quelle falscher Sicherheit.

Verwandte Begriffe

• KI-Agent

  Ein KI-Agent ist ein KI-System, das über das reine Antworten hinausgeht: Es ruft Werkzeuge auf, verarbeitet Daten und durchläuft definierte Abläufe innerhalb fester Grenzen.

• RAG (Retrieval-Augmented Generation)

  RAG verbindet ein generatives KI-Modell mit einer gezielten Suche in einer festgelegten Wissensbasis, bevor eine Antwort formuliert wird.

• Fine-Tuning

  Fine-Tuning trainiert ein vortrainiertes KI-Modell mit eigenen Beispieldaten weiter, um Fachsprache, Stil und Verhalten auf eine Aufgabe zu schneiden.

• Structured Output

  Structured Output bedeutet, dass eine KI-Antwort in einem definierten Format (z. B. JSON) zurückgegeben wird – statt Freitext. Das ermöglicht automatische Weiterverarbeitung.

• KI-Halluzination

  Eine KI-Halluzination ist eine Ausgabe eines KI-Modells, die überzeugend klingt, aber falsche, erfundene oder nicht belegte Angaben enthält, zum Beispiel eine Quellenangabe, die es nicht gibt.

Passende Leitfäden und Leistungen

• KI in Geschäftsprozessen einsetzen

  Kontrollierte KI-Schritte mit Quellen, Grenzen und Freigaben planen.

• KI-Workflow-Automatisierung für Unternehmen

  Use Cases und Prüfkriterien für Wirtschaftlichkeit, Datenschutz und Betrieb.

Offizielle Quellen

1. Brown et al.: Language Models are Few-Shot Learners (GPT-3)
2. BSI: Generative KI-Modelle – Chancen und Risiken für Industrie und Behörden