KI-Agent

Was bedeutet KI-Agent?

Ein KI-Agent kombiniert ein Sprachmodell mit Werkzeugzugriff und einem definierten Auftragsrahmen. Er liest eine Anfrage, prüft verfügbare Informationen in verbundenen Systemen, trifft innerhalb von Regeln Entscheidungen und führt daraus Aktionen aus. Der Unterschied zu einem einfachen Chatbot liegt nicht im Modell, sondern im Auftrag: Der Agent handelt, statt nur zu antworten.

In der Praxis bereitet ein Agent zum Beispiel ein Angebot vor, prüft Termine im Kalender oder aktualisiert Einträge im CRM. Für den betrieblichen Einsatz gehören feste Übergabepunkte an einen Menschen zum Entwurf: vor dem Versand eines Angebots, vor einer Zahlung oder bei unsicheren Ergebnissen (Human in the Loop). Oft genügt ein fest vorgegebener Workflow mit einzelnen KI-Schritten; ein Agent lohnt sich erst, wenn sich die nötigen Schritte nicht vorab festlegen lassen.

Worauf Sie achten sollten

• Ziel, erlaubte Werkzeuge und ausdrückliche Grenzen sind vor dem Einsatz festgelegt.
• Jeder Schritt wird protokolliert und bleibt für Nachfragen nachvollziehbar.
• Kritische Aktionen wie Versand oder Zahlung erfordern eine menschliche Freigabe.
• Unsichere Fälle werden an Menschen eskaliert, statt als Fakt ausgegeben.

Wo die Grenzen liegen

Ein KI-Agent handelt so zuverlässig, wie Regeln, Datenquellen und Prüfungen es erlauben. Ohne klare Grenzen, Protokollierung und menschliche Kontrolle an kritischen Punkten übernimmt er Aufgaben, die er nicht verlässlich lösen kann – mit Folgen für Kunden und Verantwortung.

Verwandte Begriffe

• LLM (Large Language Model)

  Ein LLM (Large Language Model) ist ein KI-Modell, das mit sehr großen Textmengen trainiert wurde und Sprache verarbeiten und erzeugen kann. Bekannte Modellfamilien sind GPT, Claude, Gemini und Llama.

• Tool Use

  Tool Use, auch Function Calling genannt, bedeutet: Ein Sprachmodell fordert den Aufruf definierter Funktionen an – etwa eine Datenbankabfrage, einen Kalenderblick oder eine API-Anfrage –, statt nur Text zu antworten.

• Human in the Loop

  Human in the Loop bezeichnet einen Prozess, in dem ein Mensch definierte Entscheidungen, Ausnahmen oder unsichere Ergebnisse prüft und freigibt.

• Prompt Injection

  Prompt Injection ist ein Angriff, bei dem einem KI-System versteckte Anweisungen zugeführt werden, die es von seiner eigentlichen Aufgabe abbringen – etwa Datenpreisgabe oder unerwünschte Aktionen.

• MCP (Model Context Protocol)

  MCP (Model Context Protocol) ist ein offenes Protokoll, über das KI-Anwendungen einheitlich auf externe Datenquellen und Werkzeuge zugreifen können, statt für jede Kombination eine eigene Anbindung zu bauen.

Passende Leitfäden und Leistungen

• KI in Geschäftsprozessen einsetzen

  Kontrollierte KI-Schritte mit Quellen, Grenzen und Freigaben planen.

• KI-Workflow-Automatisierung für Unternehmen

  Use Cases und Prüfkriterien für Wirtschaftlichkeit, Datenschutz und Betrieb.

• Support-Bot für Ihre Website

  Antworten aus einer freigegebenen Wissensbasis, mit Grenzen und Übergabe an Menschen.

Offizielle Quellen

1. Yao et al.: ReAct – Synergizing Reasoning and Acting in Language Models
2. Anthropic: Building effective agents