Ein Auftragsverarbeitungsvertrag (AVV) regelt rechtlich, wie ein Anbieter personenbezogene Daten im Auftrag des Kunden verarbeitet — DSGVO-Pflicht für jeden KI-Dienstleister.

Das Context Window ist die maximale Menge an Text (gemessen in Tokens), die ein Sprachmodell auf einmal verarbeiten kann — typisch 128k bis 1M Tokens bei aktuellen Modellen.

Ein Embedding ist eine Zahlen-Repräsentation eines Texts (oder Bildes) in einem hochdimensionalen Raum, in dem ähnliche Inhalte nah beieinander liegen — die Grundlage für semantische Suche und RAG.

Fine-Tuning ist das Nachtrainieren eines bereits trainierten Sprachmodells auf eigenen Daten — verändert das Modell selbst, im Gegensatz zu RAG.

Ein Guardrail ist eine Sicherheits-Schicht zwischen User und Sprachmodell, die unerwünschte Eingaben oder Ausgaben blockiert — z.B. PII-Leaks, Prompt-Injection oder Off-Topic-Anfragen.

Eine Halluzination ist eine plausibel klingende, aber faktisch falsche Antwort eines Sprachmodells — z.B. ein erfundenes Zitat oder eine erfundene Funktion einer Software.

Ein KI-Agent ist ein Programm auf Basis eines Sprachmodells, das eigenständig Aufgaben erledigt: es versteht eine Anfrage, plant Schritte, ruft Tools auf und antwortet mit Ergebnis statt nur mit Text.

Ein Large Language Model ist ein neuronales Netz, das auf Milliarden Texten trainiert wurde und Sprache versteht, generiert und transformiert. GPT-4, Claude und Mistral sind Beispiele.

Model Context Protocol ist ein offener Standard von Anthropic, der definiert, wie KI-Agenten mit Tools, Datenquellen und APIs sprechen — quasi USB für KI.

Multi-Agent bezeichnet eine Architektur, in der mehrere spezialisierte KI-Agenten zusammenarbeiten — ein Router entscheidet, wer übernimmt, und sie übergeben Aufgaben sauber untereinander.

Ein Prompt ist die Instruktion, die ein Sprachmodell bekommt — sie definiert Rolle, Tonfall, erlaubte Aktionen und gibt den Kontext für die Antwort.

RAG (Retrieval-Augmented Generation) ist ein Verfahren, bei dem das Sprachmodell vor jeder Antwort relevante Dokumente aus Ihrer Wissensbasis sucht und diese als Grundlage für die Antwort nutzt — so antwortet der Agent immer aktuell und mit Quellenangabe.

Streaming bedeutet, dass die Antwort des Sprachmodells Token für Token ausgeliefert wird, sobald sie generiert sind — der User sieht den Anfang, während das Modell noch schreibt.

Tool Use (oder Function Calling) ist die Fähigkeit eines Sprachmodells, externe Funktionen mit strukturierten Argumenten aufzurufen — z.B. eine API, eine Datenbank-Abfrage oder einen Skill.

Eine Vector-Datenbank speichert Embeddings effizient und beantwortet Ähnlichkeits-Suchen in Millisekunden — der Speicher hinter jedem RAG-System.