← Zurück zum Glossarmodels
LLM
Ein Large Language Model ist ein neuronales Netz, das auf Milliarden Texten trainiert wurde und Sprache versteht, generiert und transformiert. GPT-4, Claude und Mistral sind Beispiele.
Auch genannt: Large Language Model, Sprachmodell
Im Detail
LLMs sind die Engine hinter modernen KI-Agenten. Sie nehmen Text als Eingabe und produzieren Text als Ausgabe — können dabei aber mehr als nur fortsetzen: Zusammenfassen, Übersetzen, Klassifizieren, Code schreiben, mit strukturierten Tools interagieren.
Wir nutzen primär:
- Anthropic Claude (über AWS Bedrock EU) für die meisten Agent-Aufgaben
- OpenAI GPT wo nötig (auf Wunsch des Kunden)
- Mistral als europäische Alternative
- Llama 3 als self-hosted Option für besonders sensible Daten
Beispiel
Ein LLM bekommt: „Schreibe eine höfliche Absage für Bewerber X.“ und produziert in 2 Sekunden einen kompletten, kontextabhängigen Brief.
Verwandte Begriffe
- Context WindowDas Context Window ist die maximale Menge an Text (gemessen in Tokens), die ein Sprachmodell auf einmal verarbeiten kann — typisch 128k bis 1M Tokens bei aktuellen Modellen.
- Fine-TuningFine-Tuning ist das Nachtrainieren eines bereits trainierten Sprachmodells auf eigenen Daten — verändert das Modell selbst, im Gegensatz zu RAG.
- AuftragsverarbeitungEin Auftragsverarbeitungsvertrag (AVV) regelt rechtlich, wie ein Anbieter personenbezogene Daten im Auftrag des Kunden verarbeitet — DSGVO-Pflicht für jeden KI-Dienstleister.