Kurz erklärt
Ein LLM (Large Language Model, deutsch: großes Sprachmodell) ist ein KI-Modell, das auf riesigen Textmengen trainiert wurde und daraus gelernt hat, Sprache zu verstehen und zu erzeugen. Es sagt Wort für Wort das wahrscheinlichste nächste Wort voraus – und kann dadurch Fragen beantworten, Texte zusammenfassen, übersetzen und strukturieren. Bekannte Beispiele sind ChatGPT und Claude; daneben gibt es offene Modelle, die Unternehmen selbst betreiben können.
Wie ein Sprachmodell arbeitet
Ein LLM speichert kein Wissen wie eine Datenbank. Es hat beim Training statistische Muster gelernt: welche Wörter und Zusammenhänge in welchem Kontext wahrscheinlich sind. Deshalb kann es flüssig formulieren und komplexe Fragen plausibel beantworten – auch dann, wenn die Antwort inhaltlich falsch ist. Dieses Phänomen heißt Halluzination und ist die wichtigste Grenze der Technologie.
Für den Unternehmenseinsatz folgt daraus eine einfache Regel: LLMs sind stark, wo Sprache das Produkt ist – Zusammenfassen, Umformulieren, Strukturieren, Extrahieren. Sie sind riskant, wo verbindliche Fakten gefragt sind und niemand das Ergebnis prüft.
Vom Chatbot zum Unternehmenswerkzeug
Sein wirtschaftliches Potenzial entfaltet ein LLM erst, wenn es mit dem eigenen Unternehmenswissen verbunden wird: Verträge, Dokumentationen, Prüfberichte, Produktdaten. Der gängige Ansatz dafür heißt RAG (Retrieval-Augmented Generation) – das Modell erhält zu jeder Frage die passenden Auszüge aus der eigenen Wissensbasis und antwortet auf dieser Grundlage statt aus dem Gedächtnis.
Die zweite Entscheidung ist der Betrieb: Öffentliche Dienste sind schnell verfügbar, offene Modelle auf einem eigenen KI-Server oder in einer Private Cloud halten dafür die Daten im Haus – relevant überall dort, wo Datenschutz und Vertraulichkeit zählen.
Wichtiger Hinweis
Ein LLM klingt immer überzeugend – auch wenn es falsch liegt
Sprachmodelle formulieren falsche Antworten genauso souverän wie richtige. In Geschäftsprozessen gehört deshalb zu jedem LLM-Einsatz ein Kontrollkonzept: geprüfte Datenquellen, nachvollziehbare Quellenangaben und definierte Stellen, an denen ein Mensch das Ergebnis freigibt.
Häufige Fragen zu LLMs
Was bedeutet Halluzination bei einem LLM?
Das Modell erzeugt eine sprachlich überzeugende, aber inhaltlich falsche oder erfundene Antwort. Das passiert, weil ein LLM Wahrscheinlichkeiten berechnet statt Fakten nachzuschlagen. Mit geprüften Datenquellen (RAG) und menschlicher Kontrolle lässt sich das Risiko deutlich reduzieren.
Lernt ein LLM aus meinen Eingaben?
Das hängt vom Dienst und den Vertragsbedingungen ab. Bei manchen öffentlichen Angeboten können Eingaben zur Modellverbesserung verwendet werden. Bei selbst betriebenen Modellen stellt sich die Frage nicht – Eingaben bleiben im Unternehmen.
Kann ein LLM mit unserem Firmenwissen arbeiten?
Ja, über Ansätze wie RAG: Das Modell erhält zu jeder Anfrage relevante Auszüge aus den eigenen Dokumenten und Daten. Voraussetzung ist eine strukturierte, gepflegte Wissensbasis – unsortierte Dateiablagen liefern auch mit LLM keine guten Antworten.