Ein Large Language Model ist ein KI-Modell, das auf sehr großen Textmengen trainiert wurde und Sprache fortsetzen kann. Es erzeugt Antworten, indem es Wort für Wort die jeweils wahrscheinlichste Fortsetzung berechnet.
Der Kern ist einfacher, als das Ergebnis vermuten lässt. Das Modell hat aus sehr großen Textmengen statistische Zusammenhänge gelernt und sagt beim Antworten fortlaufend voraus, welcher Textbaustein als nächster folgt. Aus dieser Vorhersage entsteht der Eindruck von Verstehen, weil sprachliche Muster, Fachbegriffe und Argumentationsformen im Training enthalten waren. Was das Modell dabei nicht tut, ist in einer Datenbank nachschlagen. Es gibt keine gespeicherte Antwort, die abgerufen wird.
Daraus folgt die wichtigste Eigenschaft für den betrieblichen Einsatz. Ein Sprachmodell erzeugt immer eine plausible Fortsetzung, auch dann, wenn es zu einer Frage nichts Belastbares gelernt hat. Solche erfundenen, aber überzeugend formulierten Angaben heißen Halluzinationen. Sie sind kein Fehler, der sich abstellen lässt, sondern eine Folge der Funktionsweise. Zu jedem produktiven Einsatz gehört deshalb eine Antwort auf die Frage, wer das Ergebnis prüft, bevor es nach außen geht.
Dagegen helfen zwei Verfahren. Beim Anreichern mit eigenen Quellen (Retrieval Augmented Generation, kurz RAG) bekommt das Modell die relevanten Dokumente zusammen mit der Frage übergeben und antwortet auf dieser Grundlage, oft mit Quellenangabe. Das ist der übliche Weg für Wissensassistenten im Unternehmen. Beim Nachtrainieren (Fine-Tuning) wird das Modell auf eigene Daten angepasst, was aufwendiger ist und für Stil und Formatvorgaben mehr bringt als für aktuelles Faktenwissen.
Vor dem Einsatz im Unternehmen steht der Datenschutz. Was eingegeben wird, verlässt je nach Anbieter und Tarif das Haus, weshalb festzulegen ist, welche Daten überhaupt eingegeben werden dürfen und ob Eingaben zum Training verwendet werden. Werden personenbezogene Daten verarbeitet, braucht es in aller Regel einen Auftragsverarbeitungsvertrag, und der Drittlandbezug ist zu prüfen.
Zwei weitere Punkte gehören geklärt. Dasselbe Modell kann auf dieselbe Frage unterschiedliche Antworten geben, was für Prozesse mit Prüfpflichten eine ausdrückliche Regelung verlangt. Und die europäische KI-Verordnung sieht je nach Einsatzart Transparenz- und Dokumentationspflichten vor, etwa die Kennzeichnung KI-erzeugter Inhalte. Welche davon im konkreten Fall greifen, gehört fachkundig geprüft, dieser Text ersetzt keine Rechtsberatung.