Tools wie ChatGPT bieten direkten Zugang zu diesen Modellen, weshalb Sie möglicherweise feststellen, dass Kolleginnen und Kollegen sie für schnelle Antworten nutzen.

Doch juristische KI-Plattformen gehen deutlich weiter. Sie nutzen die Rohkapazitäten eines LLM und ergänzen diese um rechtsspezifisches Training, vordefinierte Workflows, Sicherheitsstandards und Integrationen. Dadurch eignen sie sich für die qualifizierte juristische Praxis, in der Vertraulichkeit und Präzision unerlässlich sind.

Um das Potenzial beider Ansätze optimal zu nutzen, müssen Juristen verstehen, was ein LLM ist, wie es funktioniert, wo seine Grenzen liegen und wie darauf aufbauende Plattformen operieren.

Hinweis: Wenn Ihr Rechtsteam Allzweck-LLMs für die Vertragsprüfung, Compliance-Checks oder die Entwurfserstellung nutzt, jedoch mehr Zeit mit der Überprüfung der Ergebnisse als mit deren produktiver Nutzung verbringt, liegt das Problem nicht am Modell selbst. Es fehlt an juristischem Kontext, Playbooks und strengen Datenkontrollen. LEGALFLY basiert auf denselben grundlegenden Modellen, verfügt jedoch über die Sicherheitsleitplanken, die für die juristische Arbeit zwingend erforderlich sind. Buchen Sie eine Demo, um den Unterschied selbst zu erleben.

Was LLMs sind – und was sie nicht sind

Ein LLM (Large Language Model) ist eine Form der künstlichen Intelligenz, die auf Basis riesiger Textmengen trainiert wurde. Anstatt Fakten im klassischen Sinne zu „wissen“, lernt es Muster in der Verwendung von Wörtern und Sätzen. Auf dieser Grundlage prognostiziert es das jeweils nächste Wort in einer Sequenz – ähnlich der Autoverfolgung auf Ihrem Smartphone, jedoch auf einem hochentwickelten Niveau.

Einige LLMs sind öffentlich zugänglich und werden von Unternehmen wie OpenAI (ChatGPT) oder Anthropic (Claude) bereitgestellt. Andere können privat auf firmeneigenen Servern oder über Anbieter betrieben werden, die eine absolute Vertraulichkeit der Daten außerhalb des eigenen Netzwerks garantieren.

Es ist wichtig zu verstehen, dass ein LLM nicht wie eine Datenbank oder eine Suchmaschine funktioniert. Es ruft keine gespeicherten Fakten ab. Es generiert Antworten basierend auf Mustern, die es im Training analysiert hat. Dies führt dazu, dass es gelegentlich Antworten formuliert, die überzeugend klingen, aber inhaltlich falsch sind. Diese Fehler werden als „Halluzinationen“ bezeichnet.

LLMs können zudem für spezifische Fachgebiete angepasst werden. Durch ein gezieltes Training oder das sogenannte Fine-Tuning mit rechtlichen Anwendungsbeispielen steigt ihre Genauigkeit bei juristischen Aufgaben signifikant. Ohne diesen Zwischenschritt sind allgemeine Standardmodelle für sensible oder risikoreiche rechtliche Fragestellungen in der Regel nicht verlässlich genug.

Mehr erfahren: Alles, was Sie über agentische KI für die juristische Arbeit wissen müssen

Wie LLMs im Hintergrund funktionieren

LLMs basieren auf einem sogenannten Aufmerksamkeitsmechanismus (Attention Mechanism). Im Gegensatz zum Menschen, der Texte Zeile für Zeile liest, erfasst ein LLM alle Informationen eines Prompts gleichzeitig. Die Art und Weise, wie Sie eine Anfrage formulieren, beeinflusst das Ergebnis daher massiv.

Das Modell generiert Text Wort für Wort. Jedes neue Wort wird auf Basis von Wahrscheinlichkeiten ausgewählt, die aus allen vorherigen Wörtern berechnet werden. Dieselbe Frage kann daher zu unterschiedlichen Antworten führen, da das Modell minimale Variationen in diesen Prozess einbaut.

Die Leistung unterscheidet sich je nach Modell. Während die Modelle von Anthropic (Claude) oft für ihre überlegene Tonalität und Stilistik geschätzt werden, gelten OpenAI-Modelle häufig als stärker in der strukturierten Logik und Argumentation.  

Praktische Prompting-Tipps für Juristen

Die Qualität des Outputs hängt maßgeblich von der Qualität des Inputs ab. Sie können Ihre Ergebnisse durch folgende Prompting-Techniken spürbar verbessern:

• Vollständigen Kontext liefern. Definieren Sie Ihre Rolle, die konkrete Aufgabe und das angestrebte Ziel. Beispiel: „Ich bin Wirtschaftsjurist und prüfe NDAs. Erstelle einen ersten Entwurf für ein Redlining und markiere Vertraulichkeitsklauseln, die von unserem Standard-Template abweichen.“

• Präzise Anweisungen geben. Vermeiden Sie vage Formulierungen wie „Formuliere das besser“. Definieren Sie stattdessen, was „besser“ bedeutet: verständlicheres Deutsch, ein formellerer Ton oder eine prägnantere Zusammenfassung.

• Nur positive Beispiele nutzen. Zeigen Sie die gewünschte Struktur oder den bevorzugten Stil direkt auf. Vermeiden Sie Negativbeispiele („Schreibe nicht wie...“), da das Modell diese dennoch verarbeitet und Elemente daraus unbeabsichtigt übernehmen kann.

• Klare Regeln aufstellen. Für die juristische Praxis bedeutet dies etwa: „Zitiere Rechtsprechung immer im Wortlaut, paraphrasiere nie“ oder „Nenne Gesetze stets mit vollem Titel und Paragrafen.“

• Komplexe Aufgaben aufteilen. Anstatt einen kompletten Due-Diligence-Bericht in einem Schritt anzufordern, sollten Sie mit einer Struktur beginnen und die einzelnen Abschnitte Schritt für Schritt aufbauen. Dies liefert präzisere und leichter überprüfbare Ergebnisse.

• Bei Korrekturen neu ansetzen. Wenn wiederholte Anpassungen im Chat vom ursprünglichen Ziel abweichen, empfiehlt es sich, das Thema in einem neuen Chatfenster mit einem klaren, bereinigten Prompt neu zu starten.

• Prompts speichern und wiederverwenden. Nutzen Sie systemische Standard-Prompts oder vorformulierte Anweisungsblöcke, die Sie in neue Sitzungen kopieren können. So arbeitet das Modell konsistent nach Ihren Vorgaben.

• Mit Formatierungen arbeiten. Die Strukturierung Ihrer Anweisungen (durch Aufzählungspunkte, nummerierte Listen oder Zwischenüberschriften) beeinflusst die Strukturierung der finalen Antwort positiv.

Betrachten Sie die Interaktion wie die Delegation an einen Junganwalt: Je präziser und strukturierter die Anleitung ist, desto fundierter ist das Ergebnis.

Typische Fehler von LLMs

Wer ChatGPT oder ähnliche Modelle bereits genutzt hat, kennt deren Eigenheiten. Zu den typischen Fehlern zählen:

Mathematische Ungenauigkeiten. LLMs sind keine Taschenrechner. Sie generieren Text auf Basis von Wahrscheinlichkeitsmustern historischer Daten. Bei komplexen Berechnungen oder Summen stoßen sie daher oft an ihre Grenzen.

Halluzinationen. Es kann vorkommen, dass Modelle mit hoher Überzeugungskraft Fakten, Urteile oder Aktenzeichen erfinden, die täuschend echt wirken, aber schlicht nicht existieren.

Informationsverlust bei langen Texten. Bei sehr umfangreichen Dokumenten verarbeiten manche Modelle primär die ersten Abschnitte präzise und übersehen Klauseln, die tiefer im Dokumentenbaum vergraben sind.

Warum liefern LLMs unterschiedliche Antworten auf dieselbe Frage?

LLMs liefern nicht zwingend bei jeder Anfrage identische Ergebnisse. Diese Varianz resultiert aus der Art der Textgenerierung: Das Modell wählt Wort für Wort das jeweils wahrscheinlichste nächste Wort aus. Dabei wird jedoch nicht immer das Wort mit der absolut höchsten Wahrscheinlichkeit gesetzt, was zu einer natürlichen sprachlichen Diversität führt.

Zudem steuert der Parameter der sogenannten „Temperatur“ diese Variabilität. Bei einer höheren Temperatur wählt das Modell auch weniger wahrscheinliche Wörter und antwortet kreativer bzw. abwechslungsreicher. Bei einer niedrigen Temperatur bleibt es eng an den wahrscheinlichsten Formulierungen, was zu reproduzierbareren Ergebnissen führt.

Wenn Sie ein LLM bitten, eine Vertraulichkeitsklausel zusammenzufassen, könnte das Ergebnis bei niedriger Temperatur konsistent so lauten:

„Diese Klausel untersagt beiden Parteien die Offenlegung vertraulicher Informationen gegenüber Dritten.“

Bei einer höheren Temperatur könnte dieselbe Anfrage alternative Formulierungen liefern, wie etwa:

„Die Parteien verpflichten sich, vertrauliche Unterlagen nicht an Dritte weiterzugeben, sofern dies nicht gesetzlich vorgeschrieben ist.“ oder

„Sämtliche vertraulichen Daten sind unter Verschluss zu halten und dürfen Außenstehenden nicht zugänglich gemacht werden.“

Die rechtliche Aussage bleibt identisch, die sprachliche Ausgestaltung variiert jedoch.

Was LLMs für Rechtsteams leisten können

LLMs sind exzellent darin, sprachliche Muster zu erkennen und zu reproduzieren. Dies macht sie zu wertvollen Werkzeugen für die juristische Arbeit, die maßgeblich auf Dokumenten, Präzedenzfällen und strukturierten Texten basiert. Richtig eingesetzt, unterstützen sie Juristen dabei:

• Routineanfragen aus den Fachabteilungen schnell auf Basis interner Richtlinien oder Playbooks zu beantworten

• Die juristische Recherche durch das schnelle Scannen und Zusammenfassen großer Datenmengen zu beschleunigen

• Vertragsentwürfe und Redlinings effizient zu erstellen und manuelle Editierprozesse zu minimieren

• Präzise und konsistente Memos, Schriftsatzentwürfe und Mandantenkorrespondenz vorzubereiten

• Due-Diligence-Prüfungen durch das strukturierte Extrahieren und Zusammenfassen von Informationen aus großen Dokumentensätzen effizienter zu gestalten

• Ungewöhnliche oder risikoreiche Klauseln zu identifizieren und Entwürfe mit Standard-Templates abzugleichen

• Vertragsklauseln mit regulatorischen Anforderungen wie DSGVO, GwG, ESG oder DORA abzugleichen

• Dynamische Vorlagen zu erstellen, die sich an die jeweilige Vertragskategorie, Rechtsordnung oder Parteiendetails anpassen

LLM-Modelle, die Juristen kennen sollten

Verschiedene LLM-basierte Tools besitzen unterschiedliche Stärken. Öffentliche Modelle sind jedoch nicht für den Umgang mit sensiblen Mandanten- oder Unternehmensdaten lizenziert. Sie eignen sich primär für allgemeine, risikoarme Aufgaben. Für alle Mandatsarbeiten, die Vertraulichkeit erfordern, sind dedizierte juristische KI-Plattformen der einzig sichere Weg.

Einige Tools ermöglichen den Zugriff auf universelle LLMs über APIs. Hierzu gehören die Angebote von OpenAI oder Anthropic. Sie sind schnell einsatzbereit, werfen jedoch erhebliche Fragen hinsichtlich des Datenschutzes, der Datensicherheit und berufsrechtlicher Risiken auf.

Andere Anwendungen basieren auf Open-Source-Modellen wie Mistral oder LLaMA. Diese können in einer privaten Cloud oder On-Premise gehostet werden, was die volle Kontrolle über die Datensicherheit gewährleistet, jedoch meist eine höhere IT-Infrastruktur und Betreuung erfordert.

Eine wachsende Anzahl moderner Legal-Tech-Plattformen nutzt heute das Prinzip der „Modell-Agnosie“. Das bedeutet, dass die Plattform nicht an ein bestimmtes LLM gebunden ist, sondern für jede spezifische Aufgabe das jeweils am besten geeignete Modell auswählt. Das ist deshalb so wichtig, weil die Werkzeuge unterschiedliche Stärken haben: Ein Modell analysiert komplexe Verträge präziser, ein anderes navigiert sicherer durch regulatorische Vorschriften. Zudem verhindert dieser Ansatz eine strategische Abhängigkeit von einem einzigen Anbieter. LEGALFLY arbeitet modellagnostisch: Aufgaben werden automatisch an das optimal passende Modell gerichtet, während sämtliche Daten vorab anonymisiert werden, um die anwaltliche Verschwiegenheit absolut zu wahren.

Mehr erfahren: Sicherheit, Zuverlässigkeit und Validität bei LEGALFLY

Wie LLMs lernen und Daten verarbeiten

LLMs werden mit extrem großen Textmengen trainiert – darunter Fachbücher, wissenschaftliche Artikel, Websites und z. T. lizenzierte Datenbanken. Während dieses Trainings lernt das Modell statistische Verknüpfungen und Sprachstrukturen; es speichert die Originaldokumente jedoch nicht so ab, dass sie später wieder eins zu eins abgerufen werden könnten.

Geben Sie als Jurist Informationen in ein LLM ein, werden diese primär verarbeitet, um die Antwort für die aktuelle Sitzung zu generieren. Bei professionellen Enterprise-Modellen fließen diese Inputs nicht in das öffentliche Training des Modells ein. Einige Anbieter nutzen Konversationsverläufe jedoch standardmäßig zur Systemverbesserung, sofern man dem nicht aktiv widerspricht (Opt-out). Daher ist eine genaue Prüfung der Datenschutzbestimmungen des jeweiligen Anbieters unerlässlich.

Eine häufige Sorge ist, ob Ihre vertraulichen Eingaben später in den Antworten Dritten angezeigt werden könnten. Das ist ausgeschlossen. Das Modell kopiert oder verteilt keine Prompts oder Dokumente. Die Antworten entstehen ausschließlich aus den erlernten statistischen Mustern.

Für die juristische Praxis bleibt entscheidend: Ein LLM besitzt kein aktives „Wissen“ im Sinne einer juristischen Datenbank. Es generiert plausible Sprache auf Basis von Wahrscheinlichkeiten. Die Qualität des Endergebnisses hängt entscheidend davon ab, wie das Modell trainiert und mit welchen juristischen Datenarchitekturen es verknüpft wurde.

Mehr erfahren: Die unterschätzten IT-Sicherheitsrisiken von KI in Unternehmen

Wie LLMs das juristische Berufsbild verändern

LLMs verschieben die Gewichtung der täglichen Aufgaben in Kanzleien und Rechtsabteilungen. Richtig konfigurierte Systeme erstellen heute solide Erstentwürfe, Klausel-Vergleiche und präzise Zusammenfassungen. Dadurch verlagert sich der Fokus von zeitintensiven Routinetätigkeiten hin zu strategisch anspruchsvollen Aufgaben, die juristische Bewertung, Urteilsvermögen und wirtschaftlichen Kontext erfordern.

Für Junganwälte und Associates bedeutet dies die Chance, neue Kompetenzen zu entwickeln:

• Das Veredeln und Finalisieren von KI-generierten Entwürfen auf das geforderte Kanzlei- oder Mandantenniveau

• Die gezielte Identifikation von Lücken, Fehlern oder zu vagen Formulierungen im KI-Output

• Das Übersetzen von KI-Zusammenfassungen in konkrete strategische Handlungsempfehlungen für Transaktionen oder Verfahren

• Die rechtliche Lösung von komplexen Ausnahmefällen, die außerhalb der gängigen Muster liegen, die das LLM gelernt hat

Für erfahrene Juristen und Partner gewinnt die strategische Steuerung an Bedeutung:

• Die Entscheidung darüber, an welchen Stellen LLMs in den Workflows echten Mehrwert stiften und wo weiterhin eine rein manuelle Bearbeitung zwingend erforderlich ist

• Die Definition von Qualitätsstandards, damit Teams genau wissen, wann ein KI-Entwurf als Arbeitsgrundlage ausreicht und wann nachgebessert werden muss

• Die Anleitung der Teams zur optimalen Formulierung von Prompts und zur kritischen Plausibilitätsprüfung der Ergebnisse

• Die Nutzung von KI-Ergebnissen als fundierte Basis für strategische Verhandlungsentscheidungen und die Mandantenkommunikation

Da die Nutzung von LLMs zum Standard wird, etabliert sich die Fähigkeit zur produktiven Interaktion mit diesen Systemen als neue juristische Kernkompetenz. Richtig eingesetzt, entlasten LLMs Juristen aller Karrierestufen von repetitiven Schreibarbeiten und schaffen Raum für das, was wirklich zählt: Beratung, Verhandlung und die persönliche Betreuung der Mandanten.

Mehr erfahren: 

Der LEGALFLY-Leitfaden für KI bei juristischen Dokumenten: Einsatzbereiche und Best Practices

Effiziente Vertragsprüfung und -analyse mittels KI 

Wichtige Fragen an Software-Anbieter

Mit diesen gezielten Fragen lässt sich schnell evaluieren, ob ein KI-Tool die strengen Anforderungen erfüllt, die in der juristischen Praxis gelten.

• Auf Basis welcher Daten wurde das Modell trainiert?

• Erfolgt das Hosting des Modells in Deutschland oder der EU bzw. an einem Standort, der unsere Anforderungen an die Datensouveränität lückenlos erfüllt?

• Wie werden sensible Daten und personenbezogene Informationen geschützt, bevor sie das Modell erreichen?

• Werden Prompts und generierte Antworten gespeichert? Werden sie für das Training des Modells genutzt?

• Sind die System-Logs auditierbar? Lassen sich die Ergebnisse transparent nachvollziehen und erklären?

Diese Fragen im Vorfeld zu klären, schützt vor Compliance-Risiken und stellt sicher, dass Rechtsabteilungen und Kanzleien stets die volle Kontrolle über ihre Arbeitsergebnisse und Daten behalten.

Mehr erfahren: So bewerten Sie juristische KI-Plattformen in nur 10 Minuten

So wählen Sie die passende Legal-AI-Lösung

LLMs liefern das technologische Fundament, um Texte in großem Stil zu generieren, zu vergleichen und zu analysieren. Für sich genommen sind sie jedoch lediglich mächtige Rohmotoren. Was sie in der Praxis wirklich wertvoll macht, sind die darauf aufbauenden spezialisierten Anwendungen. Erst sie überführen die Leistung der LLMs in strukturierte Workflows, die Juristen direkt für die Vertragsprüfung, Compliance-Audits oder Due-Diligence-Prozesse nutzen können.

Durchdachte juristische KI-Plattformen ergänzen die Kernmodelle um die in der Praxis entscheidenden Features: professionelle Templates, mehrstufige Prüfprozesse, rollenbasierte Zugriff Rechte und die nahtlose Integration in bereits etablierte Softwaresysteme. Erst dadurch wird aus einem allgemeinen Sprachmodell ein verlässliches juristisches Werkzeug.

Wenn Ihr Team eine professionelle und sichere Kanzlei-KI sucht: LEGALFLY wurde speziell für juristische Arbeitsabläufe entwickelt, schützt sensible Daten konsequent durch Anonymisierung und liefert messbare Effizienzgewinne.

Die Plattform verbindet die Leistung führender LLMs mit modernsten Datenschutzstandards, strukturierten Prüfprozessen und Workflows, die sich nahtlos in Ihre tägliche Arbeit integrieren lassen – sogar direkt in Microsoft Word. Ob Vertragsprüfung, Compliance-Check oder die Erstellung intelligenter Vorlagen: Mit LEGALFLY arbeiten Sie schneller, ohne jemals die Kontrolle abzugeben.