KI-Halluzinationen in der juristischen Praxis: Ursachen und Methoden zur verlässlichen Prüfung jeder Fundstelle

KI-Halluzinationen in der juristischen Praxis sind kein Phänomen früher Tools, das mittlerweile behoben wurde. Sie sind vielmehr eine direkte Konsequenz der Funktionsweise großer Sprachmodelle bei der Texterstellung. Mittlerweile gibt es zahlreiche dokumentierte Beispiele dafür in Schriftsätzen, Mandantenberatungen und Vertragsprüfungen. 

Das Problem liegt dabei nicht im Fehler an sich – auch Berufsanfängern unterlaufen Fehler –, sondern darin, dass ein halluziniertes Urteil, ein Zitat oder eine Vertragsklausel täuschend echt wirkt: mit korrekter Formatierung, plausiblen Parteibezeichnungen und einer präzisen Zusammenfassung der Entscheidungsgründe. Auf den ersten Blick deutet nichts darauf hin, dass der Inhalt frei erfunden ist.

Der folgende Leitfaden erläutert, warum Halluzinationen entstehen, wo sie sich in der juristischen Automatisierung verbergen und welche berufsrechtlichen Sorgfaltspflichten Sie treffen. Zudem erhalten Sie eine praxisnahe Checkliste zur Verifizierung jeder Fundstelle vor der Weitergabe sowie einen Fragenkatalog, mit dem Sie Anbieter von Legal-AI-Lösungen gezielt dazu befragen können, wie deren Systeme eine verlässliche Bindung an reale Quellen sicherstellen. 

Wenn Sie die Theorie überspringen und direkt sehen möchten, wie ein spezialisiertes Legal-AI-Tool Halluzinationen auf ein Minimum reduziert, buchen Sie eine Demo von LEGALFLY.

Gabby MacSweeney

Leitung Marketing

Buchen Sie noch heute Ihre persönliche Produktpräsentation

Um zu erfahren, wie LEGALFLY Sie unterstützen kann, vereinbaren Sie gerne ein Gespräch mit einem unserer Experten.

Wie KI-Halluzinationen in der juristischen Praxis aussehen

Eine KI-Halluzination bezeichnet Informationen, die als Tatsachen dargestellt werden, obwohl sie aus keiner Quelle stammen. Ein Präzedenzfall, ein Zitat, eine Vorschrift oder eine Vertragsklausel, die vom Modell generiert statt recherchiert wurde, ist eine Halluzination. In der juristischen Arbeit lassen sich diese in einige typische Kategorien einteilen.

In gerichtlichen Schriftsätzen treten frei erfundene Zitate am häufigsten auf, während für Inhouse-Teams Fehlinterpretationen von Verträgen das größte Risiko darstellen. Halluzinationen beschränken sich jedoch nicht auf die Rechtsrecherche – KI kann sie bei jeder Analyse, Zusammenfassung oder Informationsextraktion erzeugen.

Warum KI-Halluzinationen auftreten

Ein Large Language Model schlägt Fakten nicht nach, sondern prognostiziert den wahrscheinlichsten nächsten Textbaustein anhand von Mustern in seinen Trainingsdaten. Obwohl diese Texte meist sinnvoll und sachlich zutreffend sind, können Fehler entstehen, für deren Verifizierung dem Modell die Mechanismen fehlen. Juristische Texte bringen zusätzliche Komplexität mit sich:

  • Sie folgen hochgradig vorhersehbaren Strukturen: Parteibezeichnungen, Aktenzeichen und Gesetzesverweise unterliegen strengen Formaten. Dadurch kann das Modell Angaben erzeugen, die formal exakt wie ein juristisches Zitat aussehen, ohne dass ein reales Verfahren zugrunde liegt.

  • Trainingsdaten sind unvollständig und veraltet: Viele Gerichtsentscheidungen, insbesondere von Instanzgerichten oder kleineren Jurisdiktionen, sind in den Trainingsdaten kaum oder gar nicht vorhanden. Zudem ändert sich die Rechtslage nach dem Trainingsstichtag. Fehlen Informationen, schließt das Modell diese Lücken mit plausibel klingenden Inhalten.

  • Modelle sind darauf trainiert, stets eine Antwort zu liefern: Ein allgemeiner Chatbot ist darauf optimiert, hilfreich zu sein. Wird er nach einer Rechtsquelle zur Stützung einer These gefragt, tendiert er dazu, eine solche anzuführen – selbst wenn keine existiert.

  • Fehlende Quellenanbindung: Die Halluzinationsrate sinkt drastisch, wenn ein Modell Antworten zwingend aus abgerufenen, verifizierten Quellen ableiten und jede Aussage belegen muss, anstatt allein auf sein Modellwissen zurückzugreifen.

  • Lange und komplexe Dokumente: Bei der Vertragsprüfung können KI-Modelle Klauseln vermengen, Parteien verwechseln oder Bestimmungen aus einer Vereinbarung fälschlicherweise in die Zusammenfassung einer anderen übertragen – insbesondere bei umfangreichen Vertragswerken oder großen Dokumentenbeständen.

  • Suggestive Prompts: Eingaben, die das Ergebnis vorwegnehmen (wie etwa „Finde das Urteil, das besagt, dass...“), verleiten das Modell dazu, diese Annahme ungeprüft zu bestätigen.

In den am 6. Juni 2025 gemeinsam ergangenen Entscheidungen Ayinde v London Borough of Haringey und Al-Haroun v Qatar National Bank stellte der Divisional Court unmissverständlich fest: Frei verfügbare generative KI-Tools wie ChatGPT sind nicht in der Lage, eine zuverlässige juristische Recherche durchzuführen. Dies bedeutet keineswegs, dass KI in der juristischen Fallbearbeitung gemieden werden sollte – wohl aber, dass speziell für juristische Anwendungen entwickelte Lösungen einen klaren Vorteil bieten und Arbeitsergebnisse stets verifiziert werden müssen.

Das Ausmaß des Problems

Die von Damien Charlotin gepflegte Datenbank „AI Hallucination Cases“, die Gerichts- und Schiedsgerichtsentscheidungen zu KI-generierten Falschangaben erfasst, führt weltweit 2.202 Entscheidungen auf. 

Sie verzeichnet zudem ein exponentielles Wachstum in den Vereinigten Staaten: von 11 Fällen im Jahr 2023 auf 37 im Jahr 2024, 526 im Jahr 2025 und 574 allein im ersten Halbjahr 2026. Da die Datenbank fortlaufend aktualisiert wird, sind diese Zahlen eher als Untergrenze denn als endgültige Bilanz zu verstehen.

Wo sich KI-Halluzinationen in juristischen Automatisierungen verbergen

In den Medien wird meist darüber berichtet, wie Richter Fehler in Schriftsätzen aufdecken. Inhouse-Teams tragen jedoch dieselben Risiken bei Arbeitsergebnissen, die womöglich nie ein Gericht erreichen. Bei der juristischen Automatisierung treten KI-Halluzinationen vor allem in vier Bereichen auf:

  • Rechtsrecherche und Gutachten: Der klassische Fall, in dem eine Antwort auf eine Rechtsfrage entweder eine nicht existierende Rechtsquelle zitiert oder eine reale Entscheidung für eine unzutreffende Rechtsauffassung anführt. Landet eine solche Halluzination in einer Vorstandsvorlage oder einem internen Vermerk statt in einer Gerichtsakte, kann sie über Monate hinweg unbemerkt bleiben.

  • Vertragsprüfung und Datenextraktion: KI-gestützte Prüfungstools analysieren Klauseln, Werte, Fristen sowie Pflichten und erfinden mitunter eine Haftungsobergrenze, die im Vertrag nicht vorkommt, übernehmen Kündigungsfristen aus einem anderen Vertrag oder melden fälschlicherweise „Keine Change-of-Control-Klausel gefunden“. Solche Fehler sind schwerer zu erkennen als ein erfundenes Urteil, da der Prüfer auf keine externe Datenbank zurückgreifen kann, sondern allein den Vertrag vorliegen hat.

  • Vertragserstellung: Dokumentengeneratoren können Gesetzesverweise, definierte Begriffe oder Standardklauseln einfügen, die weder zum anwendbaren Recht noch zum restlichen Dokumentenkontext passen. Der Verweis auf eine aufgehobene Vorschrift oder einen nicht existierenden Paragrafen wird in einem umfangreichen Entwurf leicht übersehen.

  • Mehrstufige und agentenbasierte Workflows: Verknüpfen KI-Agenten Aufgaben miteinander – wie Triage, Prüfung, Redlining und Zusammenfassung –, wird ein früher Fehler fortgeschrieben und mit wachsender Gewissheit wiederholt. Erreicht die Zusammenfassung schließlich die Fachabteilung, kann der ursprüngliche Fehler bereits mehrere Schritte von der eigentlichen Quelle entfernt sein. Aus diesem Grund muss jeder Schritt in einem automatisierten Workflow die direkte Verknüpfung zum Quelltext wahren; eine menschliche Überprüfung und Freigabe bleiben unerlässlich.

Wie LEGALFLY KI-Ergebnisse strikt an ihre Quellen bindet

Verifizierung bedeutet nicht, die Antwort der KI ein zweites oder drittes Mal zu lesen, sondern sie mit einer Primärquelle abzugleichen und eine klare personelle Verantwortlichkeit für das Ergebnis sicherzustellen.

LEGALFLY unterstützt Unternehmen dabei, die genannten Leitprinzipien in jeden Workflow zu integrieren: Die Ergebnisse bleiben quellenbasiert, jede Antwort ist überprüfbar und die Rechtsabteilung behält stets die Kontrolle. 

LEGALFLY, das juristische Betriebssystem für Inhouse-Teams, wurde entwickelt, um juristische Prozesse von der Anfrage bis zum Abschluss innerhalb der von der Rechtsabteilung definierten Leitplanken zu steuern. Fünf zentrale Instrumente stellen sicher, dass jede Antwort zusammen mit der zugehörigen Prüfquelle geliefert wird.

Verbringen Sie keine Stunden mehr mit sich wiederholenden rechtlichen Aufgaben

Die meisten Teams, die LEGALFLY nutzen, halbieren ihre Zeit für die Vertragsprüfung bereits innerhalb weniger Wochen nach der Einführung. Buchen Sie eine kurze Demo, um zu sehen, wie es für Ihr Unternehmen funktioniert.

Agent Studio


Im Agent Studio gestalten Rechtsabteilungen ihre Prozessabläufe: Welcher Agent eine Anfrage bearbeitet, welches Playbook angewendet wird, wann eine Eskalation an einen Juristen erfolgt und welche Schritte eine Freigabe erfordern. Bedingte Weiterleitungen, Eskalationsschwellen und Genehmigungsprozesse sind vom ersten Schritt an im Workflow verankert. Jede Aktion ist auditierbar – mit transparenter Argumentation, Quellennachweisen und lückenlosen Aktivitätsprotokollen. 

So verhindert die Automatisierung juristischer Workflows Fehlerketten: Jeder Schritt behält die Verknüpfung zur Primärquelle, und Dokumente werden an allen maßgeblichen Stellen von Fachjuristen freigegeben.


Buchen Sie noch heute Ihre persönliche Produktpräsentation

Um zu erfahren, wie LEGALFLY Sie unterstützen kann, vereinbaren Sie gerne ein Gespräch mit einem unserer Experten.

Anonymisierung


Die Anonymisierung adressiert das Risiko, das neben Halluzinationen zu den zentralen Herausforderungen von KI im Rechtsbereich zählt: die Vertraulichkeit. LEGALFLY anonymisiert Dokumente nach eigenen Angaben als einzige Legal-AI bereits vor Beginn der Analyse – eine bewusste architektonische Entscheidung statt einer bloßen Konfigurationseinstellung. 

Dokumente werden direkt beim Import anonymisiert, noch bevor die Verarbeitung ansetzt. So verlassen personenbezogene Daten zu keinem Zeitpunkt Ihre geschützte Umgebung. Die Lösung ist als SaaS, Single-Tenant oder mit On-Premise-Anonymisierung verfügbar; die Plattform ist nach ISO 27001 zertifiziert sowie SOC 2 Type II konform.


Buchen Sie noch heute Ihre persönliche Produktpräsentation

Um zu erfahren, wie LEGALFLY Sie unterstützen kann, vereinbaren Sie gerne ein Gespräch mit einem unserer Experten.

Discovery


Der Discovery-Agent von LEGALFLY stützt sich auf über 1.000 offizielle juristische Quellen aus mehr als 130 Rechtsordnungen sowie auf Ihre internen Wissensdatenbanken (Richtlinien, Playbooks und Klauselbibliotheken), bevor eine Anfrage beantwortet wird. 

Anwender können die Quellen gezielt auswählen und die maßgeblichen Jurisdiktionen bestimmen. Jede Antwort enthält überprüfbare Zitate und eine nachvollziehbare juristische Begründung.


Buchen Sie noch heute Ihre persönliche Produktpräsentation

Um zu erfahren, wie LEGALFLY Sie unterstützen kann, vereinbaren Sie gerne ein Gespräch mit einem unserer Experten.

Review


Der Review-Agent gleicht Verträge mit Ihren individuellen Playbooks ab und bietet Zugriff auf über 120 von Juristen erstellte Playbooks für mehr als 100 Dokumententypen. 

Er erläutert jede beanstandete Klausel fundiert, weist die zugrunde liegenden Quellen aus und bietet vollständige Nachvollziehbarkeit. So kann der Prüfer jedes Ergebnis direkt am Vertragstext verifizieren, anstatt sich auf eine reine Zusammenfassung verlassen zu müssen.


Wie würden Sie 10 zusätzliche Stunden pro Woche nutzen?

LEGALFLY unterstützt Ihr Team dabei, effizienter zu arbeiten: weniger Zeit für Vertragsarbeit, mehr Zeit für das Wesentliche. Vereinbaren Sie ein Gespräch, um die Plattform in Aktion zu erleben.

Contract Intelligence


Extraktionsfehler verlieren mit der Vertragsunterzeichnung nicht ihre Brisanz. Eine bei der Prüfung falsch erfasste Kündigungsfrist führt zwei Jahre später zu einem Fristversäumnis – und zu diesem Zeitpunkt gleicht kaum jemand die Daten nochmals mit der Originalurkunde ab.

Contract Intelligence begleitet den gesamten Vertragslebenszyklus – vom ersten Entwurf bis weit über den Abschluss hinaus. Die Lösung visualisiert den Status jedes Vertrags sowie anstehende Maßnahmen: von Verhandlung, Freigabe und E-Signatur bis hin zu Verlängerungen, Beendigungen, Fristen und vertraglichen Verpflichtungen – stets lückenlos verknüpft mit dem Originaldokument.


Verbringen Sie keine Stunden mehr mit sich wiederholenden rechtlichen Aufgaben

Die meisten Teams, die LEGALFLY nutzen, halbieren ihre Zeit für die Vertragsprüfung bereits innerhalb weniger Wochen nach der Einführung. Buchen Sie eine kurze Demo, um zu sehen, wie es für Ihr Unternehmen funktioniert.

Leitfaden zur Verifizierung von Zitaten: Eine Checkliste

Setzt Ihr Team generische KI-Modelle zur Analyse von Rechtsfällen ein, empfiehlt sich vor dem Versand juristischer Dokumente die systematische Prüfung aller Fundstellen, Zitate und Vertragsbezüge anhand folgender Checkliste:

1. Rechtsprechung und Gesetzgebung

  • Jedes Zitat als unbestätigt behandeln: Gehen Sie grundsätzlich davon aus, dass Angaben ungeprüft sind – ungeachtet dessen, wie überzeugend die Formulierung wirkt.

  • Primärquellen heranziehen: Schlagen Sie Entscheidungen in amtlichen Datenbanken oder anerkannten Fachportalen nach (z. B. Entscheidungsdatenbanken der Gerichte, Juris, Beck-Online, BAILII, Find Case Law oder EUR-Lex). Verifizieren Sie ein Zitat keinesfalls durch erneute Nachfrage bei derselben KI oder über Suchmaschinenauszüge.

  • Angaben im Detail abgleichen: Vergleichen Sie Parteinamen, Aktenzeichen, Spruchkörper, Entscheidungsdatum und Randnummern mit der Originalquelle. Jede Abweichung ist ein Warnsignal.

  • Entscheidungstragende Gründe prüfen: Stellen Sie sicher, dass die Fundstelle die Rechtsansicht tatsächlich stützt, dass es sich um tragende Gründe (Ratio Decidendi) und nicht um ein Obiter Dictum handelt und dass der Sachverhalt vergleichbar ist.

  • Wortlautgetreuer Zitatabgleich: Jedes wörtliche Zitat muss exakt so in der Quelle stehen. Weicht der Text ab, geben Sie die Quelle sinngemäß wieder oder entfernen Sie das Zitat.

  • Geltung und Aktualität prüfen: Vergewissern Sie sich, dass die Rechtsprechung nicht überholt, aufgehoben oder durch Rechtsmittelverfahren relativiert wurde und dass die Gesetzesnorm in der zitierten Fassung in Kraft ist.

  • Jurisdiktion kontrollieren: Prüfen Sie, ob die Rechtsquelle für das maßgebliche Recht einschlägig ist (deutsches Recht, EU-Recht oder eine ausländische Rechtsordnung).

2. Vertragsprüfung und Datenextraktion

  • Direkt zur Klausel navigieren: Jede ausgewiesene Regelung, Frist, Zahl und Pflicht muss direkt mit der entsprechenden Textstelle im Dokument verknüpft sein. Fehlt dieser Nachweis, ist die Fundstelle manuell zu prüfen.

  • Aussagen über fehlende Klauseln hinterfragen: Meldet die KI das Fehlen einer Klausel, prüfen Sie den Vertragstext und die Anlagen eigenständig nach. Die Feststellung „nicht vorhanden“ bedarf ebenso eines Belegs.

  • Dokumentenzuordnung sicherstellen: Stellen Sie bei Batch-Prüfungen sicher, dass die Analyseergebnisse dem richtigen Vertrag, der aktuellen Version und den zutreffenden Parteien zugeordnet sind.

3. Freigabeprozess

  • Prüfschritte dokumentieren: Halten Sie fest, wer welche Angaben wann und anhand welcher Quelle geprüft hat, um die Nachvollziehbarkeit für spätere Audits zu gewährleisten.

  • Eskalation bei geschäftskritischen Dokumenten: Schriftsätze an Gerichte, Mitteilungen an Aufsichtsbehörden oder Vorstandsvorlagen sollten stets einer zweiten, qualifizierten Prüfung unterzogen werden.

Besondere Vorsicht ist geboten bei bislang unbekannten Urteilen, die die eigene Argumentation verdächtig perfekt stützen, bei unüblichen Zitierweisen, erstaunlich treffenden Zitaten, Fundstellen, die sich ausschließlich in der KI-Antwort finden, sowie bei Zusammenfassungen mit hoher sprachlicher Bestimmtheit, die keine konkreten Textstellen nennen.

Wie lassen sich KI-Halluzinationen in der Rechtsberatung minimieren?

Fehler im Nachhinein aufzudecken ist wichtig; weitaus effektiver ist es jedoch, Systeme so aufzusetzen, dass Fehler von vornherein vermieden und verbleibende Unstimmigkeiten transparent gemacht werden. 

Hierfür sind neben der zwingend erforderlichen menschlichen Fachprüfung zentrale architekturelle Maßnahmen erforderlich:

Fundierung von Antworten in verifizierten Quellen 

  • Ergebnisse stützen sich sowohl auf interne Dokumente als auch auf externe rechtliche Rahmenwerke.

  • Recherchen greifen auf über 100 verifizierte Rechtsquellen zurück: Gesetze, Rechtsprechung und renommierte Fachverlage, darunter FromCounsel.

  • Nutzer definieren den Prüfumfang: verlässliche, kuratierte Online-Quellen, interne Wissensdatenbanken (einschließlich Fachverlagszugängen) oder eine Kombination aus beidem.

  • Nicht vertrauenswürdige Quellen wie Wikipedia sind ausgeschlossen und fließen zu keinem Zeitpunkt in die Antworten ein.

Zitierfähigkeit und Nachverfolgbarkeit

  • Bei Fragen zu Dokumenten weist LEGALFLY die genaue Textstelle aus, auf der die Antwort basiert, und führt bei Bedarf externe Rechtsquellen an.

  • Jeder Abschnitt einer Antwort referenziert die exakte Quelle (Dokument, Klausel oder Online-Quelle) sowie die zugrunde liegende Sammlung. Per Klick lässt sich die vollständige Originalquelle einsehen.

Erklärbarkeit (Explainability)

  • Anwender können Schritt für Schritt nachvollziehen, wie LEGALFLY zu seinen Ergebnissen gelangt ist.

  • Für KI-gestützte Entscheidungen kann ein vollständiger Prüfbericht exportiert werden, der die angewendeten Playbook-Regeln und externen Quellen ausweist (verwendbar für künftige Compliance-Audits).

Gezielte Begrenzung des Modellspielraums

  • Die Prüfung folgt definierten juristischen Playbooks, anstatt rein spekulative Textänderungen vorzuschlagen.

  • Rechtsabteilungen können verbindliche Formulierungsvorgaben oder strukturierte Richtlinien hinterlegen, statt generische Anpassungen zu erhalten.

  • Kuratierte Wissenssammlungen ermöglichen die konsistente Abfrage interner Dokumente, freigegebener Muster und externer Rechtsquellen.

  • Review wartet nun vor der Neuformulierung auf die Rückmeldungen des Anwenders, anstatt Informationslücken durch Vermutungen zu füllen.

Fragen an Anbieter juristischer KI-Lösungen

Bevor Sie eine KI-Lösung für Ihre juristische Arbeit implementieren, sollten Sie den Umgang des Anbieters mit Halluzinationen hinterfragen. Nutzen Sie diesen Fragenkatalog zur Evaluierung; vage Antworten sind dabei oft bereits aussagekräftig genug.

Die letzte Frage ist die entscheidende: Kein seriöser Anbieter wird garantieren, dass sein System ausnahmslos fehlerfrei arbeitet. Eine überzeugende Antwort legt dar, wie Risiken systematisch minimiert werden und wie verbleibende Abweichungen transparent gemacht werden.

Frage

Was eine fundierte Antwort beinhaltet

Auf welche Quellen stützt sich das System bei der Beantwortung?

Konkret benannte, verifizierte Rechtsquellen und eigene Dokumente, inklusive der Möglichkeit, Quellen und Jurisdiktionen individuell festzulegen

Weist jede Antwort ihre Belegquellen aus?

Zitate und direkte Verlinkungen auf die genaue Textstelle – sowohl bei der Recherche als auch bei der Vertragsextraktion

Wie aktuell sind die juristischen Datenbestände?

Verbindlich definierte Aktualisierungszyklen für Rechtsprechung, Gesetzgebung und Fachliteratur

Wie verhält sich das System, wenn keine Antwort auffindbar ist?

Es weist transparent auf das Fehlen hin, anstatt eine plausible Antwort zu fingieren

Lässt sich die Entscheidungsfindung auditieren?

Nachvollziehbare juristische Herleitung und lückenlose Protokollierung aller Aktivitäten

An welchen Stellen ist ein manueller Eingriff durch Juristen möglich?

Konfigurierbare Freigabeprozesse und Eskalationsstufen innerhalb der Workflows

Was geschieht mit unseren Unternehmensdaten?

Anonymisierung, kein Training von Modellen mit Kundendaten, klare Regelungen zu Speicherfristen und Bereitstellungsmodellen

Verspricht der Anbieter eine Quote von null Halluzinationen?

Das sollte er nicht. Wer eine 100-prozentige Fehlerfreiheit garantiert, verkennt die technischen Grenzen gegenwärtiger KI-Modelle

Von der Anfrage zum verlässlichen Ergebnis

Halluzinationen sind in erster Linie ein Problem der Systemarchitektur, bevor sie zu einer Frage der anwaltlichen Sorgfalt werden. Die beschriebenen Kontrollschritte fangen verbleibende Fehler ab – doch das zugrunde liegende Gesamtsystem bestimmt, wie viele Risiken überhaupt bis zum Prüfer vordringen.

Buchen Sie eine Demo und erfahren Sie, wie LEGALFLY juristische Prozesse teams-, rechtsordnungs- und workflowübergreifend steuert, ausführt und revisionssicher absichert.


Vom Antrag bis zum Ergebnis

Erfahren Sie, wie LEGALFLY juristische Arbeit end-to-end über alle Teams, Rechtsräume und Workflows hinweg steuert, ausführt und verwaltet.

Dunkler Farbverlauf-Hintergrund

Vom Antrag bis zum Ergebnis

Erfahren Sie, wie LEGALFLY juristische Arbeit end-to-end über alle Teams, Rechtsräume und Workflows hinweg steuert, ausführt und verwaltet.

Dunkler Farbverlauf-Hintergrund

Vom Antrag bis zum Ergebnis

Erfahren Sie, wie LEGALFLY juristische Arbeit end-to-end über alle Teams, Rechtsräume und Workflows hinweg steuert, ausführt und verwaltet.

Dunkler Farbverlauf-Hintergrund

Häufig gestellte Fragen (FAQs) zu KI-Halluzinationen im Rechtsbereich

Was versteht man unter KI-Halluzinationen in der Rechtsberatung?

Dabei handelt es sich um Aussagen einer KI, die als Tatsachen ausgegeben werden, für die es jedoch in den Quellen keine Grundlage gibt: frei erfundene Gerichtsentscheidungen, fehlerhaft interpretierte Urteile, erdachte Zitate, nicht existierende Gesetzesnormen oder Vertragsklauseln, die im Ausgangsdokument nicht enthalten sind.

Warum erfinden KI-Systeme juristische Zitate?

Sprachmodelle sagen wahrscheinliche Wortfolgen voraus, anstatt Fakten nachzuschlagen. Da juristische Zitate strengen Formatierungsregeln folgen, kann ein Modell Zitate generieren, die täuschend echt wirken, ohne dass eine reale Entscheidung existiert – insbesondere dann, wenn es aus dem Gedächtnis statt aus geprüften Quellen antwortet.

Wie verifiziert man ein KI-generiertes Zitat sachgerecht?

Schlagen Sie die Entscheidung in amtlichen oder etablierten Fachdatenbanken nach, vergleichen Sie sämtliche Zitationsdetails, prüfen Sie den Entscheidungskontext auf inhaltliche Tragfähigkeit, gleichen Sie Zitate wortgetreu ab und stellen Sie sicher, dass die Rechtsnorm aktuell und für die konkrete Jurisdiktion anwendbar ist.

Lassen sich KI-Halluzinationen in automatisierten Prozessen vollständig ausschließen?

Nein. Sie lassen sich jedoch signifikant reduzieren: durch die strikte Bindung an verifizierte Quellen, lückenlose Quellennachweise für jede Einzelaussage, präzise Aufgabenzuschnitte und verbindliche menschliche Freigabeschritte. Eine fachkundige Endkontrolle bleibt unverzichtbar.