Juristische KI ohne Halluzinationen einsetzen

Praxisleitfaden für Rechtsanwenderinnen und Rechtsanwender in der Schweiz

Generative KI-Systeme wie ChatGPT, Gemini oder Claude können die juristische Arbeit spürbar unterstützen. Ohne eine klare methodische Steuerung besteht jedoch ein erhebliches Risiko, dass scheinbar überzeugende, tatsächlich aber rechtlich nicht abgestützte Ausführungen entstehen. Dieser Leitfaden zeigt auf, wie solche Systeme im schweizerischen Rechtskontext sachgerecht und zuverlässig eingesetzt werden können.

Begriffliche Grundlagen

Unter generativer KI ist eine Software zu verstehen, die Texte auf der Grundlage von Benutzereingaben erzeugt. Sie verfügt weder über ein normatives Rechtsverständnis noch über eine inhärente Fähigkeit zur Quellenprüfung. Von einer Halluzination spricht man, wenn Aussagen gemacht werden, die rechtlich plausibel erscheinen, jedoch nicht auf eine konkrete Norm, einen Entscheid oder eine anerkannte Lehrmeinung zurückgeführt werden können. Als Quellen gelten sämtliche der KI zur Verfügung gestellten Texte, insbesondere Gesetzesbestimmungen, Verordnungen, Gerichtsurteile, Lehrmeinungen sowie interne Unterlagen. Der Prompt bezeichnet die Arbeitsanweisung an die KI und übernimmt funktional die Rolle eines methodischen Pflichtenhefts.

Strukturelle Ursachen von Halluzinationen

Sprachmodelle arbeiten probabilistisch, indem sie die statistisch wahrscheinlichste Fortsetzung eines Textes berechnen. Sie wenden keine juristische Methodik an und kennen keine Normenhierarchie. Fehlen relevante Quellen, ergänzt das System den Text mit spekulativen Annahmen, ohne diese als unsicher zu kennzeichnen. Für die juristische Praxis, insbesondere im schweizerischen Recht, ist dieses Verhalten nicht akzeptabel. Eine KI darf nicht als eigenständige Rechtsquelle verwendet werden, sondern ausschliesslich als Analyseinstrument auf der Grundlage eines klar definierten Quellenkorpus.

Zentrales Arbeitsprinzip

Die Verlässlichkeit der von einer KI generierten Ergebnisse hängt unmittelbar von der Vollständigkeit und Qualität der zur Verfügung gestellten Quellen ab. Gesetzesbestimmungen sind vollständig wiederzugeben, ebenso die relevanten Erwägungen gerichtlicher Entscheide und die massgeblichen Passagen der Lehre. Der Analyseumfang ist ausdrücklich zu begrenzen, und jede rechtliche Aussage muss auf eine konkrete Quelle zurückgeführt werden können. Fehlt eine notwendige Grundlage, ist dies ausdrücklich festzuhalten, ohne daraus Schlüsse zu ziehen.

Gestaltung der Arbeitsanweisung

Eine juristisch sachgerechte Anweisung verpflichtet die KI, ausschliesslich auf der Grundlage der überlassenen Quellen zu arbeiten, die herangezogenen Stellen präzise zu zitieren und allfällige Informationslücken offen zu benennen. Dadurch wird das Risiko von Halluzinationen erheblich reduziert und die Rolle der KI klar als unterstützendes Analysewerkzeug definiert.

Methodisches Vorgehen

Ausgangspunkt ist eine klar formulierte Rechtsfrage, wie sie auch einem juristischen Mitarbeitenden gestellt würde. In einem zweiten Schritt sind die einschlägigen Quellen zusammenzustellen, wobei im Zweifel der Vollständigkeit der Vorzug vor einer zu engen Auswahl zu geben ist. Anschliessend ist eine klassische juristische Struktur einzufordern, bestehend aus relevanten Sachverhalten, anwendbarem Recht, rechtlicher Würdigung und einer an die Quellen gebundenen Schlussfolgerung. Das Ergebnis ist abschliessend anhand der üblichen juristischen Sorgfalt zu überprüfen; jede nicht belegte Aussage ist kritisch zu hinterfragen und gegebenenfalls zu streichen oder zu präzisieren.

Zulässige Anwendungsfälle in der Praxis

Bei sachgerechtem Einsatz eignet sich KI zur strukturierten Zusammenfassung von Gerichtsurteilen, zur Identifikation von Fristen oder rechtlichen Kriterien, zum Vergleich mehrerer vorgelegter Entscheide oder zur Vorbereitung von Entwürfen, die sich strikt auf die zur Verfügung gestellten Quellen stützen. Unzulässig ist hingegen eine autonome Rechtsrecherche, die Darstellung eines allgemeinen „Stands des Rechts“ ohne explizite Quellenbasis oder die Verwendung nicht verifizierter Rechtsprechungsnachweise.

Vertraulichkeit und Datenschutz

Im schweizerischen Kontext kommt der Vertraulichkeit besondere Bedeutung zu. Cloudbasierte KI-Lösungen führen regelmässig zu einer Übermittlung von Daten ins Ausland, was mit dem Berufsgeheimnis, vertraglichen Verpflichtungen und datenschutzrechtlichen Vorgaben kollidieren kann. Für sensible Mandate kommen daher nur lokal betriebene oder rechtlich hinreichend geprüfte Lösungen in Betracht.

Schlussbemerkung

Generative KI kann die juristische Arbeit in der Schweiz sinnvoll ergänzen, sofern sie methodisch kontrolliert eingesetzt wird. Entscheidend sind die vollständige Bereitstellung der Quellen, eine klare Begrenzung des Analyseumfangs, die konsequente Nachvollziehbarkeit jeder Aussage sowie eine abschliessende menschliche Kontrolle. Die KI ersetzt die juristische Fachperson nicht, sondern erweitert deren Analysefähigkeit, sofern sie konsequent als Werkzeug und nicht als Autorität verstanden wird.