Anwälten in Virginia drohen mögliche Sanktionen wegen angeblichen KI-Missbrauchs

Ein Bundesrichter im westlichen Bezirk von Virginia hat Anwälte, die einen Kläger in einer Whistleblower-Klage vertreten, gebeten, anzugeben, warum sie nicht diszipliniert werden sollten, weil sie angeblich künstliche Intelligenz (KI) zur Einreichung erfundener rechtlicher Zitate eingesetzt haben. Die Anwälte sollen einen Schriftsatz eingereicht haben, der „scheinbar fiktive Fälle und Zitate“ enthielt, was Richter Thomas T. Cullen dazu veranlasste, eine Vorführungsanordnung zu erlassen.

Die Anordnung ergeht, nachdem der Anwalt des Klägers gegen eine Schutzanordnung des US-Richters Joel C. Hoppe im Fall Iovino gegen Michael Stapleton Associates, Ltd. Einspruch erhoben hat. Der Beklagte wies auf mehrere Probleme mit dem Schriftsatz des Klägers hin, darunter Verweise auf Fälle, in denen dies nicht der Fall war existieren und Zitate, die nicht gefunden werden können. Richter Cullen hat die Anwälte gebeten, bis zum 14. August zu erklären, warum er sie nicht sanktionieren oder sie wegen beruflichen Fehlverhaltens an die Anwaltskammern ihres jeweiligen Bundesstaates verweisen sollte.

Anwälte, denen die Verwendung gefälschter Zitate vorgeworfen wird, lösen rechtliche Untersuchungen aus

Richter Cullen legte das mutmaßliche Fehlverhalten in einem Memorandum dar und stellte fest, dass die in den Einwänden des Klägers verwendeten Quellen und Zitate offenbar völlig erfunden waren. In der Gegenschrift des Beklagten zu den Einwänden wurde darauf hingewiesen und darauf hingewiesen, dass diese falschen Zitate möglicherweise auf den unkontrollierten Einsatz von KI zurückzuführen sein könnten, wahrscheinlich durch Software wie ChatGPT. Ein konkretes Zitat, das angeblich Ausdrücke aus Graves v. Lioi zitierte, war in der tatsächlichen Stellungnahme des Vierten Gerichtsbezirks nicht vorhanden.

Die Anwälte des Klägers reagierten nicht auf diese Vorwürfe über erfundene Zitate – ein Schweigen, das Richter Cullen als „ohrenbetäubend“ bezeichnete. Dieses Versagen hat weitere Fragen zur Integrität des Rechtssystems aufgeworfen und dazu, ob KI während des Entwurfsprozesses missbraucht werden kann.

Richter Cullen erklärte zwar, dass der Einsatz von KI für juristische Arbeiten nicht grundsätzlich falsch sei, merkte jedoch an, dass jeder Anwalt, der sich für eine solche Technologie entscheidet, bei jedem Zitat und Zitat auf die Richtigkeit achten muss.

Er warnte davor, dass vorsätzlicher oder unbeabsichtigter Missbrauch von KI schwerwiegende Konsequenzen nach sich ziehen könnte, etwa der Vorwurf der Bösgläubigkeit oder eines vorsätzlichen Versuchs, das Gericht in die Irre zu führen und so eine Beweisanordnung zu erlassen, um die Integrität des Verfahrens zu schützen und den Ursprung angeblich falscher Hinweise aufzuklären.