Indiens Oberster Gerichtshof warnt vor KI-Missbrauch in rechtlichen Akten nach einer Petition zitiert gefälschte Fälle. India's Supreme Court warns against AI misuse in legal filings after a petition cited fake cases.

Indiens Oberster Gerichtshof hat den Missbrauch von KI in rechtlichen Einreichungen markiert, nachdem eine Fallunterlage zahlreiche fabrizierte Gerichtsfälle und verzerrte Präzedenzfälle enthielt. India’s Supreme Court has flagged the misuse of AI in legal filings after a case submission contained numerous fabricated court cases and distorted precedents. Der Fehler, der mit einer Petition von Gstaad Hotels zusammenhängt, veranlasste das Gericht, den Fall trotz der Ungenauigkeiten in der Sache zu verfolgen. The error, linked to a petition by Gstaad Hotels, prompted the court to proceed with the case on its merits despite the inaccuracies. Senior Advocates kritisierte die Verwendung von KI-generierten falschen Zitaten und nannte es eine Verletzung der beruflichen Pflicht. Senior advocates criticized the use of AI-generated false citations, calling it a breach of professional duty. Das Gericht betonte, dass Technologie nicht die Wahrheit oder den richtigen Prozess zu kompromittieren, wobei wachsende Bedenken über KI-Halluzinationen in der juristischen Arbeit. The court emphasized that technology must not compromise truth or due process, highlighting growing concerns over AI hallucinations in legal work.