Sullivan & Cromwell biedt rechtbank excuses aan nadat AI valse juridische citaten genereert

TLDR

• Prestigieus advocatenkantoor dient gerechtelijk document in met door AI verzonnen citaten

• Sullivan & Cromwell erkent verificatiefouten in faillissementszaak

• Door AI gegenereerde onjuistheden ondermijnen federale rechtbankindiening

• Tegenpartij ontdekt verzonnen jurisprudentie in juridische indiening

• Incident onderstreept kritieke behoefte aan verbeterde AI-validatieprotocollen

De juridische sector staat opnieuw onder de loep wat betreft de betrouwbaarheid van kunstmatige intelligentie, na een ernstige fout van een vooraanstaand Amerikaans advocatenkantoor. Sullivan & Cromwell heeft publiekelijk erkend een gerechtelijk document te hebben ingediend dat vol stond met door AI verzonnen zaakcitaten en onjuiste juridische verwijzingen. Het incident heeft het kantoor ertoe aangezet een uitgebreid intern onderzoek in te stellen naar zijn AI-beveiligingsmaatregelen.

Verzonnen Citaten Ondermijnen Federale Rechtbankindiening

Het prestigieuze advocatenkantoor ontdekte aanzienlijke fouten in een Chapter 15-faillissementsdocument gerelateerd aan de Prince Group-rechtszaak. Kunstmatige-intelligentiesystemen produceerden fictieve zaakverwijzingen en analyseerden bepalingen in de Amerikaanse faillissementswetgeving onjuist. Deze verzinsels werden opgenomen in materialen die werden ingediend bij een federale faillissingsrechtbank in New York.

Andrew Dietderich, die toezicht houdt op de restructureringsafdeling van het kantoor, nam persoonlijk verantwoordelijkheid voor de tekortkomingen van het document. Hij bevestigde dat hoewel het kantoor gevestigde AI-gebruiksrichtlijnen hanteert, deze protocollen niet werden gevolgd tijdens de totstandkoming van dit specifieke document. De organisatie heeft sindsdien herstelmaatregelen genomen om herhaling van door AI veroorzaakte fouten in toekomstige juridische indieningen te voorkomen.

Boies Schiller Flexner, optredend namens de tegenpartijen, identificeerde discrepanties en bracht deze onder de aandacht van de rechtbank. Hun onderzoek bracht aan het licht dat bepaalde genoemde zaken volledig onbestaand waren of volledig niet-gerelateerde rechterlijke uitspraken citeerden. Het kantoor diende vervolgens een herziene versie in met aantekeningen die de door AI geproduceerde fouten duidelijk identificeren.

Verificatiefouten Benadrukken Systemische AI-uitdagingen

Dit voorval toont de wijdverspreide moeilijkheden aan waarmee advocatenkantoren worden geconfronteerd bij het integreren van kunstmatige intelligentie om de productiviteit te verhogen en zaaklast te beheren. Talrijke juridische praktijken zetten AI-systemen in voor juridisch onderzoek en documentcreatie, maar ontoereikende verificatieprotocollen blijven kwetsbaarheden creëren. Juridische professionals moeten de spanning tussen operationele efficiëntie en nauwkeurigheid navigeren bij het inbedden van AI in hun werkprocessen.

Sullivan & Cromwell heeft verklaard strenge AI-gebruiksbeleid te handhaven, inclusief verplichte menselijke beoordeling van alle door AI gegenereerde materialen. Het kantoor gaf toe dat kwaliteitscontrolemechanismen in deze zaak faalden, waardoor defecte inhoud ongecontroleerd kon doorgaan. Het incident heeft het onderzoek naar AI-governancekaders binnen kritieke juridische contexten vergroot.

Branchegegevens onthullen een toenemende frequentie van AI-hallucinaties in gerechtelijke indieningen, met name betrekking op uitgevonden juridische precedenten. Onderzoek documenteert meer dan 1.300 dergelijke voorvallen wereldwijd, met de meerderheid geconcentreerd in Amerikaanse rechtbanken. Dit opkomende patroon onderstreept de noodzaak van strengere authenticatiemechanismen bij het inzetten van AI in juridische documentatieprocessen.

Implicaties Reiken Verder dan Geïsoleerd Incident

De Prince Group-rechtszaak is gericht op beschuldigingen van uitgebreide fraudeschema's, waaronder gedwongen arbeidspraktijken en financieel wangedrag. Amerikaanse aanklagers hebben zowel strafrechtelijke procedures als pogingen tot inbeslagneming van eigendommen geïnitieerd in verband met de activiteiten van de organisatie. Precisie in juridische documenten is daardoor van het grootste belang in zaken met ingewikkelde transnationale beschuldigingen.

Sullivan & Cromwell heeft eerder cliënten vertegenwoordigd in prominente zaken, waaronder de insolventieprocedures van de FTX-beurs. Het kantoor rekent premiumtarieven en beheert complexe reorganisatiezaken die meerdere rechtsgebieden bestrijken. Deze AI-gerelateerde storing heeft vragen opgeroepen over kwaliteitscontrole bij grote juridische ondernemingen.

Het kantoor handhaaft zijn lopende interne onderzoek terwijl het onderwijsprogramma's en nalevingskaders voor het beheer van kunstmatige intelligentie herbeoordeelt. Het doel omvat het versterken van beschermende maatregelen en het vergroten van verantwoordelijkheid gedurende documentcreatiewerkprocessen. Nu de integratie van kunstmatige intelligentie versnelt, wordt de juridische sector geconfronteerd met toenemende verwachtingen om betrouwbaarheid te garanderen en kostbare fouten te elimineren.

The post Sullivan & Cromwell Issues Court Apology After AI Generates False Legal Citations appeared first on Blockonomi.