Le cabinet d’avocats de Wall Street Sullivan & Cromwell s’est excusé auprès d’un juge fédéral après qu’un dépôt au tribunal comprenait environ 40 citations erronées et d’autres erreurs liées à du contenu généré par l’IA

Résumé

• Sullivan & Cromwell a admis que des erreurs générées par l’IA s’étaient glissées dans un dépôt au tribunal malgré des politiques internes de révision en place.
• Andrew Dietderich a déclaré que le cabinet assumait la responsabilité après que de fausses citations ont été portées devant un tribunal fédéral de faillite.
• Le cabinet a lancé une révision interne après qu’un cabinet rival a signalé les erreurs du dépôt.

Le problème a été porté à la lumière dans une lettre envoyée par Andrew Dietderich, co-responsable de l’équipe de restructuration mondiale du cabinet, au juge en chef Martin Glenn du tribunal de faillite des États-Unis pour le district sud de New York.

Dietderich a indiqué que le dépôt faisait partie d’une motion d’urgence soumise neuf jours plus tôt. Il a dit au tribunal que le cabinet acceptait la responsabilité des erreurs et que les étapes de révision existantes n’avaient pas fonctionné comme prévu dans ce cas.

Le cabinet admet des erreurs de dépôt et assume la responsabilité

Dans la lettre, Dietderich a dit que le cabinet regrettait ce qui s’était passé et reconnaissait son devoir de garantir que les soumissions au tribunal soient exactes. Il a écrit : « Nous regrettons profondément que cela soit arrivé. »

Il a également dit : « Le cabinet et moi sommes pleinement conscients de notre responsabilité d’assurer l’exactitude de toutes les soumissions. » Dietderich a ajouté qu’il assumait la responsabilité de l’échec lié au dépôt.

Le dépôt au tribunal contenait environ 40 citations incorrectes et d’autres erreurs. Le cabinet a dit que ces problèmes étaient causés par des hallucinations et des erreurs de l’IA qui n’avaient pas été détectées avant la soumission.

Dietderich a dit que Sullivan & Cromwell dispose déjà de règles internes pour l’utilisation de l’IA. Ces règles incluent la vérification des citations avant que le document ne soit déposé au tribunal.

Les politiques de révision de l’IA existantes n’ont pas été respectées

Selon Dietderich, le cabinet avait mis en place des politiques pour prévenir ce type de problème, mais les procédures requises n’ont pas été suivies cette fois-ci. Il a dit que le processus de révision n’avait pas permis d’identifier les fausses citations et autres erreurs.

« Malheureusement, ce processus de révision n’a pas permis d’identifier les citations inexactes générées par l’IA, ni d’identifier d’autres erreurs qui semblent résulter en tout ou en partie d’une erreur manuelle », a-t-il écrit.

L’affaire s’ajoute à une liste croissante de dépôts juridiques affectés par des erreurs d’IA. Une base de données gérée par le technologue juridique Damien Charlotin a enregistré 1 334 incidents d’hallucinations de l’IA dans des dépôts judiciaires dans le monde entier, dont plus de 900 aux États-Unis.

Charlotin a dit que beaucoup de ces cas impliquent des citations inventées. Dans certains cas, des arguments juridiques générés par l’IA sont également apparus dans les dépôts.

Révision interne lancée après que le cabinet rival a repéré des erreurs

Dietderich a dit que Sullivan & Cromwell a lancé une enquête interne pour comprendre ce qui a conduit aux erreurs. Il a dit que le cabinet a pris des mesures correctives immédiates et examine si une formation supplémentaire ou des contrôles internes plus stricts sont nécessaires.

Il a aussi noté que les erreurs ont été portées à l’attention du cabinet par le cabinet d’avocats rival Boies Schiller Flexner LLP. Dietderich a dit qu’il a contacté directement ce cabinet pour les remercier et s’excuser.

Sullivan & Cromwell est l’un des plus grands cabinets d’avocats aux États-Unis en termes de revenus. Le cabinet a également été impliqué dans des affaires de haut profil, notamment en représentant FTX dans son cas de faillite.

L’incident a attiré une attention renouvelée sur les risques liés à l’utilisation de l’IA dans le travail juridique, surtout lorsque la revue humaine ne détecte pas les erreurs fondamentales avant le dépôt.