Un cabinet d'avocats américain présente ses excuses après que des "hallucinations" liées à l'IA se soient retrouvées dans un document juridique.
https://www.zerohedge.com/ai/us-law-firm-apologizes-after-ai-hallucinations-made-it-legal-filing
Article rédigé par Brayden Lindrea via CoinTelegraph.com,
Le cabinet d'avocats Sullivan & Cromwell, basé à Wall Street, a présenté ses excuses à un juge fédéral après avoir déposé un document judiciaire contenant une quarantaine de citations incorrectes et d'autres erreurs dues à des dysfonctionnements de l'intelligence artificielle.
« Nous regrettons profondément ce qui s'est passé », a écrit vendredi Andrew Dietderich, co-responsable de l'équipe de restructuration mondiale de Sullivan & Cromwell, dans une lettre adressée au juge en chef Martin Glenn du tribunal des faillites du district sud de New York.
« Le cabinet et moi-même sommes pleinement conscients de notre responsabilité d’assurer l’exactitude de toutes les soumissions, y compris en vertu de la règle locale de faillite 9011-1(d), et j’assume la responsabilité du manquement à cette obligation », a-t-il déclaré à propos d’une requête d’urgence déposée neuf jours plus tôt.
Extrait de la lettre d'Andrew Dietderich au juge en chef Martin Glenn. Source : Sullivan & Cromwell
Cet incident met en lumière les risques que peuvent engendrer les outils d'IA dans le cadre de missions professionnelles à forts enjeux, en l'absence d'une supervision adéquate. Une base de données gérée par le spécialiste des technologies juridiques Damien Charlotin a recensé 1 334 cas d' erreurs causées par l'IA dans des documents judiciaires du monde entier, dont plus de 900 aux États-Unis.
Charlotin a souligné que la plupart de ces erreurs impliquent des citations fabriquées, même si des arguments juridiques générés par l'IA ont également été occasionnellement identifiés.
Dietderich a déclaré que Sullivan & Cromwell disposait de politiques en place pour l'utilisation des outils d'IA, qui comprennent un examen des citations utilisées, mais a ajouté que ces politiques n'avaient pas été respectées.
« Malheureusement, ce processus de vérification n’a pas permis d’identifier les citations inexactes générées par l’IA, ni d’autres erreurs qui semblent résulter, en tout ou en partie, d’une erreur humaine. »
Sullivan & Cromwell est l'un des plus grands cabinets d'avocats des États-Unis en termes de chiffre d'affaires, occupant la 30e place du classement AmLaw Global 200. Le cabinet a également représenté la plateforme d'échange de cryptomonnaies FTX dans sa procédure de faillite.
Sullivan & Cromwell mène une enquête interne
Dietderich a déclaré que le cabinet d'avocats avait pris des « mesures correctives immédiates », notamment un examen complet des circonstances ayant conduit aux erreurs.
L’entreprise « évalue également si des améliorations supplémentaires à ses processus internes de formation et d’évaluation sont justifiées », a déclaré Dietderich.
Dietderich a également noté que les erreurs avaient été repérées par un cabinet d'avocats concurrent.
« J’ai également appelé le cabinet Boies Schiller Flexner LLP vendredi pour les remercier d’avoir porté cette affaire à notre attention et pour leur présenter directement mes excuses », a-t-il déclaré.
Le mot "hallucination" était tellement inattendu dans ce contexte de l'IA que je lui avais préféré "erreur" et s'en est une . L'hallucination de l'IA existe bien telle une maladie mentale.
RépondreSupprimer