Juge critique les avocats pour une recherche en IA bidon

Un juge sanctionne des cabinets d'avocats pour avoir utilisé l'IA sans le déclarer
Dans une récente décision, le juge californien Michael Wilner a infligé une amende conséquente de 31 000 dollars à deux cabinets d'avocats de renom pour avoir secrètement eu recours à l'intelligence artificielle lors d'un procès civil. Selon le juge Wilner, les cabinets ont soumis un mémoire rempli de « citations et références juridiques fausses, inexactes et trompeuses ». Comme l'ont rapporté les professeurs de droit Eric Goldman et Blake Reid sur Bluesky, le juge a exprimé sa frustration face à ce qu'il a considéré comme un mépris irresponsable des normes professionnelles.
« J'avais confiance en le mémoire que j'ai lu », a écrit le juge Wilner dans sa décision. « J'étais convaincu par les autorités qu'ils citaient, alors j'ai approfondi pour examiner ces affaires moi-même. Mais elles n'existaient pas. C'était terrifiant. J'ai failli signer un ordre judiciaire basé sur de fausses informations. »
Selon les documents judiciaires, les problèmes ont commencé lorsque l'équipe juridique du plaignant a engagé un outil d'IA pour élaborer un plan pour un mémoire supplémentaire. Ce plan, cependant, était truffé de contenu fabriqué lorsqu'il a été transmis à K&L Gates, un autre cabinet d'avocats impliqué dans l'affaire. Malheureusement, aucun des deux cabinets n'a pris la peine de vérifier ou de valider les informations avant de les soumettre.
Le juge Wilner a découvert que « au moins deux des autorités citées étaient totalement inexistantes ». Lorsqu'on leur a demandé des éclaircissements, K&L Gates a resoumis le mémoire, mais le juge a découvert encore plus de références fabriquées. En réponse, il a émis une injonction de justification, incitant les deux parties à admettre la vérité sous serment. L'avocat responsable de la création du plan initial a avoué avoir utilisé Google Gemini et des outils de recherche juridique comme Westlaw Precision avec CoCounsel.
Un schéma d'utilisation abusive
Ce n'est pas la première fois que des avocats se retrouvent dans l'embarras à cause d'une mauvaise utilisation de l'IA. L'ancien avocat de Trump, Michael Cohen, avait une fois cité des affaires judiciaires inexistantes après avoir considéré à tort Google Gemini, alors connu sous le nom de Bard, comme un moteur de recherche classique. De même, un juge en Colombie a constaté que des avocats poursuivant une compagnie aérienne avaient parsemé leur mémoire de cas fictifs générés par ChatGPT.
« Cet épisode entier a été rien moins qu'alarmant », a conclu le juge Wilner. « La décision initiale de s'appuyer sur l'IA sans le déclarer était inacceptable. Envoyer un matériel aussi défectueux à d'autres professionnels sans les avertir de son origine douteuse a mis tout le monde en danger. »
Les implications plus larges
La décision met en lumière une préoccupation croissante parmi les professionnels du droit concernant les implications éthiques de l'utilisation de l'IA dans les dépôts judiciaires. Bien que les outils d'IA promettent efficacité et précision, ils comportent également le risque de propager des informations erronées s'ils ne sont pas correctement vérifiés. Comme l'a souligné le juge Wilner, « Aucun avocat raisonnablement compétent ne devrait externaliser ses recherches ou sa rédaction à un algorithme sans vérifier ses résultats. »
Cette affaire sert de rappel frappant de l'importance de la transparence et de la responsabilité dans la pratique juridique. Alors que l'IA continue d'évoluer, il reste crucial pour les praticiens de faire preuve de prudence, en veillant à ce que la technologie renforce, et non compromette, l'intégrité du système judiciaire.
Article connexe
Google teste l'agent IA Remy pour Gemini à mesure que l'accent se déplace vers le contrôle utilisateur
Selon Business Insider, Google teste Remy, un nouvel agent personnel d’IA pour Gemini. Cet outil vise à exécuter des tâches au nom des utilisateurs, rationalisant ainsi les flux de travail professionnels et les routines quotidiennes.Actuellement, Re
Ollie mise sur la protection de la vie privée pour remporter la course aux assistants IA
Pour être véritablement utile, un assistant IA doit comprendre en profondeur son utilisateur. Ollie, un assistant personnel conçu pour la vie quotidienne, part du principe que cela ne nécessite pas de
Comment « AI LIVE : Londres » abordera les thèmes de l'IA et de l'automatisation industrielle
Ce sommet réunira des dirigeants de haut niveau venus du monde entier afin d'aborder les défis urgents auxquels sont confrontés les secteurs d'activité à l'échelle mondiale, allant des bouleversements
Recommandations de sujets spéciaux liés
commentaires (4)
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬

Un juge sanctionne des cabinets d'avocats pour avoir utilisé l'IA sans le déclarer
Dans une récente décision, le juge californien Michael Wilner a infligé une amende conséquente de 31 000 dollars à deux cabinets d'avocats de renom pour avoir secrètement eu recours à l'intelligence artificielle lors d'un procès civil. Selon le juge Wilner, les cabinets ont soumis un mémoire rempli de « citations et références juridiques fausses, inexactes et trompeuses ». Comme l'ont rapporté les professeurs de droit Eric Goldman et Blake Reid sur Bluesky, le juge a exprimé sa frustration face à ce qu'il a considéré comme un mépris irresponsable des normes professionnelles.
« J'avais confiance en le mémoire que j'ai lu », a écrit le juge Wilner dans sa décision. « J'étais convaincu par les autorités qu'ils citaient, alors j'ai approfondi pour examiner ces affaires moi-même. Mais elles n'existaient pas. C'était terrifiant. J'ai failli signer un ordre judiciaire basé sur de fausses informations. »
Selon les documents judiciaires, les problèmes ont commencé lorsque l'équipe juridique du plaignant a engagé un outil d'IA pour élaborer un plan pour un mémoire supplémentaire. Ce plan, cependant, était truffé de contenu fabriqué lorsqu'il a été transmis à K&L Gates, un autre cabinet d'avocats impliqué dans l'affaire. Malheureusement, aucun des deux cabinets n'a pris la peine de vérifier ou de valider les informations avant de les soumettre.
Le juge Wilner a découvert que « au moins deux des autorités citées étaient totalement inexistantes ». Lorsqu'on leur a demandé des éclaircissements, K&L Gates a resoumis le mémoire, mais le juge a découvert encore plus de références fabriquées. En réponse, il a émis une injonction de justification, incitant les deux parties à admettre la vérité sous serment. L'avocat responsable de la création du plan initial a avoué avoir utilisé Google Gemini et des outils de recherche juridique comme Westlaw Precision avec CoCounsel.
Un schéma d'utilisation abusive
Ce n'est pas la première fois que des avocats se retrouvent dans l'embarras à cause d'une mauvaise utilisation de l'IA. L'ancien avocat de Trump, Michael Cohen, avait une fois cité des affaires judiciaires inexistantes après avoir considéré à tort Google Gemini, alors connu sous le nom de Bard, comme un moteur de recherche classique. De même, un juge en Colombie a constaté que des avocats poursuivant une compagnie aérienne avaient parsemé leur mémoire de cas fictifs générés par ChatGPT.
« Cet épisode entier a été rien moins qu'alarmant », a conclu le juge Wilner. « La décision initiale de s'appuyer sur l'IA sans le déclarer était inacceptable. Envoyer un matériel aussi défectueux à d'autres professionnels sans les avertir de son origine douteuse a mis tout le monde en danger. »
Les implications plus larges
La décision met en lumière une préoccupation croissante parmi les professionnels du droit concernant les implications éthiques de l'utilisation de l'IA dans les dépôts judiciaires. Bien que les outils d'IA promettent efficacité et précision, ils comportent également le risque de propager des informations erronées s'ils ne sont pas correctement vérifiés. Comme l'a souligné le juge Wilner, « Aucun avocat raisonnablement compétent ne devrait externaliser ses recherches ou sa rédaction à un algorithme sans vérifier ses résultats. »
Cette affaire sert de rappel frappant de l'importance de la transparence et de la responsabilité dans la pratique juridique. Alors que l'IA continue d'évoluer, il reste crucial pour les praticiens de faire preuve de prudence, en veillant à ce que la technologie renforce, et non compromette, l'intégrité du système judiciaire.
Ollie mise sur la protection de la vie privée pour remporter la course aux assistants IA
Pour être véritablement utile, un assistant IA doit comprendre en profondeur son utilisateur. Ollie, un assistant personnel conçu pour la vie quotidienne, part du principe que cela ne nécessite pas de
Comment « AI LIVE : Londres » abordera les thèmes de l'IA et de l'automatisation industrielle
Ce sommet réunira des dirigeants de haut niveau venus du monde entier afin d'aborder les défis urgents auxquels sont confrontés les secteurs d'activité à l'échelle mondiale, allant des bouleversements
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬





Maison






