Juez reprende a abogados por 'investigación falsa de IA'

Juez sanciona a bufetes de abogados por usar IA sin revelarlo
En un fallo reciente, el juez de California Michael Wilner impuso una multa de $31,000 a dos prominentes bufetes de abogados por depender secretamente de la inteligencia artificial durante un juicio civil. Según el juez Wilner, los bufetes presentaron un escrito lleno de “citas y referencias legales falsas, inexactas y engañosas”. Según informaron los profesores de derecho Eric Goldman y Blake Reid en Bluesky, el juez expresó su frustración por lo que consideró una negligencia temeraria respecto a los estándares profesionales.
“Confíe en el escrito que leí,” escribió el juez Wilner en su fallo. “Me convencieron las autoridades que citaron, así que investigué esos casos por mi cuenta. Pero no existían. Fue aterrador. Estuve a punto de firmar una orden judicial basada en información falsa.”
Según documentos judiciales, el problema comenzó cuando el equipo legal del demandante contrató una herramienta de IA para elaborar un esquema para un escrito suplementario. Sin embargo, este esquema estaba lleno de contenido fabricado cuando se entregó a K&L Gates, otro bufete involucrado en el caso. Desafortunadamente, ninguno de los bufetes se molestó en verificar o confirmar la información antes de presentarla.
El juez Wilner descubrió que “al menos dos de las autoridades citadas eran completamente inexistentes”. Cuando se les pidió aclaraciones, K&L Gates volvió a presentar el escrito, solo para que el juez descubriera aún más referencias fabricadas. En respuesta, emitió una Orden para Mostrar Causa, lo que llevó a ambas partes a admitir la verdad bajo juramento. El abogado responsable de crear el esquema original confesó haber usado Google Gemini y herramientas de investigación legal como Westlaw Precision con CoCounsel.
Un patrón de mal uso
No es la primera vez que abogados enfrentan problemas por el mal uso de la IA. El exabogado de Trump, Michael Cohen, una vez citó casos judiciales inexistentes tras confundir Google Gemini, entonces conocido como Bard, con un motor de búsqueda regular. De manera similar, un juez en Colombia encontró que abogados que demandaban a una aerolínea habían incluido en su escrito casos falsos generados por ChatGPT.
“Todo este episodio ha sido nada menos que alarmante,” concluyó el juez Wilner. “La decisión inicial de confiar en la IA sin revelarlo fue inaceptable. Enviar material tan defectuoso a otros profesionales sin advertirles sobre su origen cuestionable puso a todos en riesgo.”
Implicaciones más amplias
El fallo destaca una creciente preocupación entre los profesionales del derecho sobre las implicaciones éticas de usar IA en presentaciones judiciales. Aunque las herramientas de IA prometen eficiencia y precisión, también conllevan el riesgo de difundir desinformación si no se verifican adecuadamente. Como enfatizó el juez Wilner, “Ningún abogado razonablemente competente debería delegar su investigación o redacción a un algoritmo sin verificar su resultado.”
El caso sirve como un recordatorio claro de la importancia de la transparencia y la responsabilidad en la práctica legal. A medida que la IA continúa evolucionando, sigue siendo crucial que los profesionales actúen con cuidado, asegurando que la tecnología mejore, y no socave, la integridad del sistema judicial.
Artículo relacionado
Google prueba el agente Remy AI para Gemini a medida que el enfoque se desplaza hacia el control del usuario
Según Business Insider, Google está probando Remy, un nuevo agente personal de IA para Gemini. Esta herramienta tiene como objetivo ejecutar tareas en nombre de los usuarios, optimizando tanto los flujos de trabajo profesionales como las rutinas diar
Ollie apuesta por la privacidad para ganar la carrera de los asistentes de IA
Para resultar realmente útil, un asistente de IA debe comprender a fondo a su usuario. Ollie, un asistente personal diseñado para la vida cotidiana, parte de la premisa de que esto no implica ceder tu
Cómo AI LIVE: Londres explorará la inteligencia artificial y la automatización industrial
La cumbre reunirá a altos directivos de todo el mundo para abordar los retos más acuciantes de los sectores industriales a nivel global, que van desde la disrupción impulsada por la inteligencia artif
Recomendaciones de temas especiales relacionados
comentario (4)
0/500
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬

Juez sanciona a bufetes de abogados por usar IA sin revelarlo
En un fallo reciente, el juez de California Michael Wilner impuso una multa de $31,000 a dos prominentes bufetes de abogados por depender secretamente de la inteligencia artificial durante un juicio civil. Según el juez Wilner, los bufetes presentaron un escrito lleno de “citas y referencias legales falsas, inexactas y engañosas”. Según informaron los profesores de derecho Eric Goldman y Blake Reid en Bluesky, el juez expresó su frustración por lo que consideró una negligencia temeraria respecto a los estándares profesionales.
“Confíe en el escrito que leí,” escribió el juez Wilner en su fallo. “Me convencieron las autoridades que citaron, así que investigué esos casos por mi cuenta. Pero no existían. Fue aterrador. Estuve a punto de firmar una orden judicial basada en información falsa.”
Según documentos judiciales, el problema comenzó cuando el equipo legal del demandante contrató una herramienta de IA para elaborar un esquema para un escrito suplementario. Sin embargo, este esquema estaba lleno de contenido fabricado cuando se entregó a K&L Gates, otro bufete involucrado en el caso. Desafortunadamente, ninguno de los bufetes se molestó en verificar o confirmar la información antes de presentarla.
El juez Wilner descubrió que “al menos dos de las autoridades citadas eran completamente inexistentes”. Cuando se les pidió aclaraciones, K&L Gates volvió a presentar el escrito, solo para que el juez descubriera aún más referencias fabricadas. En respuesta, emitió una Orden para Mostrar Causa, lo que llevó a ambas partes a admitir la verdad bajo juramento. El abogado responsable de crear el esquema original confesó haber usado Google Gemini y herramientas de investigación legal como Westlaw Precision con CoCounsel.
Un patrón de mal uso
No es la primera vez que abogados enfrentan problemas por el mal uso de la IA. El exabogado de Trump, Michael Cohen, una vez citó casos judiciales inexistentes tras confundir Google Gemini, entonces conocido como Bard, con un motor de búsqueda regular. De manera similar, un juez en Colombia encontró que abogados que demandaban a una aerolínea habían incluido en su escrito casos falsos generados por ChatGPT.
“Todo este episodio ha sido nada menos que alarmante,” concluyó el juez Wilner. “La decisión inicial de confiar en la IA sin revelarlo fue inaceptable. Enviar material tan defectuoso a otros profesionales sin advertirles sobre su origen cuestionable puso a todos en riesgo.”
Implicaciones más amplias
El fallo destaca una creciente preocupación entre los profesionales del derecho sobre las implicaciones éticas de usar IA en presentaciones judiciales. Aunque las herramientas de IA prometen eficiencia y precisión, también conllevan el riesgo de difundir desinformación si no se verifican adecuadamente. Como enfatizó el juez Wilner, “Ningún abogado razonablemente competente debería delegar su investigación o redacción a un algoritmo sin verificar su resultado.”
El caso sirve como un recordatorio claro de la importancia de la transparencia y la responsabilidad en la práctica legal. A medida que la IA continúa evolucionando, sigue siendo crucial que los profesionales actúen con cuidado, asegurando que la tecnología mejore, y no socave, la integridad del sistema judicial.
Ollie apuesta por la privacidad para ganar la carrera de los asistentes de IA
Para resultar realmente útil, un asistente de IA debe comprender a fondo a su usuario. Ollie, un asistente personal diseñado para la vida cotidiana, parte de la premisa de que esto no implica ceder tu
Cómo AI LIVE: Londres explorará la inteligencia artificial y la automatización industrial
La cumbre reunirá a altos directivos de todo el mundo para abordar los retos más acuciantes de los sectores industriales a nivel global, que van desde la disrupción impulsada por la inteligencia artif
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬





Hogar






