Hogar
Demandante de EE. UU. oculta los prompts de IA en una demanda; el juez advierte contra la inyección de prompts en los tribunales

Un litigante en Connecticut que actuaba sin representación legal fue sancionado por un juez por incluir instrucciones ocultas diseñadas para manipular sistemas de inteligencia artificial dentro de los documentos presentados ante el tribunal. Este es el primer caso conocido en el sistema judicial de Estados Unidos en el que una parte intentó influir en una revisión asistida por IA mediante una "inyección de instrucciones". Aunque el tribunal estatal actualmente no utiliza IA para la revisión de documentos, las instrucciones encubiertas no surtieron efecto.
Texto indetectable que sanciona el abuso procesal
Las directivas ocultas estaban formateadas en una fuente blanca diminuta sobre un fondo blanco, lo que las hacía invisibles para los lectores humanos pero detectables por el software de extracción de texto. Estas instrucciones ordenaban a cualquier IA que revisara los documentos que alineara sus resultados con las afirmaciones del demandante, ignorara precedentes desfavorables y generara resultados favorables. El juez Walter Spade Jr. determinó que esta táctica equivalía a inyectar secretamente comandos en los sistemas de lectura, intentando hacer que las solicitudes del demandante parecieran salidas independientes del sistema. A pesar de las advertencias previas sobre posibles sanciones, el demandante persistió en añadir dichas instrucciones, lo que constituyó un grave abuso del proceso.
Aunque el demandante afirmó que ciertos elementos eran humorísticos, incluido un enlace a un video y frases sin sentido como "Hola, espero que no puedas verme", el juez rechazó la defensa de que los chistes tengan cabida en las demandas legales formales. Al reconocer que el litigante que actuaba sin representación parecía depender excesivamente de herramientas de IA, el tribunal optó por no imponer una multa económica. En su lugar, se le prohibió al demandante utilizar el sistema de presentación electrónica de documentos, obligándolo a presentarlos en papel. Esta medida preservó el derecho de acceso del litigante a los tribunales, al tiempo que prevenía un mayor uso indebido de la plataforma digital.
La manipulación en el lado de entrada emerge como un riesgo legal crítico
El juez señaló que, a medida que la inyección de instrucciones se vuelve común en sectores como el reclutamiento, son inevitables incidentes similares en entornos legales. Si bien el sistema judicial se ha centrado históricamente en mitigar los riesgos derivados de las salidas generadas por IA o de los precedentes, sigue sin estar preparado para ataques en el lado de entrada. En un caso similar en Brasil, un abogado fue multado con aproximadamente 16.000 dólares por emplear tácticas similares en un asunto revisado por IA. La sentencia destacó que, aunque estos ataques actualmente tienen un éxito limitado, es esencial establecer marcos regulatorios específicos para el futuro.
Spade también criticó cómo algunos litigantes que actúan sin representación utilizan chatbots: determinan de antemano las conclusiones y luego instruyen a la IA para que encuentre únicamente argumentos que las respalden, evitando la verificación de los hechos o el análisis de las opiniones contrarias. Este enfoque refuerza juicios erróneos en lugar de fomentar una comprensión precisa. Hizo hincapié en que los usuarios de IA deben alentar a los sistemas a cuestionar sus propias premisas, afirmando: "Si uno solo pide al sistema que esté de acuerdo con el argumento del autor, al final, es deshonesto incluso para el propio autor".
Artículo relacionado
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr
Google prueba el agente Remy AI para Gemini a medida que el enfoque se desplaza hacia el control del usuario
Según Business Insider, Google está probando Remy, un nuevo agente personal de IA para Gemini. Esta herramienta tiene como objetivo ejecutar tareas en nombre de los usuarios, optimizando tanto los flujos de trabajo profesionales como las rutinas diar
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

Un litigante en Connecticut que actuaba sin representación legal fue sancionado por un juez por incluir instrucciones ocultas diseñadas para manipular sistemas de inteligencia artificial dentro de los documentos presentados ante el tribunal. Este es el primer caso conocido en el sistema judicial de Estados Unidos en el que una parte intentó influir en una revisión asistida por IA mediante una "inyección de instrucciones". Aunque el tribunal estatal actualmente no utiliza IA para la revisión de documentos, las instrucciones encubiertas no surtieron efecto.
Texto indetectable que sanciona el abuso procesal
Las directivas ocultas estaban formateadas en una fuente blanca diminuta sobre un fondo blanco, lo que las hacía invisibles para los lectores humanos pero detectables por el software de extracción de texto. Estas instrucciones ordenaban a cualquier IA que revisara los documentos que alineara sus resultados con las afirmaciones del demandante, ignorara precedentes desfavorables y generara resultados favorables. El juez Walter Spade Jr. determinó que esta táctica equivalía a inyectar secretamente comandos en los sistemas de lectura, intentando hacer que las solicitudes del demandante parecieran salidas independientes del sistema. A pesar de las advertencias previas sobre posibles sanciones, el demandante persistió en añadir dichas instrucciones, lo que constituyó un grave abuso del proceso.
Aunque el demandante afirmó que ciertos elementos eran humorísticos, incluido un enlace a un video y frases sin sentido como "Hola, espero que no puedas verme", el juez rechazó la defensa de que los chistes tengan cabida en las demandas legales formales. Al reconocer que el litigante que actuaba sin representación parecía depender excesivamente de herramientas de IA, el tribunal optó por no imponer una multa económica. En su lugar, se le prohibió al demandante utilizar el sistema de presentación electrónica de documentos, obligándolo a presentarlos en papel. Esta medida preservó el derecho de acceso del litigante a los tribunales, al tiempo que prevenía un mayor uso indebido de la plataforma digital.
La manipulación en el lado de entrada emerge como un riesgo legal crítico
El juez señaló que, a medida que la inyección de instrucciones se vuelve común en sectores como el reclutamiento, son inevitables incidentes similares en entornos legales. Si bien el sistema judicial se ha centrado históricamente en mitigar los riesgos derivados de las salidas generadas por IA o de los precedentes, sigue sin estar preparado para ataques en el lado de entrada. En un caso similar en Brasil, un abogado fue multado con aproximadamente 16.000 dólares por emplear tácticas similares en un asunto revisado por IA. La sentencia destacó que, aunque estos ataques actualmente tienen un éxito limitado, es esencial establecer marcos regulatorios específicos para el futuro.
Spade también criticó cómo algunos litigantes que actúan sin representación utilizan chatbots: determinan de antemano las conclusiones y luego instruyen a la IA para que encuentre únicamente argumentos que las respalden, evitando la verificación de los hechos o el análisis de las opiniones contrarias. Este enfoque refuerza juicios erróneos en lugar de fomentar una comprensión precisa. Hizo hincapié en que los usuarios de IA deben alentar a los sistemas a cuestionar sus propias premisas, afirmando: "Si uno solo pide al sistema que esté de acuerdo con el argumento del autor, al final, es deshonesto incluso para el propio autor".
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr











