Maison
Le plaignant américain dissimule des invites d’IA dans une action en justice ; le juge met en garde contre les injections d’invites dans les tribunaux

Un plaideur se représentant lui-même dans le Connecticut a été sanctionné par un juge pour avoir intégré des instructions textuelles cachées destinées à manipuler les systèmes d’intelligence artificielle dans ses pièces de procédure. Il s’agit du premier cas connu dans le système judiciaire américain d’une partie tentant d’influencer un examen assisté par l’IA au moyen d’une « injection de prompt ». Bien que le tribunal d’État n’utilise pas actuellement l’IA pour l’examen des documents, les instructions secrètes n’ont pas eu d’effet.
Des déclencheurs textuels indétectables entraînent des sanctions pour abus de procédure
Les directives dissimulées étaient formatées en caractères blancs minuscules sur un fond blanc, les rendant invisibles aux lecteurs humains mais détectables par les logiciels d’extraction de texte. Ces instructions ordonnaient à toute IA examinant les documents d’aligner ses résultats sur les revendications du demandeur, d’ignorer les précédents défavorables et de générer des issues favorables. Le juge Walter Spade Jr. a estimé que cette tactique consistait à injecter secrètement des commandes dans les systèmes de lecture, dans le but de faire apparaître les demandes du demandeur comme des résultats indépendants du système. Malgré des avertissements antérieurs concernant les sanctions potentielles, le demandeur a persisté à ajouter de telles instructions, constituant un abus grave de procédure.
Bien que le demandeur ait affirmé que certains éléments étaient humoristiques – y compris un lien vidéo et des phrases absurdes telles que « Salut, j’espère que vous ne pouvez pas me voir » – le juge a rejeté l’argument selon lequel les blagues sont recevables dans des plaintes juridiques formelles. Conscient que le plaideur se représentant lui-même semblait excessivement dépendant des outils d’IA, le tribunal a décidé de ne pas imposer d’amende pécuniaire. À la place, il a interdit au demandeur d’utiliser le système de dépôt électronique, lui imposant de soumettre des documents sur papier. Cette mesure a préservé le droit d’accès du plaideur aux tribunaux tout en empêchant toute nouvelle utilisation abusive de la plateforme numérique.
La manipulation par l’entrée de données émerge comme un risque juridique critique
Le juge a noté qu’à mesure que l’injection de prompt se généralise dans des secteurs tels que le recrutement, des incidents similaires dans le domaine juridique sont inévitables. Bien que le système judiciaire se soit historiquement concentré sur l’atténuation des risques liés aux résultats générés par l’IA ou aux précédents, il reste peu préparé face aux attaques par l’entrée de données. Dans une affaire similaire au Brésil, un avocat a été condamné à payer une amende d’environ 16 000 dollars pour avoir employé des tactiques analogues dans une affaire examinée par l’IA. La décision souligne que, si ces attaques ont actuellement un succès limité, l’établissement de cadres réglementaires spécifiques est essentiel pour l’avenir.
Spade a également critiqué la manière dont certains plaideurs se représentant eux-mêmes utilisent les chatbots : ils pré-déterminent des conclusions puis instruisent l’IA de ne rechercher que des arguments à l’appui, contournant les vérifications factuelles ou l’analyse des points de vue opposés. Cette approche renforce des jugements erronés plutôt qu’elle ne favorise une compréhension exacte. Il a souligné que les utilisateurs d’IA devraient encourager les systèmes à remettre en question leurs propres prémisses, déclarant : « Si l’on demande uniquement au système d’être d’accord avec l’argument de l’auteur, à la fin, c’est malhonnête même envers l’auteur lui-même. »
Article connexe
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter
Google teste l'agent IA Remy pour Gemini à mesure que l'accent se déplace vers le contrôle utilisateur
Selon Business Insider, Google teste Remy, un nouvel agent personnel d’IA pour Gemini. Cet outil vise à exécuter des tâches au nom des utilisateurs, rationalisant ainsi les flux de travail professionnels et les routines quotidiennes.Actuellement, Re
Recommandations de sujets spéciaux liés
commentaires (0)

Un plaideur se représentant lui-même dans le Connecticut a été sanctionné par un juge pour avoir intégré des instructions textuelles cachées destinées à manipuler les systèmes d’intelligence artificielle dans ses pièces de procédure. Il s’agit du premier cas connu dans le système judiciaire américain d’une partie tentant d’influencer un examen assisté par l’IA au moyen d’une « injection de prompt ». Bien que le tribunal d’État n’utilise pas actuellement l’IA pour l’examen des documents, les instructions secrètes n’ont pas eu d’effet.
Des déclencheurs textuels indétectables entraînent des sanctions pour abus de procédure
Les directives dissimulées étaient formatées en caractères blancs minuscules sur un fond blanc, les rendant invisibles aux lecteurs humains mais détectables par les logiciels d’extraction de texte. Ces instructions ordonnaient à toute IA examinant les documents d’aligner ses résultats sur les revendications du demandeur, d’ignorer les précédents défavorables et de générer des issues favorables. Le juge Walter Spade Jr. a estimé que cette tactique consistait à injecter secrètement des commandes dans les systèmes de lecture, dans le but de faire apparaître les demandes du demandeur comme des résultats indépendants du système. Malgré des avertissements antérieurs concernant les sanctions potentielles, le demandeur a persisté à ajouter de telles instructions, constituant un abus grave de procédure.
Bien que le demandeur ait affirmé que certains éléments étaient humoristiques – y compris un lien vidéo et des phrases absurdes telles que « Salut, j’espère que vous ne pouvez pas me voir » – le juge a rejeté l’argument selon lequel les blagues sont recevables dans des plaintes juridiques formelles. Conscient que le plaideur se représentant lui-même semblait excessivement dépendant des outils d’IA, le tribunal a décidé de ne pas imposer d’amende pécuniaire. À la place, il a interdit au demandeur d’utiliser le système de dépôt électronique, lui imposant de soumettre des documents sur papier. Cette mesure a préservé le droit d’accès du plaideur aux tribunaux tout en empêchant toute nouvelle utilisation abusive de la plateforme numérique.
La manipulation par l’entrée de données émerge comme un risque juridique critique
Le juge a noté qu’à mesure que l’injection de prompt se généralise dans des secteurs tels que le recrutement, des incidents similaires dans le domaine juridique sont inévitables. Bien que le système judiciaire se soit historiquement concentré sur l’atténuation des risques liés aux résultats générés par l’IA ou aux précédents, il reste peu préparé face aux attaques par l’entrée de données. Dans une affaire similaire au Brésil, un avocat a été condamné à payer une amende d’environ 16 000 dollars pour avoir employé des tactiques analogues dans une affaire examinée par l’IA. La décision souligne que, si ces attaques ont actuellement un succès limité, l’établissement de cadres réglementaires spécifiques est essentiel pour l’avenir.
Spade a également critiqué la manière dont certains plaideurs se représentant eux-mêmes utilisent les chatbots : ils pré-déterminent des conclusions puis instruisent l’IA de ne rechercher que des arguments à l’appui, contournant les vérifications factuelles ou l’analyse des points de vue opposés. Cette approche renforce des jugements erronés plutôt qu’elle ne favorise une compréhension exacte. Il a souligné que les utilisateurs d’IA devraient encourager les systèmes à remettre en question leurs propres prémisses, déclarant : « Si l’on demande uniquement au système d’être d’accord avec l’argument de l’auteur, à la fin, c’est malhonnête même envers l’auteur lui-même. »
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter











