Maison
ChatGPT lance un mode de blocage d'urgence pour empêcher le vol de données sans avoir à couper le réseau
Afin de prévenir le vol malveillant de données sensibles, OpenAI a mis en place une nouvelle fonctionnalité de sécurité facultative appelée « Mode Incident » pour tous les utilisateurs connectés. Ce paramètre s'applique à tous les types de comptes et d'espaces de travail, et peut être activé aussi bien par les utilisateurs que par les administrateurs. Une fois activé, ChatGPT limitera ses capacités de recherche Web en temps réel, de recherche approfondie et d’agent. L’objectif est de mettre en place une barrière de sécurité contre les attaques par injection de prompt en limitant la capacité du modèle à effectuer des requêtes sur des réseaux externes.

Limiter l’accès au Web pour prévenir les fuites de données
En mode Incident, la navigation Web en temps réel de ChatGPT est strictement limitée au contenu mis en cache, ce qui peut entraîner des résultats de recherche incomplets ou obsolètes. De plus, le modèle ne peut pas télécharger de fichiers depuis Internet à des fins d’analyse de données, et le code généré par Canvas n’est pas non plus autorisé à effectuer des requêtes réseau externes. Toutefois, les fonctionnalités locales telles que les images téléchargées par les utilisateurs, les images générées à l’aide d’outils et l’historique des conversations ne sont pas affectées par ce mode.
Redonner le contrôle des décisions de sécurité aux utilisateurs
Une attaque par injection de prompt se produit lorsque des attaquants intègrent des instructions malveillantes dans des pages web ou des documents, incitant ainsi l’IA à ignorer ses règles existantes et à envoyer les informations sensibles des utilisateurs vers des serveurs externes. OpenAI reconnaît que le mode « Incident » ne peut pas éliminer complètement de telles attaques, car du code malveillant pourrait toujours être dissimulé dans des pages web mises en cache ou dans des fichiers téléchargés par les utilisateurs. Face à la réalité selon laquelle des capacités d’IA plus puissantes élargissent également la surface d’attaque, OpenAI choisit de laisser aux utilisateurs eux-mêmes le soin de trouver le juste équilibre entre « des fonctionnalités plus performantes » et « un risque moindre de fuite de données ».
Article connexe
Google teste l'agent IA Remy pour Gemini à mesure que l'accent se déplace vers le contrôle utilisateur
Selon Business Insider, Google teste Remy, un nouvel agent personnel d’IA pour Gemini. Cet outil vise à exécuter des tâches au nom des utilisateurs, rationalisant ainsi les flux de travail professionnels et les routines quotidiennes.Actuellement, Re
Comment corriger les Core Web Vitals pour de meilleurs classements SEO
Fluidifiez les commentaires de bulletin avec des outils d'IAIntroductionOutils d'IA pour générer des commentaires de bulletinMagic SchoolAlmanac AIChat GPTUtilisation de Magic School pour générer des commentaires de bulletinConnexion à Magic Sc
Slackbot devient un agent d'IA
Slackbot, l’assistant automatisé intégré à la plateforme de messagerie d’entreprise Slack de Salesforce, évolue vers un agent d’intelligence artificielle. Le CTO de Salesforce, Parker Harris, envisage qu’il atteigne une notoriété virale comparable à
Recommandations de sujets spéciaux liés
commentaires (0)
Afin de prévenir le vol malveillant de données sensibles, OpenAI a mis en place une nouvelle fonctionnalité de sécurité facultative appelée « Mode Incident » pour tous les utilisateurs connectés. Ce paramètre s'applique à tous les types de comptes et d'espaces de travail, et peut être activé aussi bien par les utilisateurs que par les administrateurs. Une fois activé, ChatGPT limitera ses capacités de recherche Web en temps réel, de recherche approfondie et d’agent. L’objectif est de mettre en place une barrière de sécurité contre les attaques par injection de prompt en limitant la capacité du modèle à effectuer des requêtes sur des réseaux externes.

Limiter l’accès au Web pour prévenir les fuites de données
En mode Incident, la navigation Web en temps réel de ChatGPT est strictement limitée au contenu mis en cache, ce qui peut entraîner des résultats de recherche incomplets ou obsolètes. De plus, le modèle ne peut pas télécharger de fichiers depuis Internet à des fins d’analyse de données, et le code généré par Canvas n’est pas non plus autorisé à effectuer des requêtes réseau externes. Toutefois, les fonctionnalités locales telles que les images téléchargées par les utilisateurs, les images générées à l’aide d’outils et l’historique des conversations ne sont pas affectées par ce mode.
Redonner le contrôle des décisions de sécurité aux utilisateurs
Une attaque par injection de prompt se produit lorsque des attaquants intègrent des instructions malveillantes dans des pages web ou des documents, incitant ainsi l’IA à ignorer ses règles existantes et à envoyer les informations sensibles des utilisateurs vers des serveurs externes. OpenAI reconnaît que le mode « Incident » ne peut pas éliminer complètement de telles attaques, car du code malveillant pourrait toujours être dissimulé dans des pages web mises en cache ou dans des fichiers téléchargés par les utilisateurs. Face à la réalité selon laquelle des capacités d’IA plus puissantes élargissent également la surface d’attaque, OpenAI choisit de laisser aux utilisateurs eux-mêmes le soin de trouver le juste équilibre entre « des fonctionnalités plus performantes » et « un risque moindre de fuite de données ».
Comment corriger les Core Web Vitals pour de meilleurs classements SEO
Fluidifiez les commentaires de bulletin avec des outils d'IAIntroductionOutils d'IA pour générer des commentaires de bulletinMagic SchoolAlmanac AIChat GPTUtilisation de Magic School pour générer des commentaires de bulletinConnexion à Magic Sc
Slackbot devient un agent d'IA
Slackbot, l’assistant automatisé intégré à la plateforme de messagerie d’entreprise Slack de Salesforce, évolue vers un agent d’intelligence artificielle. Le CTO de Salesforce, Parker Harris, envisage qu’il atteigne une notoriété virale comparable à











