Maison
OpenAI lance le mode blocage de ChatGPT afin d’isoler l’accès à Internet et de prévenir les fuites de données.

Alors que l’IA générative entre rapidement dans l’ère des agents, la capacité croissante à invoquer des outils et à se connecter à Internet crée de nouveaux défis sérieux pour les systèmes de sécurité. Pour faire face à l’augmentation des attaques par injection de prompts, OpenAI a introduit une nouvelle fonctionnalité de sécurité optionnelle audacieuse appelée « Mode verrouillage », désormais disponible pour tous les utilisateurs connectés, quel que soit leur type de compte ou d’espace de travail.
Les attaques par injection de prompts préoccupent depuis longtemps les développeurs de grands modèles de langage. Les attaquants cachent souvent des instructions malveillantes à l’intérieur de pages Web, de documents tiers ou d’autres données externes. Lorsque ChatGPT lit ce contenu contaminé tout en étant connecté à Internet, il peut être trompé pour ignorer ses règles de sécurité fondamentales, effectuer des actions non autorisées, et même envoyer secrètement des données sensibles — telles que des secrets commerciaux ou des informations personnelles — vers un serveur malveillant externe à l’insu de l’utilisateur.
Pour résoudre ce problème bien connu du secteur, le nouveau Mode verrouillage d’OpenAI adopte une approche pratique. Plutôt que de tenter d’identifier parfaitement chaque nouvelle instruction malveillante, il restreint simplement la capacité la plus dangereuse : celle de se connecter à des réseaux externes.
Une fois que l’utilisateur ou l’administrateur de l’espace de travail active le Mode verrouillage, de nombreuses fonctionnalités essentielles de ChatGPT sont limitées. La navigation en ligne en temps réel est fortement réduite — le système ne peut accéder qu’à du contenu Web stocké en cache et protégé, ce qui peut entraîner des résultats de recherche incomplets, obsolètes ou indisponibles. Le modèle ne peut également pas récupérer ou afficher d’images provenant du réseau externe, ni télécharger de fichiers depuis Internet pour une analyse de données avancée.
De plus, les fonctionnalités haut de gamme de productivité telles que « Deep Research » et « Agent Mode » sont complètement désactivées. Même le code généré dans la fonction Canvas ne peut pas accéder à Internet. Dans ce mode, le grand modèle ne peut traiter que des fichiers que les utilisateurs téléchargent manuellement en tant que documents sécurisés locaux.
Cependant, la documentation officielle d’OpenAI indique clairement que le Mode verrouillage n’est pas un bouclier impénétrable. Il ne peut pas garantir une protection à 100 % contre les attaques par injection de prompts. Des instructions malveillantes peuvent encore se cacher dans des pages Web en cache légitimes ou dans des fichiers téléchargés par les utilisateurs, continuant d’altérer le jugement du modèle.
Cette nouvelle fonctionnalité met en évidence un véritable paradoxe dans l’industrie de l’IA : plus l’accès d’un grand modèle à Internet est large et plus son utilisation d’outils d’automatisation est poussée, plus sa surface d’attaque s’agrandit. Le Mode verrouillage représente la tentative claire d’OpenAI de définir une frontière de sécurité autour des capacités de l’IA. Il ne promet pas « une sécurité absolue », mais remet plutôt le choix entre « une collaboration plus forte et intelligente » et « un risque moindre de fuite de données » entre les mains des utilisateurs et des administrateurs d’entreprise pour qu’ils en décident eux-mêmes.
Article connexe
Suno appose des filigranes aux chansons dans le cadre de batailles juridiques
Suno, la plateforme permettant aux utilisateurs de générer de la musique créée par l’intelligence artificielle, a dévoilé de nouvelles fonctionnalités pour étiqueter les titres produits sur la plateforme, restreindre les téléchargements et mettre à j
Musk admet que la construction de Grok a divulgué le code utilisateur, promet d’effacer toutes les données historiques
Elon Musk a abordé directement la controverse sur la vie privée concernant Grok Build, en commençant par un simple « Vrai » pour confirmer la validité de l’incident. Il s’est engagé à ce que toutes les données utilisateur précédemment téléchargées su
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
Recommandations de sujets spéciaux liés
commentaires (0)

Alors que l’IA générative entre rapidement dans l’ère des agents, la capacité croissante à invoquer des outils et à se connecter à Internet crée de nouveaux défis sérieux pour les systèmes de sécurité. Pour faire face à l’augmentation des attaques par injection de prompts, OpenAI a introduit une nouvelle fonctionnalité de sécurité optionnelle audacieuse appelée « Mode verrouillage », désormais disponible pour tous les utilisateurs connectés, quel que soit leur type de compte ou d’espace de travail.
Les attaques par injection de prompts préoccupent depuis longtemps les développeurs de grands modèles de langage. Les attaquants cachent souvent des instructions malveillantes à l’intérieur de pages Web, de documents tiers ou d’autres données externes. Lorsque ChatGPT lit ce contenu contaminé tout en étant connecté à Internet, il peut être trompé pour ignorer ses règles de sécurité fondamentales, effectuer des actions non autorisées, et même envoyer secrètement des données sensibles — telles que des secrets commerciaux ou des informations personnelles — vers un serveur malveillant externe à l’insu de l’utilisateur.
Pour résoudre ce problème bien connu du secteur, le nouveau Mode verrouillage d’OpenAI adopte une approche pratique. Plutôt que de tenter d’identifier parfaitement chaque nouvelle instruction malveillante, il restreint simplement la capacité la plus dangereuse : celle de se connecter à des réseaux externes.
Une fois que l’utilisateur ou l’administrateur de l’espace de travail active le Mode verrouillage, de nombreuses fonctionnalités essentielles de ChatGPT sont limitées. La navigation en ligne en temps réel est fortement réduite — le système ne peut accéder qu’à du contenu Web stocké en cache et protégé, ce qui peut entraîner des résultats de recherche incomplets, obsolètes ou indisponibles. Le modèle ne peut également pas récupérer ou afficher d’images provenant du réseau externe, ni télécharger de fichiers depuis Internet pour une analyse de données avancée.
De plus, les fonctionnalités haut de gamme de productivité telles que « Deep Research » et « Agent Mode » sont complètement désactivées. Même le code généré dans la fonction Canvas ne peut pas accéder à Internet. Dans ce mode, le grand modèle ne peut traiter que des fichiers que les utilisateurs téléchargent manuellement en tant que documents sécurisés locaux.
Cependant, la documentation officielle d’OpenAI indique clairement que le Mode verrouillage n’est pas un bouclier impénétrable. Il ne peut pas garantir une protection à 100 % contre les attaques par injection de prompts. Des instructions malveillantes peuvent encore se cacher dans des pages Web en cache légitimes ou dans des fichiers téléchargés par les utilisateurs, continuant d’altérer le jugement du modèle.
Cette nouvelle fonctionnalité met en évidence un véritable paradoxe dans l’industrie de l’IA : plus l’accès d’un grand modèle à Internet est large et plus son utilisation d’outils d’automatisation est poussée, plus sa surface d’attaque s’agrandit. Le Mode verrouillage représente la tentative claire d’OpenAI de définir une frontière de sécurité autour des capacités de l’IA. Il ne promet pas « une sécurité absolue », mais remet plutôt le choix entre « une collaboration plus forte et intelligente » et « un risque moindre de fuite de données » entre les mains des utilisateurs et des administrateurs d’entreprise pour qu’ils en décident eux-mêmes.
Suno appose des filigranes aux chansons dans le cadre de batailles juridiques
Suno, la plateforme permettant aux utilisateurs de générer de la musique créée par l’intelligence artificielle, a dévoilé de nouvelles fonctionnalités pour étiqueter les titres produits sur la plateforme, restreindre les téléchargements et mettre à j
Musk admet que la construction de Grok a divulgué le code utilisateur, promet d’effacer toutes les données historiques
Elon Musk a abordé directement la controverse sur la vie privée concernant Grok Build, en commençant par un simple « Vrai » pour confirmer la validité de l’incident. Il s’est engagé à ce que toutes les données utilisateur précédemment téléchargées su
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent











