Heim
ChatGPT führt einen Notfall-Sperrmodus ein, um Datendiebstahl zu verhindern, ohne das Netzwerk abzuschalten
Um den böswilligen Diebstahl sensibler Daten zu verhindern, hat OpenAI für alle angemeldeten Nutzer eine neue optionale Sicherheitsfunktion namens „Incident Mode“ eingeführt. Diese Einstellung gilt für verschiedene Kontotypen und Arbeitsbereiche, und sowohl Nutzer als auch Administratoren können sie aktivieren. Nach der Aktivierung schränkt ChatGPT seine Funktionen für die Echtzeit-Websuche, die eingehende Recherche und die Agentenfunktionen ein. Ziel ist es, eine Sicherheitsbarriere gegen Prompt-Injection-Angriffe zu errichten, indem die Fähigkeit des Modells, externe Netzwerkanfragen zu stellen, eingeschränkt wird.

Einschränkung des Webzugriffs zur Verhinderung von Datenlecks
Im „Incident Mode“ ist das Echtzeit-Surfen im Internet durch ChatGPT streng auf zwischengespeicherte Inhalte beschränkt, was zu unvollständigen oder veralteten Suchergebnissen führen kann. Zudem kann das Modell keine Dateien aus dem Internet zur Datenanalyse herunterladen, und auch von Canvas generierter Code darf keine externen Netzwerkanfragen stellen. Lokale Funktionen wie vom Nutzer hochgeladene Bilder, mit Tools generierte Bilder und der Konversationsspeicher bleiben von diesem Modus jedoch unberührt.
Sicherheitsentscheidungen wieder in die Hände der Nutzer legen
Ein „Prompt-Injection“-Angriff findet statt, wenn Angreifer bösartige Anweisungen in Webseiten oder Dokumente einbetten und die KI so dazu verleiten, ihre bestehenden Regeln zu ignorieren und sensible Informationen der Nutzer an externe Server zu senden. OpenAI räumt ein, dass der „Incident-Modus“ solche Angriffe nicht vollständig verhindern kann, da sich bösartiger Code weiterhin in zwischengespeicherten Webseiten oder von Nutzern hochgeladenen Dateien verbergen könnte. Angesichts der Tatsache, dass leistungsfähigere KI-Fähigkeiten auch die Angriffsfläche vergrößern, entscheidet sich OpenAI dafür, den Kompromiss zwischen „stärkerer Funktionalität“ und „geringerem Risiko von Datenlecks“ den Nutzern selbst zu überlassen.
Verwandter Artikel
Schwedisches KI-Startup Lovable Eyes: Bewertung von 13,2 Milliarden US-Dollar nach großer Finanzierungsrunde
Während KI-gestützte Coding-Tools an Popularität gewinnen, hat das schwedische Startup Lovable eine bedeutende Finanzierungsrunde abgeschlossen. Das Unternehmen strebt danach, 3 Milliarden US-Dollar einzusammeln, was seine Bewertung potenziell auf 13
Google testet den Remy AI Agent für Gemini, da der Fokus auf die Benutzerkontrolle verlagert wird
Laut Business Insider testet Google Remy, einen neuen KI-Personalagenten für Gemini. Dieses Tool soll Aufgaben im Auftrag von Nutzern ausführen und sowohl professionelle Arbeitsabläufe als auch tägliche Routinen optimieren.Derzeit wird Remy in einer
So beheben Sie Core Web Vitals für bessere SEO-Rankings
Berichtskartenkommentare mit KI-Tools optimierenEinführungKI-Tools zur Generierung von BerichtskartenkommentarenMagic SchoolAlmanac AIChat GPTNutzung von Magic School zur Generierung von BerichtskartenkommentarenAnmeldung bei Magic SchoolAuswahl des
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)
Um den böswilligen Diebstahl sensibler Daten zu verhindern, hat OpenAI für alle angemeldeten Nutzer eine neue optionale Sicherheitsfunktion namens „Incident Mode“ eingeführt. Diese Einstellung gilt für verschiedene Kontotypen und Arbeitsbereiche, und sowohl Nutzer als auch Administratoren können sie aktivieren. Nach der Aktivierung schränkt ChatGPT seine Funktionen für die Echtzeit-Websuche, die eingehende Recherche und die Agentenfunktionen ein. Ziel ist es, eine Sicherheitsbarriere gegen Prompt-Injection-Angriffe zu errichten, indem die Fähigkeit des Modells, externe Netzwerkanfragen zu stellen, eingeschränkt wird.

Einschränkung des Webzugriffs zur Verhinderung von Datenlecks
Im „Incident Mode“ ist das Echtzeit-Surfen im Internet durch ChatGPT streng auf zwischengespeicherte Inhalte beschränkt, was zu unvollständigen oder veralteten Suchergebnissen führen kann. Zudem kann das Modell keine Dateien aus dem Internet zur Datenanalyse herunterladen, und auch von Canvas generierter Code darf keine externen Netzwerkanfragen stellen. Lokale Funktionen wie vom Nutzer hochgeladene Bilder, mit Tools generierte Bilder und der Konversationsspeicher bleiben von diesem Modus jedoch unberührt.
Sicherheitsentscheidungen wieder in die Hände der Nutzer legen
Ein „Prompt-Injection“-Angriff findet statt, wenn Angreifer bösartige Anweisungen in Webseiten oder Dokumente einbetten und die KI so dazu verleiten, ihre bestehenden Regeln zu ignorieren und sensible Informationen der Nutzer an externe Server zu senden. OpenAI räumt ein, dass der „Incident-Modus“ solche Angriffe nicht vollständig verhindern kann, da sich bösartiger Code weiterhin in zwischengespeicherten Webseiten oder von Nutzern hochgeladenen Dateien verbergen könnte. Angesichts der Tatsache, dass leistungsfähigere KI-Fähigkeiten auch die Angriffsfläche vergrößern, entscheidet sich OpenAI dafür, den Kompromiss zwischen „stärkerer Funktionalität“ und „geringerem Risiko von Datenlecks“ den Nutzern selbst zu überlassen.
Schwedisches KI-Startup Lovable Eyes: Bewertung von 13,2 Milliarden US-Dollar nach großer Finanzierungsrunde
Während KI-gestützte Coding-Tools an Popularität gewinnen, hat das schwedische Startup Lovable eine bedeutende Finanzierungsrunde abgeschlossen. Das Unternehmen strebt danach, 3 Milliarden US-Dollar einzusammeln, was seine Bewertung potenziell auf 13
So beheben Sie Core Web Vitals für bessere SEO-Rankings
Berichtskartenkommentare mit KI-Tools optimierenEinführungKI-Tools zur Generierung von BerichtskartenkommentarenMagic SchoolAlmanac AIChat GPTNutzung von Magic School zur Generierung von BerichtskartenkommentarenAnmeldung bei Magic SchoolAuswahl des











