Heim
OpenAI könnte Schutzmaßnahmen lockern, wenn Wettbewerber potenziell gefährliche KI-Modelle auf den Markt bringen

OpenAI passt Sicherheitsprotokoll angesichts des Wettbewerbsdrucks an
OpenAI hat sein Preparedness Framework überarbeitet, den internen Mechanismus, der die Sicherheitsbewertungen von KI-Modellen und die Implementierung von Schutzmaßnahmen während der Entwicklungszyklen leitet. Die aktualisierte Richtlinie enthält insbesondere Bestimmungen, die eine potenzielle Lockerung der Sicherheitsmaßnahmen ermöglichen, wenn konkurrierende Unternehmen Hochrisikosysteme ohne gleichwertige Schutzmaßnahmen auf den Markt bringen.
Diese Änderung unterstreicht die zunehmenden Marktkräfte, die KI-Entwickler dazu zwingen, den Zeitplan für die Einführung zu beschleunigen. OpenAI sieht sich zunehmender Kritik ausgesetzt, weil es angeblich die Prioritäten bei der Sicherheit herabsetzt, um schnellere Veröffentlichungen zu ermöglichen, einschließlich einer verzögerten Veröffentlichung der Dokumentation zur Sicherheitsbewertung. In einem kürzlich eingeleiteten Gerichtsverfahren haben 12 ehemalige Mitarbeiter die Klage von Elon Musk gegen OpenAI unterstützt und davor gewarnt, dass die geplante Umstrukturierung des Unternehmens die Sicherheitsstandards weiter aushöhlen könnte.
Gleichgewicht zwischen Wettbewerb und Sicherheit
In Erwartung der Kritik betonte OpenAI, dass jegliche Anpassungen der Richtlinien ein strenges Schutzniveau beibehalten würden. "Während wir die Anforderungen anpassen können, wenn Wettbewerber Hochrisikosysteme ohne vergleichbare Sicherheitsvorkehrungen einsetzen", heißt es in dem Blog-Update vom Dienstag, "verpflichten wir uns zu einer gründlichen Risikoprüfung, Transparenz über Änderungen und der Beibehaltung überlegener Schutzmaßnahmen."
Das überarbeitete Rahmenwerk unterstreicht OpenAIs zunehmendes Vertrauen in automatisierte Bewertungswerkzeuge neben traditionellen, von Menschen durchgeführten Tests. Unternehmensvertreter versichern, dass diese automatisierten Systeme es ermöglichen, das Tempo der Veröffentlichung beizubehalten, ohne die Qualität der Bewertung zu beeinträchtigen.
Umstrittene Testpraktiken tauchen auf
Berichte widersprechen der offiziellen Haltung von OpenAI, wobei Insiderberichte von verkürzten Sicherheitsüberprüfungszeiträumen berichten. Laut Quellen der Financial Times hatten die Tester kürzlich weniger als eine Woche Zeit, um ein bevorstehendes Modell zu bewerten - drastisch kürzer als frühere Fristen. Darüber hinaus wurden Bedenken geäußert, dass die Sicherheitstests überwiegend an Modellvarianten vor der Freigabe und nicht an öffentlichen Einsatzversionen durchgeführt werden.
OpenAI reduziert stillschweigend die Sicherheitsverpflichtungen.
Ausgelassen von Rahmenänderungen:
- Keine Sicherheitstests für fein abgestimmte Modelle erforderlich
- Steven Adler (@sjgadler) April 15, 2025
Neu definiertes Risikoklassifizierungssystem
Das aktualisierte Rahmenwerk führt eine gestraffte Modell-Kategorisierung ein, die sich auf zwei Fähigkeitsschwellen konzentriert:
- High Capability: Modelle, die bestehende schwere Schadensvektoren verstärken
- Kritische Fähigkeit: Modelle, die neue Wege für schwere Schäden schaffen
"Systeme mit hoher Leistungsfähigkeit erfordern risikomindernde Sicherheitsvorkehrungen vor dem Einsatz", erläutert OpenAI. "Modelle mit kritischer Leistungsfähigkeit erfordern zusätzliche Schutzmaßnahmen in der Entwicklungsphase."
Dies ist die erste grundlegende Überarbeitung des Rahmenwerks seit 2023, die die sich entwickelnde Branchendynamik und interne betriebliche Veränderungen bei OpenAI widerspiegelt.
Verwandter Artikel
Sam Altman löst eine Debatte über die Verlangsamung der KI-Entwicklung aus
Bei Apple Podcasts anhörenBei Spotify anhörenDer CEO von OpenAI, Sam Altman, hat kürzlich vorgeschlagen, es könnte an der Zeit sein, „das Tempo der KI-Entwicklung zu drosseln“, um der Gesellschaft Zeit zu geben, „sich um einige dieser neuen Fähigkei
OpenAI beklagt sich über Apples Handelsgeheimnis-Klage
OpenAI widerlegte am Dienstag Apples Vorwürfe wegen Verletzung von Geschäftsgeheimnissen und argumentierte, der Klage fehle jede Grundlage.„Wir nehmen diese Behauptungen ernst, sehen jedoch keine Beweise, die sie stützen“, erklärte OpenAI, wie Bloom
OpenAI-Robotik-Chefin Caitlin Kalinowski tritt zurück wegen Pentagon-Partnerschaft
Der Leiter der Robotik-Abteilung von OpenAI, Caitlin Kalinowski, ist zurückgetreten, nachdem das Unternehmen eine umstrittene Partnerschaft mit dem Verteidigungsministerium eingegangen war.„Dies war keine einfache Entscheidung“, erklärte Kalinowski
Empfehlungen zu verwandten Spezialthemen
Kommentare (2)
またOpenAIの方針転換...競争が激化する中、安全性と開発速度のバランスって本当に難しいですよね。個人的には過去のChatGPTの制限が緩和された時みたいに、今回もユーザー体験が向上するなら歓迎だけど、やっぱり倫理的基準は守ってほしいな😅 他の企業が危険なAIを出したら同じ土俵に上がる必要性ある?

OpenAI passt Sicherheitsprotokoll angesichts des Wettbewerbsdrucks an
OpenAI hat sein Preparedness Framework überarbeitet, den internen Mechanismus, der die Sicherheitsbewertungen von KI-Modellen und die Implementierung von Schutzmaßnahmen während der Entwicklungszyklen leitet. Die aktualisierte Richtlinie enthält insbesondere Bestimmungen, die eine potenzielle Lockerung der Sicherheitsmaßnahmen ermöglichen, wenn konkurrierende Unternehmen Hochrisikosysteme ohne gleichwertige Schutzmaßnahmen auf den Markt bringen.
Diese Änderung unterstreicht die zunehmenden Marktkräfte, die KI-Entwickler dazu zwingen, den Zeitplan für die Einführung zu beschleunigen. OpenAI sieht sich zunehmender Kritik ausgesetzt, weil es angeblich die Prioritäten bei der Sicherheit herabsetzt, um schnellere Veröffentlichungen zu ermöglichen, einschließlich einer verzögerten Veröffentlichung der Dokumentation zur Sicherheitsbewertung. In einem kürzlich eingeleiteten Gerichtsverfahren haben 12 ehemalige Mitarbeiter die Klage von Elon Musk gegen OpenAI unterstützt und davor gewarnt, dass die geplante Umstrukturierung des Unternehmens die Sicherheitsstandards weiter aushöhlen könnte.
Gleichgewicht zwischen Wettbewerb und Sicherheit
In Erwartung der Kritik betonte OpenAI, dass jegliche Anpassungen der Richtlinien ein strenges Schutzniveau beibehalten würden. "Während wir die Anforderungen anpassen können, wenn Wettbewerber Hochrisikosysteme ohne vergleichbare Sicherheitsvorkehrungen einsetzen", heißt es in dem Blog-Update vom Dienstag, "verpflichten wir uns zu einer gründlichen Risikoprüfung, Transparenz über Änderungen und der Beibehaltung überlegener Schutzmaßnahmen."
Das überarbeitete Rahmenwerk unterstreicht OpenAIs zunehmendes Vertrauen in automatisierte Bewertungswerkzeuge neben traditionellen, von Menschen durchgeführten Tests. Unternehmensvertreter versichern, dass diese automatisierten Systeme es ermöglichen, das Tempo der Veröffentlichung beizubehalten, ohne die Qualität der Bewertung zu beeinträchtigen.
Umstrittene Testpraktiken tauchen auf
Berichte widersprechen der offiziellen Haltung von OpenAI, wobei Insiderberichte von verkürzten Sicherheitsüberprüfungszeiträumen berichten. Laut Quellen der Financial Times hatten die Tester kürzlich weniger als eine Woche Zeit, um ein bevorstehendes Modell zu bewerten - drastisch kürzer als frühere Fristen. Darüber hinaus wurden Bedenken geäußert, dass die Sicherheitstests überwiegend an Modellvarianten vor der Freigabe und nicht an öffentlichen Einsatzversionen durchgeführt werden.
OpenAI reduziert stillschweigend die Sicherheitsverpflichtungen.
- Steven Adler (@sjgadler) April 15, 2025
Ausgelassen von Rahmenänderungen:
- Keine Sicherheitstests für fein abgestimmte Modelle erforderlich
Neu definiertes Risikoklassifizierungssystem
Das aktualisierte Rahmenwerk führt eine gestraffte Modell-Kategorisierung ein, die sich auf zwei Fähigkeitsschwellen konzentriert:
- High Capability: Modelle, die bestehende schwere Schadensvektoren verstärken
- Kritische Fähigkeit: Modelle, die neue Wege für schwere Schäden schaffen
"Systeme mit hoher Leistungsfähigkeit erfordern risikomindernde Sicherheitsvorkehrungen vor dem Einsatz", erläutert OpenAI. "Modelle mit kritischer Leistungsfähigkeit erfordern zusätzliche Schutzmaßnahmen in der Entwicklungsphase."
Dies ist die erste grundlegende Überarbeitung des Rahmenwerks seit 2023, die die sich entwickelnde Branchendynamik und interne betriebliche Veränderungen bei OpenAI widerspiegelt.
Sam Altman löst eine Debatte über die Verlangsamung der KI-Entwicklung aus
Bei Apple Podcasts anhörenBei Spotify anhörenDer CEO von OpenAI, Sam Altman, hat kürzlich vorgeschlagen, es könnte an der Zeit sein, „das Tempo der KI-Entwicklung zu drosseln“, um der Gesellschaft Zeit zu geben, „sich um einige dieser neuen Fähigkei
OpenAI beklagt sich über Apples Handelsgeheimnis-Klage
OpenAI widerlegte am Dienstag Apples Vorwürfe wegen Verletzung von Geschäftsgeheimnissen und argumentierte, der Klage fehle jede Grundlage.„Wir nehmen diese Behauptungen ernst, sehen jedoch keine Beweise, die sie stützen“, erklärte OpenAI, wie Bloom
OpenAI-Robotik-Chefin Caitlin Kalinowski tritt zurück wegen Pentagon-Partnerschaft
Der Leiter der Robotik-Abteilung von OpenAI, Caitlin Kalinowski, ist zurückgetreten, nachdem das Unternehmen eine umstrittene Partnerschaft mit dem Verteidigungsministerium eingegangen war.„Dies war keine einfache Entscheidung“, erklärte Kalinowski
またOpenAIの方針転換...競争が激化する中、安全性と開発速度のバランスって本当に難しいですよね。個人的には過去のChatGPTの制限が緩和された時みたいに、今回もユーザー体験が向上するなら歓迎だけど、やっぱり倫理的基準は守ってほしいな😅 他の企業が危険なAIを出したら同じ土俵に上がる必要性ある?











