Heim
Mehrere Länder verlangen vor dem Markteinführung eine Sicherheitsbewertung für große KI-Modelle.

Da KI weltweit rasant an Bedeutung gewinnt, wandelt sich die Überwachung großer Sprachmodelle von allgemeinen Grundsätzen hin zu konkreten Durchsetzungsmaßnahmen. Regierungen im Vereinigten Königreich, in den USA und in Australien haben kürzlich neue Vorschriften eingeführt, die vorschreiben, dass fortschrittliche KI-Systeme vor ihrer offiziellen Einführung staatlich geleitete Tests zur Überprüfung von Sicherheitslücken und Risiken durchlaufen müssen.
Der britische Ansatz wird zum Vorbild für globale Politikrichtlinien
Im Zuge dieser regulatorischen Veränderung dient das von dem UK AI Safety Institute (AISI) entwickelte Framework für Red-Teaming-Aktivitäten und Risikobewertungen zunehmend als Referenzpunkt für andere Länder. Kürzlich kündigte die britische Regierung eine formelle Partnerschaft mit dem Australian AI Safety Institute an, um gemeinsam potenzielle Risiken durch fortschrittliche KI in Bereichen wie Cyberangriffen und -verteidigung zu überwachen sowie Erkenntnisse zu Kernfähigkeiten auszutauschen.
Dieses neue Modell weicht von der bisherigen Abhängigkeit von freiwilligen Unternehmensverpflichtungen ab, indem es die Regierungen direkt in den Testprozess einbezieht. In Zukunft müssen große KI-Modelle bei ihrem Marktwettbewerb einen Konformitätsprozess durchlaufen, der einer „Sicherheitsinspektion vor dem Verkaufsstart“ ähnelt, und Sicherheitstests werden zunehmend zu einem entscheidenden Faktor für die Wettbewerbsfähigkeit von Produkten.
US-Technologieriesen unterziehen sich nationalen Sicherheitsbewertungen
Gleichzeitig setzt das AI Standards and Innovation Center (CAISI) im US-Handelsministerium ähnliche Mechanismen zur Bewertung der nationalen Sicherheit um. Mehrere führende KI-Unternehmen, darunter Google DeepMind, Microsoft sowie Elons xAI, haben mit dem Zentrum wichtige Vereinbarungen getroffen, wonach sie relevante Materialien bereitstellen und vor der öffentlichen Veröffentlichung ihrer Modelle umfassende Sicherheitsbewertungen durchführen müssen.
In dieser Zeit bestätigte Microsoft zudem, dass es die Zusammenarbeit mit den Testorganisationen in den USA und im Vereinigten Königreich weiter stärken werde, um gemeinsam die durch fortschrittliche Modelle entstehenden Risiken für die öffentliche Sicherheit in großem Maßstab zu verringern. Diese schnellen internationalen Partnerschaften senden ein klares Signal: Die zukünftige Regulierung von KI wird sich nicht mehr ausschließlich darauf konzentrieren, ob Unternehmen Sicherheitsverpflichtungen formuliert haben, sondern vielmehr darauf, ob diese Verpflichtungen tatsächlich getestet wurden.
Verwandter Artikel
MiniMax stellt 10x-Teamprogramm vor, um globale KI-Experten zu motivieren
MiniMax (Xiyu Technology), das General Artificial Intelligence Lab, hat offiziell „10x Team“ gestartet, eine globale Initiative zur Talentsuche und Zusammenarbeit. Dieses Programm zielt darauf ab, führende Experten aus verschiedenen Branchen zu rekru
Südkorea beginnt mit dem Bau des nationalen KI-Rechenzentrums und investiert 2,5 Billionen Won mit einem Zieljahr von 2028
Der südkoreanische Ableger von EtNews berichtet, dass am 3. August im Solar City-Datenzentrumspark in Sunan, Provinz Jeollanam-do, der Grundstein für das Korea AI Computing Center (KOACC) gelegt wurde. Mit einer Gesamtinvestition von 2,5 Billionen KR
Sechs Tech-Giganten unterstützen die Linux Foundation mit 12,5 Millionen US-Dollar, um das Rauschen bei KI-Schwachstellen zu bekämpfen
Um der Flut von Sicherheitsberichten niedriger Qualität, die durch KI-Automatisierungstools erzeugt werden, zu begegnen, haben sechs große Technologieunternehmen – Anthropic, Amazon (AWS), GitHub, Google, Microsoft und OpenAI – gemeinsam 12,5 Million
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)

Da KI weltweit rasant an Bedeutung gewinnt, wandelt sich die Überwachung großer Sprachmodelle von allgemeinen Grundsätzen hin zu konkreten Durchsetzungsmaßnahmen. Regierungen im Vereinigten Königreich, in den USA und in Australien haben kürzlich neue Vorschriften eingeführt, die vorschreiben, dass fortschrittliche KI-Systeme vor ihrer offiziellen Einführung staatlich geleitete Tests zur Überprüfung von Sicherheitslücken und Risiken durchlaufen müssen.
Der britische Ansatz wird zum Vorbild für globale Politikrichtlinien
Im Zuge dieser regulatorischen Veränderung dient das von dem UK AI Safety Institute (AISI) entwickelte Framework für Red-Teaming-Aktivitäten und Risikobewertungen zunehmend als Referenzpunkt für andere Länder. Kürzlich kündigte die britische Regierung eine formelle Partnerschaft mit dem Australian AI Safety Institute an, um gemeinsam potenzielle Risiken durch fortschrittliche KI in Bereichen wie Cyberangriffen und -verteidigung zu überwachen sowie Erkenntnisse zu Kernfähigkeiten auszutauschen.
Dieses neue Modell weicht von der bisherigen Abhängigkeit von freiwilligen Unternehmensverpflichtungen ab, indem es die Regierungen direkt in den Testprozess einbezieht. In Zukunft müssen große KI-Modelle bei ihrem Marktwettbewerb einen Konformitätsprozess durchlaufen, der einer „Sicherheitsinspektion vor dem Verkaufsstart“ ähnelt, und Sicherheitstests werden zunehmend zu einem entscheidenden Faktor für die Wettbewerbsfähigkeit von Produkten.
US-Technologieriesen unterziehen sich nationalen Sicherheitsbewertungen
Gleichzeitig setzt das AI Standards and Innovation Center (CAISI) im US-Handelsministerium ähnliche Mechanismen zur Bewertung der nationalen Sicherheit um. Mehrere führende KI-Unternehmen, darunter Google DeepMind, Microsoft sowie Elons xAI, haben mit dem Zentrum wichtige Vereinbarungen getroffen, wonach sie relevante Materialien bereitstellen und vor der öffentlichen Veröffentlichung ihrer Modelle umfassende Sicherheitsbewertungen durchführen müssen.
In dieser Zeit bestätigte Microsoft zudem, dass es die Zusammenarbeit mit den Testorganisationen in den USA und im Vereinigten Königreich weiter stärken werde, um gemeinsam die durch fortschrittliche Modelle entstehenden Risiken für die öffentliche Sicherheit in großem Maßstab zu verringern. Diese schnellen internationalen Partnerschaften senden ein klares Signal: Die zukünftige Regulierung von KI wird sich nicht mehr ausschließlich darauf konzentrieren, ob Unternehmen Sicherheitsverpflichtungen formuliert haben, sondern vielmehr darauf, ob diese Verpflichtungen tatsächlich getestet wurden.
MiniMax stellt 10x-Teamprogramm vor, um globale KI-Experten zu motivieren
MiniMax (Xiyu Technology), das General Artificial Intelligence Lab, hat offiziell „10x Team“ gestartet, eine globale Initiative zur Talentsuche und Zusammenarbeit. Dieses Programm zielt darauf ab, führende Experten aus verschiedenen Branchen zu rekru
Südkorea beginnt mit dem Bau des nationalen KI-Rechenzentrums und investiert 2,5 Billionen Won mit einem Zieljahr von 2028
Der südkoreanische Ableger von EtNews berichtet, dass am 3. August im Solar City-Datenzentrumspark in Sunan, Provinz Jeollanam-do, der Grundstein für das Korea AI Computing Center (KOACC) gelegt wurde. Mit einer Gesamtinvestition von 2,5 Billionen KR
Sechs Tech-Giganten unterstützen die Linux Foundation mit 12,5 Millionen US-Dollar, um das Rauschen bei KI-Schwachstellen zu bekämpfen
Um der Flut von Sicherheitsberichten niedriger Qualität, die durch KI-Automatisierungstools erzeugt werden, zu begegnen, haben sechs große Technologieunternehmen – Anthropic, Amazon (AWS), GitHub, Google, Microsoft und OpenAI – gemeinsam 12,5 Million











