Cosai gestartet: Gründungsmitglieder vereinen sich für Secure AI

Das schnelle Wachstum von AI erfordert einen robusten Sicherheitsrahmen und Standards, die Schritt halten können. Aus diesem Grund haben wir letztes Jahr den Secure AI Framework (SAIF) eingeführt, in dem Wissen, dass dies nur der Anfang war. Damit ein Branchenrahmen funktioniert, braucht es Teamarbeit und einen Ort zur Zusammenarbeit. Genau hier stehen wir heute.

Beim Aspen Security Forum freuen wir uns, die Gründung der Coalition for Secure AI (CoSAI) zusammen mit unseren Branchenfreunden bekannt zu geben. Wir haben im vergangenen Jahr hart daran gearbeitet, diese Koalition zusammenzubringen, mit dem Ziel, die einzigartigen Sicherheitsherausforderungen zu bewältigen, die AI jetzt und in der Zukunft mit sich bringt.

Die Gründungsmitglieder von CoSAI umfassen große Namen wie Amazon, Anthropic, Chainguard, Cisco, Cohere, GenLab, IBM, Intel, Microsoft, NVIDIA, OpenAI, PayPal und Wiz. Wir richten uns unter OASIS Open ein, der internationalen Standards- und Open-Source-Gruppe.

Vorstellung der ersten Arbeitsströme von CoSAI

Während alle, von einzelnen Entwicklern bis hin zu großen Unternehmen, daran arbeiten, gemeinsame Sicherheitsstandards und bewährte Praktiken einzuführen, wird CoSAI diesen kollektiven Einsatz für AI-Sicherheit unterstützen. Heute starten wir mit den ersten drei Bereichen, auf die sich die Koalition konzentrieren wird, in enger Zusammenarbeit mit Industrie und Wissenschaft:

1. Sicherheit der Software-Lieferkette für AI-Systeme: Google hat daran gearbeitet, SLSA Provenance auf AI-Modelle auszuweiten, um herauszufinden, ob AI-Software sicher ist, indem ihre Entstehung und Handhabung durch die Lieferkette nachverfolgt wird. Dieser Arbeitsstrom zielt darauf ab, die AI-Sicherheit zu stärken, indem er Leitlinien zur Überprüfung der Herkunft, zum Management von Risiken durch Drittanbieter-Modelle und zur Bewertung der vollständigen Herkunft von AI-Anwendungen bietet, aufbauend auf den bestehenden SSDF- und SLSA-Sicherheitsprinzipien für AI und traditionelle Software.
2. Vorbereitung der Verteidiger auf eine sich verändernde Cybersicherheitslandschaft: Der tägliche Umgang mit AI-Governance kann für Sicherheitsverantwortliche eine echte Herausforderung sein. Dieser Arbeitsstrom wird einen Verteidigerrahmen schaffen, der ihnen hilft, zu erkennen, wo sie investieren und welche Abwehrtechniken sie anwenden sollen, um die Sicherheitsauswirkungen von AI zu bewältigen. Der Rahmen wird mit dem Aufkommen von offensiven Cybersicherheitsfortschritten in AI-Modellen wachsen.
3. AI-Sicherheitsgovernance: Die Governance der AI-Sicherheit erfordert neue Ressourcen und ein Verständnis dafür, was die AI-Sicherheit einzigartig macht. CoSAI wird eine Liste von Risiken und Kontrollen, eine Checkliste und eine Bewertungskarte entwickeln, um Praktikern zu helfen, ihre Bereitschaft zu bewerten, die Sicherheit ihrer AI-Produkte zu managen, zu überwachen und zu berichten.

Darüber hinaus wird CoSAI mit Gruppen wie dem Frontier Model Forum, Partnership on AI, der Open Source Security Foundation und ML Commons zusammenarbeiten, um verantwortungsvolle AI voranzutreiben.

Was kommt als Nächstes

Während AI weiter voranschreitet, setzen wir alles daran, sicherzustellen, dass unsere Risikomanagementstrategien Schritt halten. Im vergangenen Jahr haben wir große Unterstützung aus der Branche gesehen, um AI sicher zu machen. Noch besser ist, dass wir echte Maßnahmen von Entwicklern, Experten und Unternehmen aller Größen sehen, um Organisationen zu helfen, AI sicher zu nutzen.

AI-Entwickler brauchen – und Endnutzer verdienen – einen Sicherheitsrahmen, der der Herausforderung gewachsen ist und die vorhandenen Möglichkeiten verantwortungsvoll nutzt. CoSAI ist der nächste große Schritt auf dieser Reise, und wir werden bald weitere Updates haben. Um herauszufinden, wie Sie CoSAI unterstützen können, besuchen Sie coalitionforsecureai.org. Besuchen Sie in der Zwischenzeit unsere Secure AI Framework-Seite, um mehr über Googles Arbeit an der AI-Sicherheit zu erfahren.