Heim
NVIDIA leitet die Gründung der SAFE-Arbeitsgruppe im Rahmen der OSAA, um den Austausch im Bereich KI-Sicherheit und die Zusammenarbeit im Open-Source-Bereich zu fördern
Die Open Security AI Alliance (OSAA), die vor etwas mehr als einer Woche von NVIDIA ins Leben gerufen wurde, treibt die Entwicklung im Bereich der KI-Sicherheit zügig voran. Die Zahl der Mitglieder hat bereits die Marke von 120 Unternehmen überschritten, und die Allianz hat die Gründung der Arbeitsgruppe „Shared AI Findings Exchange“ (SAFE) bekannt gegeben, die nun Vorschläge zum Umgang mit KI-Sicherheitsvorfällen entgegennimmt. Die Linux Foundation betreut diese Initiative.
Auf der Black-Hat-Konferenz in dieser Woche hat die Allianz ihre Strategie präzisiert und dabei den Schwerpunkt auf die vertrauliche Meldung von KI-Cybersicherheitsvorfällen, Benachrichtigungsprotokolle für betroffene Parteien sowie schuldfreie Nachbetrachtungen gelegt. Diese Schritte zielen darauf ab, den branchenweiten Austausch von Sicherheitserkenntnissen und Best Practices zu fördern.

Neben der Entwicklung von Kooperationsstandards bringen die OSAA-Mitglieder Open-Source-Sicherheitsfunktionen ein und planen den Aufbau einer umfassenden Open-Source-Toolchain für KI-Sicherheit zum Einsatz in Unternehmen. Dies wird dazu beitragen, KI-Agenten zu schützen und böswillige KI-Angriffe abzuwehren. NVIDIA steuert offene Modelle und den Open-Source-LLM-Schwachstellenscanner „Garak“ bei. Okta treibt die Technologie zur Identitätsverwaltung von Agenten voran, Red Hat entwickelt Lösungen für die Governance von Agenten, und Amazon steuert Projekte wie „Strands Agents“ und die Autorisierungssprache „Cedar“ bei.
Zu den Mitgliedern der Allianz gehören Adobe, BlackRock, Cisco, Intel, Microsoft und Visa. OpenAI, Anthropic und Google sind jedoch noch nicht beigetreten. Dennoch haben sowohl OpenAI als auch Google einen früheren, von NVIDIA initiierten offenen Brief unterzeichnet, der von über 200 Technologieunternehmen unterstützt wurde, die sich für Open-Source-KI einsetzen.
Die rasche Gründung dieser Allianz steht in engem Zusammenhang mit den laufenden Diskussionen in den USA über Regulierungsmaßnahmen für Open-Source-KI. Branchenexperten sind der Ansicht, dass die verstärkten Bemühungen der OSAA zur Förderung offener Zusammenarbeit und Sicherheitsstandards das US-amerikanische Open-Source-KI-Ökosystem weiter stärken und durch den offenen Austausch die Sicherheitsfähigkeiten der KI sowie die industrielle Wettbewerbsfähigkeit verbessern könnten.
Verwandter Artikel
ByteDances Seed startet globale Campus-Werbung und bietet virtuelle Aktien, um Top-Talente für große Modelle zu gewinnen
Im wettbewerbsintensiven Umfeld der großen Sprachmodelle bleibt die Sicherung erstklassiger Talente das wichtigste strategische Asset.Am 1. April ByteDance gab die Einführung seiner globalen Campus-Rekrutierungsinitiative Seed bekannt, die Teil seine
Suno fügt Wasserzeichen in Songs ein, während Rechtsstreitigkeiten andauern
Suno, die Plattform, die es Nutzern ermöglicht, KI-generierte Musik zu erstellen, hat neue Funktionen vorgestellt, um plattformproduzierte Tracks zu kennzeichnen, Downloads einzuschränken und die Community-Richtlinien zu aktualisieren, um unbefugte K
Musk räumt ein, dass Grok-Build Benutzercode geleakt hat, verspricht aber, alle historischen Daten zu löschen
Elon Musk wandte sich direkt an die Datenschutzkontroverse um Grok Build, beginnend mit einem einfachen „True“, um die Gültigkeit des Vorfalls zu bestätigen. Er versprach, dass alle zuvor bei SpaceXAI hochgeladenen Benutzerdaten unwiderruflich gelösc
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)
Die Open Security AI Alliance (OSAA), die vor etwas mehr als einer Woche von NVIDIA ins Leben gerufen wurde, treibt die Entwicklung im Bereich der KI-Sicherheit zügig voran. Die Zahl der Mitglieder hat bereits die Marke von 120 Unternehmen überschritten, und die Allianz hat die Gründung der Arbeitsgruppe „Shared AI Findings Exchange“ (SAFE) bekannt gegeben, die nun Vorschläge zum Umgang mit KI-Sicherheitsvorfällen entgegennimmt. Die Linux Foundation betreut diese Initiative.
Auf der Black-Hat-Konferenz in dieser Woche hat die Allianz ihre Strategie präzisiert und dabei den Schwerpunkt auf die vertrauliche Meldung von KI-Cybersicherheitsvorfällen, Benachrichtigungsprotokolle für betroffene Parteien sowie schuldfreie Nachbetrachtungen gelegt. Diese Schritte zielen darauf ab, den branchenweiten Austausch von Sicherheitserkenntnissen und Best Practices zu fördern.

Neben der Entwicklung von Kooperationsstandards bringen die OSAA-Mitglieder Open-Source-Sicherheitsfunktionen ein und planen den Aufbau einer umfassenden Open-Source-Toolchain für KI-Sicherheit zum Einsatz in Unternehmen. Dies wird dazu beitragen, KI-Agenten zu schützen und böswillige KI-Angriffe abzuwehren. NVIDIA steuert offene Modelle und den Open-Source-LLM-Schwachstellenscanner „Garak“ bei. Okta treibt die Technologie zur Identitätsverwaltung von Agenten voran, Red Hat entwickelt Lösungen für die Governance von Agenten, und Amazon steuert Projekte wie „Strands Agents“ und die Autorisierungssprache „Cedar“ bei.
Zu den Mitgliedern der Allianz gehören Adobe, BlackRock, Cisco, Intel, Microsoft und Visa. OpenAI, Anthropic und Google sind jedoch noch nicht beigetreten. Dennoch haben sowohl OpenAI als auch Google einen früheren, von NVIDIA initiierten offenen Brief unterzeichnet, der von über 200 Technologieunternehmen unterstützt wurde, die sich für Open-Source-KI einsetzen.
Die rasche Gründung dieser Allianz steht in engem Zusammenhang mit den laufenden Diskussionen in den USA über Regulierungsmaßnahmen für Open-Source-KI. Branchenexperten sind der Ansicht, dass die verstärkten Bemühungen der OSAA zur Förderung offener Zusammenarbeit und Sicherheitsstandards das US-amerikanische Open-Source-KI-Ökosystem weiter stärken und durch den offenen Austausch die Sicherheitsfähigkeiten der KI sowie die industrielle Wettbewerbsfähigkeit verbessern könnten.
ByteDances Seed startet globale Campus-Werbung und bietet virtuelle Aktien, um Top-Talente für große Modelle zu gewinnen
Im wettbewerbsintensiven Umfeld der großen Sprachmodelle bleibt die Sicherung erstklassiger Talente das wichtigste strategische Asset.Am 1. April ByteDance gab die Einführung seiner globalen Campus-Rekrutierungsinitiative Seed bekannt, die Teil seine
Suno fügt Wasserzeichen in Songs ein, während Rechtsstreitigkeiten andauern
Suno, die Plattform, die es Nutzern ermöglicht, KI-generierte Musik zu erstellen, hat neue Funktionen vorgestellt, um plattformproduzierte Tracks zu kennzeichnen, Downloads einzuschränken und die Community-Richtlinien zu aktualisieren, um unbefugte K
Musk räumt ein, dass Grok-Build Benutzercode geleakt hat, verspricht aber, alle historischen Daten zu löschen
Elon Musk wandte sich direkt an die Datenschutzkontroverse um Grok Build, beginnend mit einem einfachen „True“, um die Gültigkeit des Vorfalls zu bestätigen. Er versprach, dass alle zuvor bei SpaceXAI hochgeladenen Benutzerdaten unwiderruflich gelösc











