2024 AI Verantwortungsbericht veröffentlicht

Vor zwei Jahren teilten wir unsere Vision, KI voranzutreiben, um der Gesellschaft zu nutzen und Innovationen zu entfachen. Vor wenigen Wochen veröffentlichten wir unser Update 2024, das unsere Fortschritte zeigt. Von hochmodernen Modellen, die Kreativität fördern, bis hin zu KI-gestützten Durchbrüchen in Biologie, Gesundheitsforschung und Neurowissenschaften machen wir Wellen.

Doch mutig mit KI zu sein, bedeutet, von Anfang an verantwortungsvoll zu handeln. Deshalb war unser Ansatz bei KI immer darauf ausgerichtet, ihre weitreichenden Auswirkungen auf Menschen zu verstehen und anzugehen. 2018 waren wir unter den Ersten, die KI-Prinzipien festlegten, und seit 2019 veröffentlichen wir jährliche Transparenzberichte. Wir passen unsere Richtlinien, Praktiken und Rahmenwerke stets an die Zeit an.

Der Fortschrittsbericht 2024 zu verantwortungsvoller KI

Unser sechster jährlicher Fortschrittsbericht zu verantwortungsvoller KI beleuchtet, wie wir KI-Risiken im Entwicklungsprozess handhaben. Er zeigt die Fortschritte, die wir im vergangenen Jahr beim Aufbau von Governance-Strukturen für unsere KI-Produkteinführungen gemacht haben.

Wir investieren mehr Ressourcen als je zuvor in KI-Forschung und Produkte, die Menschen und Gesellschaft helfen, sowie in KI-Sicherheit und die Untersuchung potenzieller Risiken.

Der Bericht des letzten Jahres beleuchtete über 300 Forschungspapiere unserer Teams zu Verantwortung und Sicherheit, Aktualisierungen unserer KI-Richtlinien und Erkenntnisse aus Red-Teaming und Evaluierungen in Bezug auf Sicherheits-, Datenschutz- und Sicherheitsbenchmarks. Wir haben auch Fortschritte bei der Risikominderung bei verschiedenen KI-Einführungen gemacht, mit besserer Sicherheitstuning und Filtern, Sicherheits- und Datenschutzkontrollen, der Nutzung von Provenance-Technologie in unseren Produkten und der Förderung breiterer KI-Kompetenz. Im Jahr 2024 haben wir auch die breitere KI-Community mit Finanzierung, Tools und der Entwicklung von Standards unterstützt, wie im Bericht detailliert beschrieben.

Ein Update unseres Frontier Safety Framework

Da KI sich weiterentwickelt, können neue Fähigkeiten neue Risiken mit sich bringen. Deshalb haben wir letztes Jahr die erste Version unseres Frontier Safety Framework eingeführt – ein Satz von Protokollen, um potenzielle Risiken von leistungsstarken Frontier-KI-Modellen im Griff zu behalten. Wir haben mit Experten aus Industrie, Wissenschaft und Regierung zusammengearbeitet, um diese Risiken besser zu verstehen, sie zu testen und zu mindern.

Wir haben das Framework in unsere Google DeepMind Sicherheits- und Governance-Prozesse für die Bewertung von Frontier-Modellen wie Gemini 2.0 umgesetzt. Heute veröffentlichen wir ein aktualisiertes Frontier Safety Framework, das Folgendes umfasst:

• Empfehlungen für erhöhte Sicherheit: Identifizierung von Bereichen, in denen wir die Bemühungen verstärken müssen, um Datenlecks zu verhindern.
• Verfahren zur Minderung bei der Bereitstellung: Fokus auf die Verhinderung des Missbrauchs kritischer Systemfähigkeiten.
• Risiko der täuschenden Ausrichtung: Bewältigung des Risikos, dass ein autonomes System absichtlich die menschliche Kontrolle untergräbt.

Mehr dazu auf dem Google DeepMind Blog.

Aktualisierung der KI-Prinzipien

Seit wir 2018 unsere KI-Prinzipien veröffentlicht haben, entwickelt sich die KI-Technologie rasant. Mittlerweile nutzen Milliarden Menschen KI in ihrem Alltag. Sie ist zu einer Standardtechnologie geworden, einer Plattform, die unzählige Organisationen und Einzelpersonen zum Erstellen von Apps nutzen. KI ist von einem Nischenlabor-Thema zu etwas so Verbreitetem wie Mobiltelefone und das Internet geworden, mit zahlreichen nützlichen Anwendungen für die Gesellschaft und Menschen weltweit, unterstützt von einem florierenden KI-Ökosystem von Entwicklern.

Gemeinsame Grundprinzipien sind für diese Entwicklung entscheidend. Nicht nur KI-Unternehmen und akademische Einrichtungen machen Fortschritte bei KI-Prinzipien weltweit. Die G7, die Internationale Organisation für Normung und verschiedene demokratische Nationen haben alle Rahmenwerke veröffentlicht, um die sichere Entwicklung und Nutzung von KI zu leiten. Immer mehr Organisationen und Regierungen nutzen diese gemeinsamen Standards, um herauszufinden, wie diese sich entwickelnde Technologie gebaut, reguliert und eingesetzt werden soll – unser Fortschrittsbericht zu verantwortungsvoller KI folgt nun beispielsweise dem NIST Risk Management Framework der Vereinigten Staaten. Unsere Erfahrungen und Forschungen über die Jahre, zusammen mit den geteilten Bedrohungsanalysen, Fachkenntnissen und Best Practices mit anderen KI-Unternehmen, haben uns ein tieferes Verständnis für das Potenzial und die Risiken von KI gegeben.

Es gibt ein globales Rennen um die Führung in KI in einer zunehmend komplexen geopolitischen Landschaft. Wir glauben, dass Demokratien die Entwicklung von KI anführen sollten, geleitet von Kernwerten wie Freiheit, Gleichheit und Respekt vor Menschenrechten. Und wir denken, dass Unternehmen, Regierungen und Organisationen, die diese Werte teilen, zusammenarbeiten sollten, um KI zu schaffen, die Menschen schützt, globales Wachstum fördert und die nationale Sicherheit unterstützt.

Mit diesem Gedanken aktualisieren wir unsere KI-Prinzipien, um uns auf drei zentrale Grundsätze zu konzentrieren:

• Mutige Innovation: Wir entwickeln KI, um Menschen in fast jedem Bereich zu helfen, zu stärken und zu inspirieren, wirtschaftlichen Fortschritt voranzutreiben, Leben zu verbessern, wissenschaftliche Durchbrüche zu ermöglichen und die größten Herausforderungen der Menschheit anzugehen.
• Verantwortungsvolle Entwicklung und Bereitstellung: Wir verstehen, dass KI als aufstrebende transformative Technologie neue Komplexitäten und Risiken mit sich bringt. Deshalb sind wir entschlossen, KI verantwortungsvoll während des gesamten Entwicklungs- und Bereitstellungszyklus zu verfolgen – von der Gestaltung über das Testen bis zur Bereitstellung und Iteration – und lernen, während KI fortschreitet und ihre Nutzungen sich entwickeln.
• Kollaborativer Fortschritt, gemeinsam: Wir lernen von anderen und entwickeln Technologie, die andere befähigt, KI positiv zu nutzen.

Unsere vollständigen KI-Prinzipien finden Sie auf AI.google.

Geleitet von unseren KI-Prinzipien werden wir uns weiterhin auf KI-Forschung und -Anwendungen konzentrieren, die mit unserer Mission, unserem wissenschaftlichen Fokus und unseren Kompetenzbereichen übereinstimmen und mit weithin akzeptierten Prinzipien des internationalen Rechts und der Menschenrechte im Einklang stehen – wobei wir spezifische Arbeiten stets sorgfältig bewerten, um festzustellen, ob die Vorteile die potenziellen Risiken deutlich überwiegen. Wir berücksichtigen auch, ob unsere Engagements maßgeschneiderte Forschung und Entwicklung erfordern oder auf allgemein verfügbare Technologie zurückgreifen können. Diese Bewertungen sind entscheidend, da KI zunehmend von zahlreichen Organisationen und Regierungen für Anwendungen in Bereichen wie Gesundheitswesen, Wissenschaft, Robotik, Cybersicherheit, Transport, nationale Sicherheit, Energie, Klima und mehr entwickelt wird.

Neben den Prinzipien haben wir natürlich weiterhin spezifische Produktrichtlinien und klare Nutzungsbedingungen, die Verbote wie die illegale Nutzung unserer Dienste umfassen.

Die kommende Chance

Wir wissen, wie schnell sich die zugrunde liegende Technologie – und die Debatte über den Fortschritt, die Bereitstellung und die Nutzung von KI – weiterentwickeln wird, und wir werden unseren Ansatz weiter anpassen und verfeinern, während wir alle im Laufe der Zeit lernen.

Da AGI insbesondere immer klarer in den Fokus rückt, werden die gesellschaftlichen Auswirkungen unglaublich tiefgreifend. Es geht nicht nur darum, leistungsstarke KI zu entwickeln; es geht darum, die transformativste Technologie in der Geschichte der Menschheit zu schaffen, sie zu nutzen, um die größten Herausforderungen der Menschheit zu lösen, und sicherzustellen, dass die richtigen Sicherheitsvorkehrungen und Governance-Strukturen vorhanden sind, zum Wohle der Welt. Wir werden weiterhin unsere Fortschritte und Erkenntnisse über diese Reise teilen und erwarten, unser Denken weiterzuentwickeln, während wir AGI näherkommen.

Im Vorwärtsgehen glauben wir, dass die Verbesserungen, die wir im letzten Jahr an unseren Governance- und anderen Prozessen vorgenommen haben, unser neues Frontier Safety Framework und unsere KI-Prinzipien uns gut für die nächste Phase der KI-Transformation positionieren. Die Möglichkeit von KI, das Leben von Menschen weltweit zu unterstützen und zu verbessern, ist das, was uns letztlich in dieser Arbeit antreibt, und wir werden unseren mutigen, verantwortungsvollen und kollaborativen Ansatz für KI weiterverfolgen.