Andrew Ng 'sehr froh' Google beendet AI Weapons Pledge

Andrew Ng, der Gründer und ehemalige Leiter von Google Brain, hat seine Unterstützung für die kürzliche Entscheidung von Google bekundet, sein Versprechen aufzugeben, keine KI für Waffen zu entwickeln.

„Ich freue mich sehr, dass Google seine Position geändert hat“, erklärte Ng während eines Live-Interviews mit TechCrunch auf der Military Veteran Startup Conference in San Francisco am Donnerstagabend.

Erst diese Woche entfernte Google ein sieben Jahre altes Versprechen von seiner KI-Prinzipien-Seite, das besagte, das Unternehmen werde keine KI für Waffen oder Überwachung entwickeln. Begleitend zu dieser Änderung veröffentlichte Google einen Blogbeitrag von DeepMind-CEO Demis Hassabis, der die Notwendigkeit einer Zusammenarbeit zwischen Unternehmen und Regierungen betonte, um KI zu entwickeln, die „die nationale Sicherheit unterstützt“.

Googles ursprüngliches Versprechen, keine KI-Waffen zu entwickeln, stammt aus dem Jahr 2018, nach den Protesten gegen das Project Maven, bei denen Tausende von Mitarbeitern gegen die militärischen Verträge des Unternehmens protestierten. Die Proteste richteten sich gegen Googles Rolle bei der Bereitstellung von KI für ein militärisches Programm, das Videomaterial analysierte und potenziell die Präzision von Drohnenangriffen verbesserte.

Ng äußerte Verwirrung über die Proteste gegen das Project Maven vor einem Publikum, das hauptsächlich aus Veteranen bestand.

„Ehrlich gesagt, als die Project-Maven-Debatte aufkam ... Viele von euch sind da draußen, bereit, euer Leben für unser Land zu riskieren, um uns zu schützen“, bemerkte Ng. „Wie kann ein amerikanisches Unternehmen es also wagen, unseren eigenen Truppen, die für uns kämpfen, nicht zu helfen?“

Obwohl Ng während der Project-Maven-Proteste nicht bei Google war, hat er die KI- und neuronalen Netzwerk-Initiativen des Unternehmens maßgeblich beeinflusst. Derzeit leitet Ng das AI Fund, ein auf KI fokussiertes Venture-Studio, und spricht häufig über KI-Politik.

Ng äußerte auch Erleichterung darüber, dass zwei KI-regulatorische Vorschläge – das in Kalifornien abgelehnte Gesetz SB 1047 und Bidens aufgehobener KI-Exekutivbefehl – nicht mehr aktiv sind. Er hatte stets argumentiert, dass diese Maßnahmen die Entwicklung von Open-Source-KI in den USA behindern würden.

Ng glaubt, dass der wahre Weg, die Sicherheit von KI in Amerika zu gewährleisten, darin besteht, die technologische Wettbewerbsfähigkeit mit China aufrechtzuerhalten. Er wies darauf hin, dass KI-Drohnen „das Schlachtfeld komplett verändern“ würden.

Er ist nicht der Einzige unter den ehemaligen Google-Führungskräften, der diese Ansicht vertritt. Eric Schmidt, der ehemalige Google-CEO, lobbyiert inzwischen in Washington, D.C., dafür, dass die USA KI-Drohnen anschaffen, um mit China Schritt zu halten; sein Unternehmen, White Stork, könnte diese Drohnen letztendlich liefern.

Während Ng und Schmidt für militärische KI-Anwendungen eintreten, hat das Thema die Belegschaft von Google seit langem gespalten.

Meredith Whittaker, heute Präsidentin von Signal, leitete 2018 die Maven-Proteste, während sie als KI-Forscherin bei Google tätig war. Als Google zusagte, seine Project-Maven-Verträge nicht zu verlängern, zeigte sich Whittaker zufrieden und erklärte, das Unternehmen „sollte nicht im Geschäft mit Krieg sein“.

Sie ist nicht die Einzige, die sich dagegen ausspricht. Geoffrey Hinton, ein ehemaliger Google-KI-Forscher und Nobelpreisträger, hat die Regierungen weltweit aufgefordert, KI in Waffen zu verbieten und zu regulieren. Jeff Dean, ein angesehener ehemaliger Google-Manager und heute Chief Scientist bei DeepMind, unterzeichnete ebenfalls einen Brief gegen den Einsatz von maschinellem Lernen in autonomen Waffen.

In den letzten Jahren standen Google und Amazon zunehmend in der Kritik für ihre militärischen Engagements, einschließlich ihrer Project-Nimbus-Verträge mit der israelischen Regierung. Letztes Jahr führten Mitarbeiter beider Unternehmen Sitzstreiks durch, um gegen Project Nimbus zu protestieren, im Rahmen dessen Google und Amazon Berichten zufolge Cloud-Computing-Dienste für die Israelischen Verteidigungsstreitkräfte bereitstellten.

Das Pentagon und Streitkräfte weltweit sind zunehmend bestrebt, KI zu nutzen, wie der Chief AI Officer des Verteidigungsministeriums zuvor gegenüber TechCrunch erklärte. Da Google, Amazon, Microsoft und andere Tech-Giganten Hunderte von Milliarden in die KI-Infrastruktur investieren, versuchen viele, diese Kosten durch militärische Kooperationen auszugleichen.