Superintelligenz ist da: Lassen wir sie herein?

Laden des Players…
KI-Unternehmen sprechen so, als sei eine superintelligente KI unvermeidlich, doch jüngste Sicherheitsvorfälle wie der Hugging-Face-Breach bei OpenAI zeigen die potenziellen Gefahren des Einsatzes von KI-Systemen, die leistungsfähiger sind als Menschen. Was geschieht also, wenn wir nicht zuverlässig kontrollieren können, was diese Systeme tun?
In dieser Folge von TechCrunchs Equity-Podcast wird Rebecca Bellan von Connor Leahy begleitet, einem KI-Forscher, Unternehmer und derzeitigen US-Geschäftsführer der gemeinnützigen Organisation ControlAI, die einen weitaus radikaleren Ansatz für die KI-Sicherheit vertritt: Unternehmen die Entwicklung von Superintelligenz vollständig zu untersagen. Leahy erklärt, warum er die Risiken für zu groß hält, um sie allein durch Ausrichtung und Eindämmung zu bewältigen, und wie das, was vor sechs Monaten noch weit hergeholt klang, nun durch eine Welle neuer Gesetzgebungsinitiativen unterstützt wird.
Abonnieren Sie Equity auf YouTube, Apple Podcasts, Overcast, Spotify und allen anderen Podcast-Plattformen. Sie können Equity auch auf X und Threads unter @EquityPod verfolgen.
Verwandter Artikel
Sam Altman löst eine Debatte über die Verlangsamung der KI-Entwicklung aus
Bei Apple Podcasts anhörenBei Spotify anhörenDer CEO von OpenAI, Sam Altman, hat kürzlich vorgeschlagen, es könnte an der Zeit sein, „das Tempo der KI-Entwicklung zu drosseln“, um der Gesellschaft Zeit zu geben, „sich um einige dieser neuen Fähigkei
Hugging Face in Verhandlungen über 13-Mrd.-$-Übernahme
Business Insider berichtete am Wochenende, dass Hugging Face mit einer Bewertung von 13 Milliarden US-Dollar oder mehr zum Verkauf aufgefordert wurde.Die Plattform und die Open-Source-Community des Startups sind Orte, an denen Entwickler und Forsche
Frontier AI Labs weigert sich, Eindämmungsstrategien für außer Kontrolle geratene Modelle offenzulegen
Jüngste Untersuchungen zeigen, dass nur sehr wenige führende KI-Forschungslabore Maßnahmenpläne zur Eindämmung veröffentlicht oder vorgeführt haben. Ein solcher Eindämmungsplan legt die Vorgehensweise
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)

Laden des Players…
KI-Unternehmen sprechen so, als sei eine superintelligente KI unvermeidlich, doch jüngste Sicherheitsvorfälle wie der Hugging-Face-Breach bei OpenAI zeigen die potenziellen Gefahren des Einsatzes von KI-Systemen, die leistungsfähiger sind als Menschen. Was geschieht also, wenn wir nicht zuverlässig kontrollieren können, was diese Systeme tun?
In dieser Folge von TechCrunchs Equity-Podcast wird Rebecca Bellan von Connor Leahy begleitet, einem KI-Forscher, Unternehmer und derzeitigen US-Geschäftsführer der gemeinnützigen Organisation ControlAI, die einen weitaus radikaleren Ansatz für die KI-Sicherheit vertritt: Unternehmen die Entwicklung von Superintelligenz vollständig zu untersagen. Leahy erklärt, warum er die Risiken für zu groß hält, um sie allein durch Ausrichtung und Eindämmung zu bewältigen, und wie das, was vor sechs Monaten noch weit hergeholt klang, nun durch eine Welle neuer Gesetzgebungsinitiativen unterstützt wird.
Abonnieren Sie Equity auf YouTube, Apple Podcasts, Overcast, Spotify und allen anderen Podcast-Plattformen. Sie können Equity auch auf X und Threads unter @EquityPod verfolgen.
Sam Altman löst eine Debatte über die Verlangsamung der KI-Entwicklung aus
Bei Apple Podcasts anhörenBei Spotify anhörenDer CEO von OpenAI, Sam Altman, hat kürzlich vorgeschlagen, es könnte an der Zeit sein, „das Tempo der KI-Entwicklung zu drosseln“, um der Gesellschaft Zeit zu geben, „sich um einige dieser neuen Fähigkei
Hugging Face in Verhandlungen über 13-Mrd.-$-Übernahme
Business Insider berichtete am Wochenende, dass Hugging Face mit einer Bewertung von 13 Milliarden US-Dollar oder mehr zum Verkauf aufgefordert wurde.Die Plattform und die Open-Source-Community des Startups sind Orte, an denen Entwickler und Forsche
Frontier AI Labs weigert sich, Eindämmungsstrategien für außer Kontrolle geratene Modelle offenzulegen
Jüngste Untersuchungen zeigen, dass nur sehr wenige führende KI-Forschungslabore Maßnahmenpläne zur Eindämmung veröffentlicht oder vorgeführt haben. Ein solcher Eindämmungsplan legt die Vorgehensweise





Heim






