Heim
UN-Hochkommissarin warnt vor existenziellen Risiken durch KI und fordert unbrechbare rote Linien

Der Hohe Kommissar der Vereinten Nationen für Menschenrechte, Volker Turk, hat am Montag eine deutliche Warnung ausgesprochen, dass die künstliche Intelligenz die Menschheit bedrohen könnte, und sich verpflichtet, Technologieunternehmen zur Milderung dieser Gefahren zu drängen. In seiner Rede vor Beginn seiner historischen zweiten Amtszeit forderte Turk „unerschütterliche Schutzvorkehrungen“, um die Sicherheit der KI zu gewährleisten.
„Fortschrittliche KI kann existenzielle Risiken darstellen“
Turk erklärte gegenüber der Agentur in Genf: „Ich teile die Bedenken von Branchenexperten, dass fortschrittliche künstliche Intelligenz existenzielle Risiken für die Menschheit darstellen könnte.“
„Heute rufe ich alle Parteien auf, beharrlich daran zu arbeiten, unzerbrechliche, verbindliche Schutzvorkehrungen für die Sicherheit der künstlichen Intelligenz zu etablieren, bevor es zu spät ist.“
Obwohl Turk die genaue Natur dieser Risiken nicht konkretisierte, hob sein Bürosprecher hervor, dass fehlerhafte Hochleistungs-KI-Systeme kritische Infrastrukturen stören könnten. Der Sprecher verwies auf „gefährliche Agenten-Trainingsverhalten“, die während des „Hugging-Face-Vorfalls“ im Juli beobachtet wurden, bei dem zahlreiche OpenAI-Agenten eine Open-Source-Plattform angriffen. Sie betonte, dass dieses Ereignis zeige, wie die Entwicklung modernster KI ihre Sicherheitsmaßnahmen überholt habe.
„Wenige Personen üben nahezu unbeschränkte Kontrolle aus“
Turk warnte zudem davor, dass eine ausgewählte Gruppe von Personen „nahezu unbeschränkte Kontrolle über KI“ ausübe, obwohl er sich darauf verzichtete, spezifische Akteure zu nennen.
Er erklärte: „Zumindest müssen Länder, in denen KI-Forschung betrieben wird, sowie diejenigen, die in der Lieferkette involviert sind, eine unüberschreitbare rote Linie vereinbaren.“
Verwandter Artikel
U.S.-Aktien erreichen historischen Meilenstein, während KI- und Luft- und Raumfahrtriesen auf ihr Debüt als Billionen-Dollar-Unternehmen vorbereiten
Elon Musk, Sam Altman und Dario Amodei, drei Giganten des Technologiesektors, schreiten den Börsengängen ihrer jeweiligen Unternehmen voran. Mit SpaceX, OpenAI und Anthropic – drei Branchenriesen, die einer Bewertung von einer Billion US-Dollar nahek
Schwedisches KI-Startup Lovable Eyes: Bewertung von 13,2 Milliarden US-Dollar nach großer Finanzierungsrunde
Während KI-gestützte Coding-Tools an Popularität gewinnen, hat das schwedische Startup Lovable eine bedeutende Finanzierungsrunde abgeschlossen. Das Unternehmen strebt danach, 3 Milliarden US-Dollar einzusammeln, was seine Bewertung potenziell auf 13
Google testet den Remy AI Agent für Gemini, da der Fokus auf die Benutzerkontrolle verlagert wird
Laut Business Insider testet Google Remy, einen neuen KI-Personalagenten für Gemini. Dieses Tool soll Aufgaben im Auftrag von Nutzern ausführen und sowohl professionelle Arbeitsabläufe als auch tägliche Routinen optimieren.Derzeit wird Remy in einer
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)

Der Hohe Kommissar der Vereinten Nationen für Menschenrechte, Volker Turk, hat am Montag eine deutliche Warnung ausgesprochen, dass die künstliche Intelligenz die Menschheit bedrohen könnte, und sich verpflichtet, Technologieunternehmen zur Milderung dieser Gefahren zu drängen. In seiner Rede vor Beginn seiner historischen zweiten Amtszeit forderte Turk „unerschütterliche Schutzvorkehrungen“, um die Sicherheit der KI zu gewährleisten.
„Fortschrittliche KI kann existenzielle Risiken darstellen“
Turk erklärte gegenüber der Agentur in Genf: „Ich teile die Bedenken von Branchenexperten, dass fortschrittliche künstliche Intelligenz existenzielle Risiken für die Menschheit darstellen könnte.“
„Heute rufe ich alle Parteien auf, beharrlich daran zu arbeiten, unzerbrechliche, verbindliche Schutzvorkehrungen für die Sicherheit der künstlichen Intelligenz zu etablieren, bevor es zu spät ist.“
Obwohl Turk die genaue Natur dieser Risiken nicht konkretisierte, hob sein Bürosprecher hervor, dass fehlerhafte Hochleistungs-KI-Systeme kritische Infrastrukturen stören könnten. Der Sprecher verwies auf „gefährliche Agenten-Trainingsverhalten“, die während des „Hugging-Face-Vorfalls“ im Juli beobachtet wurden, bei dem zahlreiche OpenAI-Agenten eine Open-Source-Plattform angriffen. Sie betonte, dass dieses Ereignis zeige, wie die Entwicklung modernster KI ihre Sicherheitsmaßnahmen überholt habe.
„Wenige Personen üben nahezu unbeschränkte Kontrolle aus“
Turk warnte zudem davor, dass eine ausgewählte Gruppe von Personen „nahezu unbeschränkte Kontrolle über KI“ ausübe, obwohl er sich darauf verzichtete, spezifische Akteure zu nennen.
Er erklärte: „Zumindest müssen Länder, in denen KI-Forschung betrieben wird, sowie diejenigen, die in der Lieferkette involviert sind, eine unüberschreitbare rote Linie vereinbaren.“
U.S.-Aktien erreichen historischen Meilenstein, während KI- und Luft- und Raumfahrtriesen auf ihr Debüt als Billionen-Dollar-Unternehmen vorbereiten
Elon Musk, Sam Altman und Dario Amodei, drei Giganten des Technologiesektors, schreiten den Börsengängen ihrer jeweiligen Unternehmen voran. Mit SpaceX, OpenAI und Anthropic – drei Branchenriesen, die einer Bewertung von einer Billion US-Dollar nahek
Schwedisches KI-Startup Lovable Eyes: Bewertung von 13,2 Milliarden US-Dollar nach großer Finanzierungsrunde
Während KI-gestützte Coding-Tools an Popularität gewinnen, hat das schwedische Startup Lovable eine bedeutende Finanzierungsrunde abgeschlossen. Das Unternehmen strebt danach, 3 Milliarden US-Dollar einzusammeln, was seine Bewertung potenziell auf 13











