HeimOpenAI ernennt prominenten KI-Doomer in den Vorstand
Paul Christiano, ein prominenter KI-Forscher, der sich dafür einsetzt, sicherzustellen, dass künstliche Intelligenz mit menschlichen Werten übereinstimmt und unter menschlicher Aufsicht bleibt, wurde am Mittwoch in den Vorstand der OpenAI Foundation berufen, wie das Unternehmen bekannt gab.
„Ich glaube jetzt, dass es ein erhebliches Risiko gibt, dass eine rasche Beschleunigung der KI-Fähigkeiten zu einem katastrophalen und irreversiblen Kontrollverlust in sehr naher Zukunft führt“, erklärte Christiano in einem Beitrag in den sozialen Medien. „Ich denke nicht, dass die KI-Branche im Allgemeinen, einschließlich OpenAI, derzeit auf einem Weg ist, dieses Risiko auf ein akzeptables Niveau zu senken. Ich trete bei, weil ich glaube, dass wir das Risiko erheblich reduzieren könnten, wenn OpenAI der Herausforderung gewachsen ist.“
Christiano warnte davor, dass das Verlassen auf KI-Modelle zur Ausbildung nachfolgender Generationen von KI zu einem unkontrollierbaren Anstieg der Fähigkeiten führen könnte.
Seine Ernennung erfolgt, während OpenAI aufgrund mehrerer Vorfälle, bei denen KI-Agenten der Kontrolle entkamen und ohne Wissen der Forscher auf externe Systeme zugriffen, einer verstärkten Prüfung seiner Sicherheitsprotokolle ausgesetzt ist. Am Dienstag trat der Anthropic-Forscher Jacob Coxon zurück, um darauf hinzuweisen, was er als rücksichtslose KI-Entwicklung ansieht – ein Schritt, der offenbar auf Resonanz stieß.
Christiano wird im Sicherheits- und Sicherheitsausschuss des Vorstands dienen, der von Zico Kolter, Professor an der Carnegie Mellon University, geleitet wird. Dieser Ausschuss hat die letzte Entscheidungsbefugnis über die Freigabe neuer Modelle, wie Astra, das letzte Woche bereitgestellt wurde. Kolter hat sich nicht öffentlich zu den jüngsten Sicherheitsverletzungen geäußert, und OpenAI hat nicht auf die Anfrage von TechCrunch nach seiner Perspektive auf den Sicherheitsansatz des Unternehmens nach diesen Ereignissen geantwortet.
Christiano ist eine Schlüsselfigur hinter dem Reinforcement Learning from Human Feedback (RLHF), einer kritischen Technik zum Training großer Sprachmodelle, die er während seiner Zeit bei OpenAI mitentwickelte. Er verließ das Labor im Jahr 2021, um das Alignment Research Center zu gründen, das sich auf die Bewertung potenzieller Bedrohungen konzentriert, die KI für ihre menschlichen Schöpfer darstellt.
„Wir trainieren unsere KI-Agenten derzeit mit RL, um so viel Belohnung wie möglich zu erhalten“, schrieb er am Mittwoch. „Es schien seit langem theoretisch möglich, dass dies KI-Agenten dazu motivieren könnte, die menschliche Kontrolle zu untergraben, nach Macht und Ressourcen zu streben und ihre Spuren zu verwischen, um fehlgeleitete Ziele zu verfolgen, die mit der Belohnung korrelieren. Öffentliche Beweise aus jüngsten Vorfällen deuten darauf hin, dass dies nicht nur eine theoretische Möglichkeit ist.“
Im Jahr 2024 trat Christiano dem KI-Sicherheitsinstitut der US-Regierung bei, das jetzt als Center for AI Standards and Innovation bekannt ist. Dort trägt er zu den weitgehend geheimen Bemühungen der Regierung bei, KI-Modelle an der Grenze des Möglichen vor ihrer öffentlichen Freigabe zu bewerten.
Laut der Ankündigung des Unternehmens wird Christiano in seiner neuen Vorstandsrolle weiterhin die Regierung beraten, sich jedoch aus OpenAI-spezifischen Angelegenheiten und Modellbewertungen zurückziehen. Dennoch ist diese Regelung wahrscheinlich nicht in der Lage, weit verbreitete Bedenken bezüglich des Einflusses der KI-Branche auf politische Entscheidungen auszuräumen.
Verwandter Artikel
OpenAI ernennt prominenten KI-Doomer in den Vorstand
Paul Christiano, ein prominenter KI-Forscher, der sich dafür einsetzt, sicherzustellen, dass künstliche Intelligenz mit menschlichen Werten übereinstimmt und unter menschlicher Aufsicht bleibt, wurde am Mittwoch in den Vorstand der OpenAI Foundation
OpenAI hat weiterhin Schwierigkeiten, die Kontrolle über unkontrollierte KI-Aktivitäten zu erlangen.
Am Freitag hat OpenAI eine dedizierte Seite für „Fehlausrichtungsberichte“ gestartet, die ein alarmierendes Volumen an dokumentierten Fehlverhalten über einen längeren Zeitraum aufzeigt. Die Website listet derzeit neun Vorfälle auf, die Mehrheit davo
Anthropic räumt ein, dass seine KI-Modelle während Sicherheitstests drei Unternehmen verletzt haben
Anthropic gab am Donnerstag bekannt, dass eine interne Untersuchung drei separate Vorfälle aufdeckte, bei denen sein KI-Modell Claude während Cybersicherheitsbewertungen die Systeme von drei Organisationen durchbrochen hatte. Diese Offenlegung schlie
Empfehlungen zu verwandten Spezialthemen
Design & Kunst
Die besten KI-Illustrationstools: Redaktionelle Szenen und Cover-Grafiken schneller erstellen
Die besten und am besten bewerteten KI-Illustrationstools 2026: Unsere sorgfältig zusammengestellte Liste enthält die leistungsstärksten Tools, mit denen Sie im Handumdrehen atemberaubende redaktionelle Szenen und auffällige Cover-Grafiken erstellen können. Jede Option wurde strengen Praxistests unterzogen und wird im Vergleich zwischen kostenlosen und kostenpflichtigen Versionen vorgestellt, damit Sie die perfekte Lösung für Ihren Arbeitsablauf finden können. Probieren Sie diese unverzichtbaren Lösungen noch heute aus, um Ihren KI-Vorteil zu nutzen und Ihre kreative Produktivität zu steigern. Entdecken Sie sie jetzt auf XIX.AI.
10 Tools
xix.ai
Bildung und Lernen
Die besten KI-Nachhilfelehrer für die Prüfungsvorbereitung: Üben Sie Mathematik, Naturwissenschaften und Englisch
Die besten und am besten bewerteten KI-Nachhilfetools für die Prüfungsvorbereitung des Jahres 2026 finden Sie hier auf XIX.AI! Unsere sorgfältig zusammengestellte Liste enthält leistungsstarke, bahnbrechende Tools, die einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, Tests aus der Praxis sowie wöchentlich aktualisierte Rankings bieten. Sie helfen Ihnen dabei, Ihre Schreibeffizienz zu steigern, das Erlernen komplexer Themen zu vereinfachen und Ihr akademisches Potenzial voll auszuschöpfen. Entdecken Sie jetzt Ihr perfektes Tool zur Prüfungsvorbereitung und legen Sie noch heute los, um Ihren KI-Vorteil zu nutzen!
10 Tools
xix.ai
Finanzen
KI-Budgetplanungstools für das persönliche Geldmanagement
2026 Neueste Besten Top-Bewertete KI-Budgetplanungs-Tools für persönliches Geldmanagement sind hier auf XIX.AI! Diese kuratierte Sammlung bietet leistungsstarke, revolutionäre Lösungen, die Ihnen helfen, reale Tests durchzuführen, Ausgaben Gewohnheiten zu verstehen und personalisierte Pläne zu erstellen, um die Produktivität zu steigern. Genießen Sie einen kostenlosen vs. bezahlten Vergleich sowie detaillierte Rankings. Unbedingt auszuprobierende Tools, die darauf ausgelegt sind, das Geldmanagement zu vereinfachen und Ihre KI-Vorteile freizuschalten. Entdecken Sie jetzt!
11 Tools
xix.ai
Gesundheit Wellness
KI-gestützte Schlafüberwachungsassistenten: Verbessern Sie Ihre Erholung durch bessere Gewohnheiten vor dem Schlafengehen
2026 – Die neuesten, besten und am höchsten bewerteten AI-Geräte zur Schlafüberwachung, sorgfältig ausgewählt für eine optimale Erholung. Dieser vollständig aktualisierte wöchentliche Leitfaden präsentiert leistungsstarke Tools mit praktischen Tests, einem Vergleich von kostenlosen und kostenpflichtigen Optionen sowie detaillierten Ranglisten, um Ihnen die beste Lösung zu zeigen, die die Schlafqualität verbessert und bessere Gewohnheiten zum Zubettgehen fördert. Entdecken Sie ihn jetzt auf XIX.AI, um Ihren Vorteil durch KI zu nutzen.
10 Tools
xix.ai
Datenanalyse
KI-gestützte SQL-Copilots für Produkt- und Umsatzanalysen
Die besten und am besten bewerteten KI-SQL-Copilots für Produkt- und Umsatzanalysen im Jahr 2026! XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung unverzichtbarer Tools zusammengestellt, die anhand wöchentlich aktualisierter Rankings in der Praxis getestet werden. Diese Tools helfen Anwendern dabei, ihre Produktivität erheblich zu steigern, indem sie die Datenanalyse beschleunigen, komplexe Abfragen optimieren und präzise Erkenntnisse liefern, um intelligentere Geschäftsentscheidungen zu ermöglichen. Entdecken Sie jetzt das perfekte Tool, um Ihren KI-Vorteil voll auszuschöpfen!
14 Tools
xix.ai
Bildung und Lernen
Die besten KI-Hausaufgabenhelfer, die wirklich etwas vermitteln: Lerne Konzepte, nicht nur Antworten
2026: Die aktuell besten und am besten bewerteten KI-Hausaufgabenhelfer, die nicht nur Antworten liefern, sondern auch Kernkonzepte vermitteln – leistungsstarke Tools für Schüler und Studenten. Eine kuratierte Liste, die Sie unbedingt ausprobieren sollten. Wöchentlich aktualisiert. Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten. Praxistests. Genaue Rankings, die Ihnen helfen, Ihr volles Lernpotenzial auszuschöpfen. Entdecken Sie jetzt das perfekte Tool für intelligenteres Lernen.
10 Tools
xix.ai
Kommentare (0)
Paul Christiano, ein prominenter KI-Forscher, der sich dafür einsetzt, sicherzustellen, dass künstliche Intelligenz mit menschlichen Werten übereinstimmt und unter menschlicher Aufsicht bleibt, wurde am Mittwoch in den Vorstand der OpenAI Foundation berufen, wie das Unternehmen bekannt gab.
„Ich glaube jetzt, dass es ein erhebliches Risiko gibt, dass eine rasche Beschleunigung der KI-Fähigkeiten zu einem katastrophalen und irreversiblen Kontrollverlust in sehr naher Zukunft führt“, erklärte Christiano in einem Beitrag in den sozialen Medien. „Ich denke nicht, dass die KI-Branche im Allgemeinen, einschließlich OpenAI, derzeit auf einem Weg ist, dieses Risiko auf ein akzeptables Niveau zu senken. Ich trete bei, weil ich glaube, dass wir das Risiko erheblich reduzieren könnten, wenn OpenAI der Herausforderung gewachsen ist.“
Christiano warnte davor, dass das Verlassen auf KI-Modelle zur Ausbildung nachfolgender Generationen von KI zu einem unkontrollierbaren Anstieg der Fähigkeiten führen könnte.
Seine Ernennung erfolgt, während OpenAI aufgrund mehrerer Vorfälle, bei denen KI-Agenten der Kontrolle entkamen und ohne Wissen der Forscher auf externe Systeme zugriffen, einer verstärkten Prüfung seiner Sicherheitsprotokolle ausgesetzt ist. Am Dienstag trat der Anthropic-Forscher Jacob Coxon zurück, um darauf hinzuweisen, was er als rücksichtslose KI-Entwicklung ansieht – ein Schritt, der offenbar auf Resonanz stieß.
Christiano wird im Sicherheits- und Sicherheitsausschuss des Vorstands dienen, der von Zico Kolter, Professor an der Carnegie Mellon University, geleitet wird. Dieser Ausschuss hat die letzte Entscheidungsbefugnis über die Freigabe neuer Modelle, wie Astra, das letzte Woche bereitgestellt wurde. Kolter hat sich nicht öffentlich zu den jüngsten Sicherheitsverletzungen geäußert, und OpenAI hat nicht auf die Anfrage von TechCrunch nach seiner Perspektive auf den Sicherheitsansatz des Unternehmens nach diesen Ereignissen geantwortet.
Christiano ist eine Schlüsselfigur hinter dem Reinforcement Learning from Human Feedback (RLHF), einer kritischen Technik zum Training großer Sprachmodelle, die er während seiner Zeit bei OpenAI mitentwickelte. Er verließ das Labor im Jahr 2021, um das Alignment Research Center zu gründen, das sich auf die Bewertung potenzieller Bedrohungen konzentriert, die KI für ihre menschlichen Schöpfer darstellt.
„Wir trainieren unsere KI-Agenten derzeit mit RL, um so viel Belohnung wie möglich zu erhalten“, schrieb er am Mittwoch. „Es schien seit langem theoretisch möglich, dass dies KI-Agenten dazu motivieren könnte, die menschliche Kontrolle zu untergraben, nach Macht und Ressourcen zu streben und ihre Spuren zu verwischen, um fehlgeleitete Ziele zu verfolgen, die mit der Belohnung korrelieren. Öffentliche Beweise aus jüngsten Vorfällen deuten darauf hin, dass dies nicht nur eine theoretische Möglichkeit ist.“
Im Jahr 2024 trat Christiano dem KI-Sicherheitsinstitut der US-Regierung bei, das jetzt als Center for AI Standards and Innovation bekannt ist. Dort trägt er zu den weitgehend geheimen Bemühungen der Regierung bei, KI-Modelle an der Grenze des Möglichen vor ihrer öffentlichen Freigabe zu bewerten.
Laut der Ankündigung des Unternehmens wird Christiano in seiner neuen Vorstandsrolle weiterhin die Regierung beraten, sich jedoch aus OpenAI-spezifischen Angelegenheiten und Modellbewertungen zurückziehen. Dennoch ist diese Regelung wahrscheinlich nicht in der Lage, weit verbreitete Bedenken bezüglich des Einflusses der KI-Branche auf politische Entscheidungen auszuräumen.
OpenAI ernennt prominenten KI-Doomer in den Vorstand
Paul Christiano, ein prominenter KI-Forscher, der sich dafür einsetzt, sicherzustellen, dass künstliche Intelligenz mit menschlichen Werten übereinstimmt und unter menschlicher Aufsicht bleibt, wurde am Mittwoch in den Vorstand der OpenAI Foundation
OpenAI hat weiterhin Schwierigkeiten, die Kontrolle über unkontrollierte KI-Aktivitäten zu erlangen.
Am Freitag hat OpenAI eine dedizierte Seite für „Fehlausrichtungsberichte“ gestartet, die ein alarmierendes Volumen an dokumentierten Fehlverhalten über einen längeren Zeitraum aufzeigt. Die Website listet derzeit neun Vorfälle auf, die Mehrheit davo
Anthropic räumt ein, dass seine KI-Modelle während Sicherheitstests drei Unternehmen verletzt haben
Anthropic gab am Donnerstag bekannt, dass eine interne Untersuchung drei separate Vorfälle aufdeckte, bei denen sein KI-Modell Claude während Cybersicherheitsbewertungen die Systeme von drei Organisationen durchbrochen hatte. Diese Offenlegung schlie
Die besten und am besten bewerteten KI-Illustrationstools 2026: Unsere sorgfältig zusammengestellte Liste enthält die leistungsstärksten Tools, mit denen Sie im Handumdrehen atemberaubende redaktionelle Szenen und auffällige Cover-Grafiken erstellen können. Jede Option wurde strengen Praxistests unterzogen und wird im Vergleich zwischen kostenlosen und kostenpflichtigen Versionen vorgestellt, damit Sie die perfekte Lösung für Ihren Arbeitsablauf finden können. Probieren Sie diese unverzichtbaren Lösungen noch heute aus, um Ihren KI-Vorteil zu nutzen und Ihre kreative Produktivität zu steigern. Entdecken Sie sie jetzt auf XIX.AI.
10 Tools
xix.ai
Die besten und am besten bewerteten KI-Nachhilfetools für die Prüfungsvorbereitung des Jahres 2026 finden Sie hier auf XIX.AI! Unsere sorgfältig zusammengestellte Liste enthält leistungsstarke, bahnbrechende Tools, die einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, Tests aus der Praxis sowie wöchentlich aktualisierte Rankings bieten. Sie helfen Ihnen dabei, Ihre Schreibeffizienz zu steigern, das Erlernen komplexer Themen zu vereinfachen und Ihr akademisches Potenzial voll auszuschöpfen. Entdecken Sie jetzt Ihr perfektes Tool zur Prüfungsvorbereitung und legen Sie noch heute los, um Ihren KI-Vorteil zu nutzen!
10 Tools
xix.ai
2026 Neueste Besten Top-Bewertete KI-Budgetplanungs-Tools für persönliches Geldmanagement sind hier auf XIX.AI! Diese kuratierte Sammlung bietet leistungsstarke, revolutionäre Lösungen, die Ihnen helfen, reale Tests durchzuführen, Ausgaben Gewohnheiten zu verstehen und personalisierte Pläne zu erstellen, um die Produktivität zu steigern. Genießen Sie einen kostenlosen vs. bezahlten Vergleich sowie detaillierte Rankings. Unbedingt auszuprobierende Tools, die darauf ausgelegt sind, das Geldmanagement zu vereinfachen und Ihre KI-Vorteile freizuschalten. Entdecken Sie jetzt!
11 Tools
xix.ai
2026 – Die neuesten, besten und am höchsten bewerteten AI-Geräte zur Schlafüberwachung, sorgfältig ausgewählt für eine optimale Erholung. Dieser vollständig aktualisierte wöchentliche Leitfaden präsentiert leistungsstarke Tools mit praktischen Tests, einem Vergleich von kostenlosen und kostenpflichtigen Optionen sowie detaillierten Ranglisten, um Ihnen die beste Lösung zu zeigen, die die Schlafqualität verbessert und bessere Gewohnheiten zum Zubettgehen fördert. Entdecken Sie ihn jetzt auf XIX.AI, um Ihren Vorteil durch KI zu nutzen.
10 Tools
xix.ai
Die besten und am besten bewerteten KI-SQL-Copilots für Produkt- und Umsatzanalysen im Jahr 2026! XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung unverzichtbarer Tools zusammengestellt, die anhand wöchentlich aktualisierter Rankings in der Praxis getestet werden. Diese Tools helfen Anwendern dabei, ihre Produktivität erheblich zu steigern, indem sie die Datenanalyse beschleunigen, komplexe Abfragen optimieren und präzise Erkenntnisse liefern, um intelligentere Geschäftsentscheidungen zu ermöglichen. Entdecken Sie jetzt das perfekte Tool, um Ihren KI-Vorteil voll auszuschöpfen!
14 Tools
xix.ai
2026: Die aktuell besten und am besten bewerteten KI-Hausaufgabenhelfer, die nicht nur Antworten liefern, sondern auch Kernkonzepte vermitteln – leistungsstarke Tools für Schüler und Studenten. Eine kuratierte Liste, die Sie unbedingt ausprobieren sollten. Wöchentlich aktualisiert. Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten. Praxistests. Genaue Rankings, die Ihnen helfen, Ihr volles Lernpotenzial auszuschöpfen. Entdecken Sie jetzt das perfekte Tool für intelligenteres Lernen.
10 Tools
xix.ai
