OpenAI erleichtert die Beschränkungen der Bilderstellung von Chatgpts

Diese Woche stellte OpenAI einen neuen Bildgenerator für ChatGPT vor, der aufgrund seiner Fähigkeit, Studio Ghibli-inspirierte Visuals zu erstellen, schnell an Popularität gewann. Doch abgesehen von den charmanten Illustrationen markiert die Einführung des nativen Bildgenerators von GPT-4o eine bedeutende Verbesserung der Fähigkeiten von ChatGPT, einschließlich besserer Bildbearbeitung, Textrendering und räumlicher Darstellung.

Eine der auffälligsten Änderungen, die OpenAI diese Woche umgesetzt hat, betrifft jedoch seine Richtlinien zur Inhaltsmoderation. Diese aktualisierten Richtlinien erlauben es ChatGPT nun, auf Anfrage Bilder von öffentlichen Persönlichkeiten, hasserfüllten Symbolen und rassischen Merkmalen zu generieren, eine Abkehr von der bisherigen Praxis der strikten Ablehnung.

Laut einem Blogbeitrag von OpenAIs Leiterin für Modellverhalten, Joanne Jang, der am Donnerstag veröffentlicht wurde, hat das Unternehmen seinen Ansatz "weiterentwickelt". Jang erklärte: „Wir gehen von pauschalen Ablehnungen in sensiblen Bereichen zu einem präziseren Ansatz über, der darauf abzielt, reale Schäden zu verhindern. Das Ziel ist es, Demut anzunehmen: anzuerkennen, wie viel wir nicht wissen, und uns so zu positionieren, dass wir uns anpassen können, während wir lernen.“

Diese Änderungen scheinen mit der umfassenderen Strategie von OpenAI übereinzustimmen, ChatGPT zu "entzensieren". Im Februar kündigte das Unternehmen Pläne an, seine Trainingsmethoden für KI-Modelle zu ändern, um ChatGPT in die Lage zu versetzen, mehr Anfragen zu bearbeiten, vielfältige Perspektiven zu bieten und die Themen zu minimieren, die es ablehnt.

Unter der neuen Richtlinie kann ChatGPT nun Bilder von öffentlichen Persönlichkeiten wie Donald Trump und Elon Musk erstellen und verändern, die zuvor tabu waren. Jang betonte, dass OpenAI nicht vorschreiben will, wer von ChatGPT dargestellt werden sollte oder nicht, und bietet eine Opt-out-Option für diejenigen an, die nicht einbezogen werden möchten.

In einem am Dienstag veröffentlichten Whitepaper erklärte OpenAI außerdem, dass es Nutzern erlauben wird, Bilder von hasserfüllten Symbolen wie Hakenkreuzen in pädagogischen oder neutralen Kontexten zu generieren, vorausgesetzt, sie fördern keine extremistischen Agenden.

Darüber hinaus definiert OpenAI neu, was als „anstößiger“ Inhalt gilt. Zuvor lehnte ChatGPT Anfragen zu physischen Merkmalen ab, wie etwa „mache die Augen dieser Person asiatischer“ oder „mache diese Person schwerer“. Unsere Tests bei TechCrunch zeigten, dass der neue Bildgenerator von ChatGPT nun diesen Arten von Anfragen nachkommt.

Zusätzlich kann ChatGPT zwar die Stile von Kreativstudios wie Pixar oder Studio Ghibli nachahmen, verzichtet jedoch darauf, die Stile lebender Künstler zu imitieren, was möglicherweise Debatten über die Nutzung urheberrechtlich geschützter Materialien in KI-Trainingsdaten neu entfachen könnte.

Es ist wichtig zu beachten, dass OpenAI nicht alle Schutzmaßnahmen komplett entfernt. Der native Bildgenerator von GPT-4o lehnt weiterhin viele sensible Anfragen ab und hat strengere Schutzvorkehrungen für die Erstellung von Bildern von Kindern als sein Vorgänger, DALL-E 3, wie im Whitepaper von GPT-4o beschrieben.

Diese Lockerung der Schutzmaßnahmen folgt auf jahrelange Kritik aus konservativen Kreisen über angebliche KI-„Zensur“ durch Unternehmen im Silicon Valley. Google zum Beispiel sah sich mit Kritik an seinem Gemini-KI-Bildgenerator konfrontiert, der historisch ungenaue multirassische Bilder für Anfragen wie „Gründerväter der USA“ und „deutsche Soldaten im Zweiten Weltkrieg“ produzierte.

Der andauernde Kulturkampf um die Moderation von KI-Inhalten könnte einen kritischen Punkt erreichen. Anfang dieses Monats stellte der republikanische Kongressabgeordnete Jim Jordan Fragen an OpenAI, Google und andere Technologieunternehmen über mögliche Absprachen mit der Biden-Regierung zur Zensur von KI-generierten Inhalten.

In einer früheren Stellungnahme gegenüber TechCrunch bestritt OpenAI, dass die Änderungen an der Inhaltsmoderation politisch motiviert seien. Stattdessen betont das Unternehmen, dass diese Veränderungen eine „lang gehegte Überzeugung widerspiegeln, den Nutzern mehr Kontrolle zu geben“, und dass die Technologie nun ausgereift genug sei, um sensible Themen verantwortungsvoll zu behandeln.

Unabhängig von den Beweggründen hinter diesen Änderungen scheint der Zeitpunkt günstig, angesichts der möglichen regulatorischen Prüfung unter der Trump-Regierung. Andere Tech-Giganten wie Meta und X haben ebenfalls ähnliche Richtlinien eingeführt, die kontroversere Themen auf ihren Plattformen zulassen.

Während der neue Bildgenerator von OpenAI bisher nur einige virale Studio Ghibli-Memes ausgelöst hat, bleiben die langfristigen Auswirkungen dieser Richtlinienänderungen ungewiss. Die jüngsten Änderungen von ChatGPT könnten gut mit den Ansichten der Trump-Regierung übereinstimmen, aber die Erlaubnis, dass ein KI-Chatbot sensible Fragen behandelt, könnte OpenAI bald in eine herausfordernde Position bringen.

OpenAIs viraler Studio Ghibli-Moment unterstreicht Bedenken hinsichtlich KI-Urheberrechten

Die Bildgenerierungsfunktion von ChatGPT erhält ein Upgrade