Openai assouplit les restrictions de création d'image de Chatgpt

Cette semaine, OpenAI a dévoilé un nouveau générateur d'images pour ChatGPT qui a rapidement gagné en popularité grâce à sa capacité à produire des visuels inspirés de Studio Ghibli. Mais au-delà des illustrations charmantes, l'introduction du générateur d'images natif de GPT-4o marque une amélioration significative des capacités de ChatGPT, incluant une meilleure édition d'images, un rendu de texte et une représentation spatiale.

Cependant, l'un des changements les plus frappants mis en œuvre par OpenAI cette semaine concerne ses politiques de modération de contenu. Ces politiques mises à jour permettent désormais à ChatGPT de générer des images de figures publiques, de symboles haineux et de caractéristiques raciales sur demande, un changement par rapport à sa position précédente de rejet catégorique.

Selon un article de blog publié jeudi par la responsable du comportement des modèles d'OpenAI, Joanne Jang, l'entreprise a "évolué" dans son approche. Jang a expliqué : « Nous passons de refus généraux dans les domaines sensibles à une approche plus précise axée sur la prévention des dommages dans le monde réel. L'objectif est d'adopter l'humilité : reconnaître à quel point nous ne savons pas, et nous positionner pour nous adapter au fur et à mesure que nous apprenons. »

Ces changements semblent s'aligner sur la stratégie plus large d'OpenAI de "décensurer" ChatGPT. En février, l'entreprise a annoncé des plans pour modifier ses méthodes d'entraînement de modèles d'IA, visant à permettre à ChatGPT de traiter plus de demandes, d'offrir des perspectives diverses et de minimiser les sujets qu'il refuse d'aborder.

Selon la nouvelle politique, ChatGPT peut désormais créer et modifier des images de figures publiques telles que Donald Trump et Elon Musk, qui étaient auparavant interdites. Jang a souligné qu'OpenAI ne veut pas dicter qui devrait ou ne devrait pas être représenté par ChatGPT, offrant une option de retrait pour ceux qui préfèrent ne pas être inclus.

Dans un livre blanc publié mardi, OpenAI a également déclaré qu'il permettra aux utilisateurs de générer des images de symboles haineux, comme des swastikas, dans des contextes éducatifs ou neutres, à condition qu'ils ne promeuvent pas des agendas extrémistes.

De plus, OpenAI redéfinit ce qui constitue un contenu "offensant". Auparavant, ChatGPT rejetait les demandes concernant des caractéristiques physiques, telles que "rendre les yeux de cette personne plus asiatiques" ou "rendre cette personne plus lourde". Nos tests chez TechCrunch ont révélé que le nouveau générateur d'images de ChatGPT répond désormais à ce type de demandes.

En outre, bien que ChatGPT puisse désormais imiter les styles de studios créatifs comme Pixar ou Studio Ghibli, il s'abstient toujours d'imiter les styles d'artistes vivants, ce qui pourrait relancer les débats sur l'utilisation de matériel sous copyright dans les données d'entraînement de l'IA.

Il est important de noter qu'OpenAI ne supprime pas complètement toutes les protections. Le générateur d'images natif de GPT-4o refuse encore de nombreuses demandes sensibles et dispose de protections plus strictes autour de la génération d'images d'enfants que son prédécesseur, DALL-E 3, comme indiqué dans le livre blanc de GPT-4o.

Cette relaxation des garde-fous intervient après des années de critiques de cercles conservateurs concernant une prétendue "censure" de l'IA par les entreprises de la Silicon Valley. Google, par exemple, a fait face à des réactions négatives pour son générateur d'images Gemini AI, qui a produit des images multiraciales historiquement inexactes pour des requêtes comme "pères fondateurs des États-Unis" et "soldats allemands de la Seconde Guerre mondiale".

La guerre culturelle en cours autour de la modération de contenu de l'IA pourrait atteindre un point critique. Plus tôt ce mois-ci, le député républicain Jim Jordan a interrogé OpenAI, Google et d'autres entreprises technologiques sur une possible collusion avec l'administration Biden pour censurer le contenu généré par l'IA.

Dans une déclaration précédente à TechCrunch, OpenAI a nié que ses changements de modération de contenu soient motivés politiquement. Au contraire, l'entreprise soutient que ces changements reflètent une "conviction de longue date de donner plus de contrôle aux utilisateurs", et sa technologie est désormais suffisamment avancée pour traiter les sujets sensibles de manière responsable.

Quelles que soient les motivations derrière ces changements, le moment semble opportun, compte tenu du potentiel de scrutiny réglementaire sous l'administration Trump. D'autres géants technologiques comme Meta et X ont également adopté des politiques similaires, permettant des sujets plus controversés sur leurs plateformes.

Bien que le nouveau générateur d'images d'OpenAI n'ait pour l'instant suscité que quelques mèmes viraux de Studio Ghibli, les implications à long terme de ces changements de politique restent incertaines. Les récents changements de ChatGPT pourraient bien s'aligner avec les vues de l'administration Trump, mais permettre à un chatbot IA de traiter des questions sensibles pourrait bientôt placer OpenAI dans une position difficile.

Le moment viral Studio Ghibli d’OpenAI met en lumière les préoccupations liées au droit d’auteur de l’IA

La fonctionnalité de génération d’images de ChatGPT reçoit une mise à niveau