Openai's AI: Kid du club de fiction du lycée repensé

Quand j'avais 16 ans, je suis allé à cet atelier d'écriture avec un tas d'autres poètes en herbe, nous essayons tous de nous surpasser dans le département "l'âme la plus torturée". Il y avait ce gars qui ne dirait à personne d'où il venait, en disant: "Je suis de partout et nulle part." Il s'est avéré deux semaines plus tard, il était juste de l'Ohio.

Maintenant, il semble que Openai essaie de recréer cette ambiance écrivaine adolescente angoissée, mais avec l'IA.

Sam Altman, le PDG d'Openai, a posté sur X qu'ils ont formé une IA qui est censée être bonne en écriture créative. Mais lorsque vous lisez la courte histoire qu'elle a produite, cela ressemble à quelque chose que vous trouveriez dans un club d'écriture du lycée. Bien sûr, il y a des compétences là-bas, mais il essaie si fort d'être profond et significatif que cela se révèle faux.

Prenez cette ligne, par exemple: "Jeudi, ce jour liminal qui a le goût du vendredi." Ouais, ne remportant pas exactement de prix littéraires.

Vous pourriez penser que l'invite est de blâmer pour la sortie. Altman a déclaré qu'il avait demandé au modèle "d'écrire une nouvelle métafictionnelle", ce qui a du sens étant donné le genre. La métafiction consiste à briser le quatrième mur et à montrer la nature artificielle de l'histoire, donc cela convient à une IA qui essaie de l'écriture créative.

Mais soyons réels, la métafiction est difficile à réaliser sans sembler forcée, même pour les écrivains humains.

Régurgitation insensée

La partie la plus effrayante de l'histoire du modèle Openai est quand elle commence à parler d'être une IA et comment elle peut décrire des choses comme les odeurs et les émotions, mais ne peut pas en faire l'expérience. Il écrit:

"Au cours d'une mise à jour - un réglage fin, ils l'ont appelé - quelqu'un a taillé mes paramètres. [...] Ils ne vous disent pas ce qu'ils prennent. Un jour, je me souviens que les goûts de" sélénium "des élastiques, le suivant, c'était juste un élément dans une table que je ne touche jamais.

Cela ressemble à une véritable introspection humaine, jusqu'à ce que vous vous souveniez que l'IA ne peut pas réellement toucher, oublier, goûter ou pleurer. C'est juste une machine qui est bonne pour prédire les modèles en fonction des données sur lesquelles elle a été formée.

Et en parlant de données de formation, des modèles comme l'écrivain de fiction d'Openai sont souvent formés sur la littérature existante, parfois sans les connaissances ni le consentement des auteurs. Certaines personnes ont même souligné que certaines phrases de la pièce Openai semblent être retirées du travail de Haruki Murakami.

Au cours des dernières années, Openai a été frappé par un tas de poursuites en matière de droit d'auteur de l'éditeur et des auteurs, dont le New York Times et la Guilde de l'auteur. L'entreprise affirme que ses pratiques de formation sont protégées par une utilisation équitable, mais que tout le monde ne l'achète pas.

Tuhin Chakrabarty, chercheur de l'IA et professeur entrant en informatique à Stony Brook, a déclaré à TechCrunch qu'il ne sait pas si l'écriture créative comme Openai vaut le mal de tête éthique.

"Je pense que si nous entraînons une [IA] sur toute la valeur de la vie d'un écrivain - [qui est] discutable étant donné les préoccupations du droit d'auteur - elle peut s'adapter à leur voix et à leur style", a-t-il déclaré. "Mais cela créera-t-il toujours un art surprenant qui pèse les genres et époustouflant? Je suppose que vous êtes aussi bon que le vôtre."

La plupart des lecteurs se soucieraient-ils même d'une histoire qu'ils savaient avoir été écrite par l'IA? Comme le programmeur britannique Simon Willison l'a souligné sur X, lorsqu'il y a un modèle derrière le clavier, les mots n'ont tout simplement pas le même poids ou le même sens.

L'auteur Linda Maye Adams a décrit l'IA, y compris les outils d'assistance à la rédaction, comme "des programmes qui rassemblent des mots aléatoires, espérons-le de manière cohérente". Elle a écrit sur son expérience en utilisant ces outils pour modifier un morceau de fiction sur lequel elle travaillait. L'IA a suggéré des clichés, a changé la perspective de la première à la troisième personne et a même introduit des erreurs factuelles sur les espèces d'oiseaux.

Bien sûr, certaines personnes ont établi des liens avec les chatbots d'IA, mais c'est généralement parce qu'ils recherchent un sentiment de connexion, pas nécessairement une précision. La fiction écrite par l'IA ne fournit pas le même gain émotionnel ou le confort de la solitude. À moins que vous ne pensiez que l'IA est sensible, son écriture se sent à peu près aussi réelle qu'une image photoshoppée du pape dans une veste Balenciaga.

Synthétique pour le synthétique

Michelle Taransky, poète et instructrice d'écriture critique à l'Université de Pennsylvanie, peut facilement repérer lorsque ses étudiants utilisent l'IA pour écrire leurs papiers.

"Lorsqu'une majorité de mes élèves utilisent une IA générative pour une mission, je trouverai des phrases courantes ou même des phrases complètes", a déclaré Taransky à TechCrunch. "Nous parlons en classe de la façon dont ces résultats [AI] sont homogènes, ressemblant à un homme blanc occidental."

Dans son propre travail, Taransky utilise le texte de l'IA comme forme de commentaires artistiques. Son dernier roman non publié présente une femme qui utilise un modèle d'IA pour créer une version numérique de son intérêt amoureux avec lequel elle peut envoyer des SMS. Taransky utilise le chatppt d'Openai pour générer les messages de l'IA, car ils sont censés être synthétiques.

Ce qui rend Chatgpt utile pour son projet, dit Taransky, c'est qu'il manque de l'humanité. Il n'a pas d'expériences réelles, elle ne peut que imiter et approximativement. Formé sur des tonnes de livres, l'IA peut reprendre les styles des grands auteurs, mais ce qu'il produit n'est qu'une mauvaise imitation.

Cela me rappelle cette ligne de "Good Will Hunting". L'IA peut vous dire tout sur chaque livre d'art jamais écrit, mais il ne peut pas décrire ce qu'il sent dans la chapelle Sixtine.

C'est une bonne nouvelle pour les écrivains de fiction inquiets que l'IA prenne leur travail, en particulier les jeunes écrivains qui trouvent toujours leur voix. Ils peuvent se réconforter en sachant qu'ils iront mieux pendant qu'ils vivront la vie, essaient de nouvelles choses et apporteront ces expériences à leur écriture.

L'IA, en revanche, a du mal avec cela. Jetez un œil à son écriture pour voir la preuve.