Les utilisateurs d'Anthropic doivent choisir : Partager les conversations d'IA pour s'entraîner ou se retirer

Anthropic met en œuvre des changements majeurs dans ses politiques de données utilisateur, exigeant que tous les utilisateurs de Claude décident d'ici le 28 septembre s'ils consentent à ce que leurs conversations soient utilisées pour l'entraînement de modèles d'IA. Bien que l'entreprise ait renvoyé à son article de blog sur les mises à jour de la politique lorsqu'elle a été interrogée sur le raisonnement, nous avons développé nos propres interprétations.

Tout d'abord, examinons les changements : Auparavant, Anthropic n'utilisait pas les données de chat des consommateurs pour l'entraînement des modèles. Désormais, l'entreprise a l'intention d'entraîner ses systèmes d'IA à partir des conversations des utilisateurs et des sessions de codage, en étendant la conservation des données à cinq ans pour les utilisateurs qui ne s'y opposent pas.

Il s'agit là d'un changement important. Avant cette mise à jour, les utilisateurs des produits grand public d'Anthropic étaient informés que leurs messages et conversations seraient automatiquement supprimés des systèmes d'Anthropic dans les 30 jours, sauf si des exigences légales ou politiques imposaient une conservation plus longue, ou si leur contenu violait les politiques - auquel cas les entrées et les sorties pouvaient être conservées jusqu'à deux ans.

Ces nouvelles règles s'appliquent aux utilisateurs de Claude Free, Pro et Max, y compris ceux qui utilisent Claude Code. Les clients professionnels qui utilisent Claude Gov, Claude for Work, Claude for Education ou l'accès à l'API ne sont pas concernés, ce qui reflète la façon dont OpenAI protège les clients professionnels des politiques de formation des données.

Qu'est-ce qui motive ces changements ? Dans son annonce, Anthropic présente la mise à jour comme une question de choix de l'utilisateur, suggérant qu'en ne se retirant pas, les utilisateurs "nous aideront à améliorer la sécurité du modèle, en rendant nos systèmes de détection de contenu nuisible plus précis et en réduisant les faux positifs". Les utilisateurs "contribueront également à améliorer les capacités des futurs modèles de Claude dans des domaines tels que le codage, l'analyse et le raisonnement, ce qui profitera en fin de compte à tous les utilisateurs".

En résumé : aidez-nous à vous aider. Toutefois, le tableau complet est peut-être un peu moins altruiste.

Comme d'autres grandes entreprises de modèles de langage, Anthropic a besoin de données et ne se préoccupe pas de la perception de sa marque. L'entraînement des modèles d'IA nécessite d'énormes volumes de données conversationnelles de haute qualité, et l'accès à des millions d'interactions de Claude fournit précisément le type de contenu du monde réel qui pourrait renforcer la position concurrentielle d'Anthropic face à des rivaux comme OpenAI et Google.

Les grands noms de la technologie et du capital-risque se joignent à l'agenda de Disrupt 2025

Netflix, ElevenLabs, Wayve, Sequoia Capital, Elad Gil - voici quelques-uns des leaders influents qui se joindront à l'agenda de Disrupt 2025. Ils sont là pour partager des idées qui stimulent la croissance des startups et renforcent votre avantage concurrentiel. Ne manquez pas le 20e anniversaire de TechCrunch Disrupt et cette occasion d'apprendre des plus grands noms de la technologie. Réservez votre billet dès maintenant et économisez jusqu'à 600 $ avant que les prix n'augmentent.

Les grands noms de la technologie et du capital-risque se joignent à l'agenda de Disrupt 2025

Netflix, ElevenLabs, Wayve, Sequoia Capital - ce ne sont là que quelques-unes des personnalités qui se joindront au programme de Disrupt 2025. Ils sont là pour fournir les informations qui alimentent la croissance des startups et aiguisent votre avantage concurrentiel. Ne manquez pas le 20e anniversaire de TechCrunch Disrupt et votre chance d'apprendre des meilleurs experts en technologie. Achetez votre billet dès maintenant et économisez jusqu'à 675 $ avant que les prix n'augmentent.

Au-delà des pressions concurrentielles dans le domaine du développement de l'IA, ces changements reflètent également une évolution plus large de l'industrie en matière de politiques de données, alors que des entreprises comme Anthropic et OpenAI sont confrontées à un examen de plus en plus minutieux de leurs pratiques en matière de conservation des données. OpenAI, par exemple, conteste actuellement une décision de justice exigeant que l'entreprise conserve indéfiniment toutes les conversations ChatGPT des consommateurs, y compris les conversations supprimées, à la suite d'un procès intenté par le New York Times et d'autres éditeurs.

En juin, Brad Lightcap, directeur de l'exploitation d'OpenAI, a qualifié cette décision de "demande radicale et inutile" qui "entre fondamentalement en conflit avec les engagements que nous avons pris envers nos utilisateurs en matière de protection de la vie privée". La décision de justice affecte les utilisateurs de ChatGPT Free, Plus, Pro et Team, bien que les clients d'entreprise et ceux qui ont conclu des accords de conservation zéro des données restent protégés.

Ce qui est inquiétant, c'est la confusion considérable que ces politiques d'utilisation en évolution génèrent parmi les utilisateurs, dont beaucoup ne sont pas au courant.

Il est vrai que le secteur technologique évolue rapidement et que les politiques de protection de la vie privée changent inévitablement en fonction des avancées technologiques. Toutefois, bon nombre de ces modifications sont très importantes et ne sont pourtant que brièvement mentionnées parmi d'autres annonces de l'entreprise. (Si l'on se réfère à la page de presse d'Anthropic, on ne soupçonne pas que les modifications apportées mardi à la politique de confidentialité des utilisateurs soient particulièrement importantes).

De nombreux utilisateurs ne savent pas que les directives qu'ils ont acceptées ont été modifiées, car la conception de l'interface garantit pratiquement cet oubli. La plupart des utilisateurs de ChatGPT continuent de cliquer sur des options de suppression qui, techniquement, ne suppriment rien. Pendant ce temps, la mise en œuvre de la nouvelle politique d'Anthropic suit une approche familière.

Comment ? Les nouveaux utilisateurs choisissent leur préférence lors de l'inscription, mais les utilisateurs existants tombent sur une fenêtre pop-up affichant "Updates to Consumer Terms and Policies" en gros caractères avec un bouton noir bien visible "Accepter", tandis que le bouton d'autorisation de formation, beaucoup plus petit, apparaît en dessous en caractères plus fins - préréglé sur "Activé".

Comme l'a souligné The Verge plus tôt dans la journée, cette conception fait craindre que les utilisateurs ne s'empressent de cliquer sur "Accepter" sans se rendre compte qu'ils consentent au partage des données.

Par ailleurs, la sensibilisation des utilisateurs n'a jamais été aussi importante. Les spécialistes de la protection de la vie privée soulignent depuis longtemps que la complexité de l'IA rend le consentement réel de l'utilisateur notoirement difficile à obtenir. Sous l'administration Biden, la Commission fédérale du commerce est même intervenue, avertissant que les entreprises d'IA risquaient des mesures coercitives si elles modifiaient subrepticement les conditions de service ou les politiques de confidentialité, ou si elles dissimulaient des informations derrière des hyperliens, du jargon juridique ou des petits caractères.

Il n'est pas certain que la commission - qui ne compte actuellement que trois de ses cinq membres - continue à surveiller ces pratiques.