Sam Altman met en garde contre l'utilisation de ChatGPT dans le cadre d'une thérapie sans protection légale de la vie privée

Avant d'utiliser votre assistant d'intelligence artificielle à des fins de soutien émotionnel ou de thérapie, il convient d'y réfléchir à deux fois. Sam Altman, PDG d'OpenAI, souligne que le secteur n'a pas encore mis en place de mesures de protection de la vie privée des utilisateurs lors de discussions délicates. Il n'y a pas de confidentialité médecin-patient lorsque votre thérapeute est un algorithme.

M. Altman a fait part de ses réflexions dans un récent épisode du podcast de Theo Von, "This Past Weekend w/ Theo Von".

Répondant à des questions sur l'interaction de l'IA avec le système juridique, M. Altman a fait remarquer qu'en l'absence de cadres juridiques établis, les conversations avec l'IA ne bénéficient pas de protections juridiques en matière de confidentialité.

"Les utilisateurs partagent des détails très intimes sur leur vie avec ChatGPT", explique M. Altman. "Les jeunes utilisateurs s'en servent surtout comme d'un thérapeute ou d'un coach de vie, discutant de leurs relations et demandant des conseils. Alors que les conversations avec des professionnels humains bénéficient du privilège légal et de la confidentialité, nous n'avons pas résolu ce problème pour les interactions avec l'IA."

M. Altman ajoute que cette situation crée des risques pour la vie privée en cas de procédure judiciaire, car OpenAI pourrait être contraint de divulguer les conversations des utilisateurs.

"Cette situation n'est pas idéale. Nous devrions appliquer aux conversations de l'IA les mêmes normes de confidentialité que celles que nous appliquons aux séances de thérapie - un concept que personne n'a envisagé jusqu'à récemment", a déclaré M. Altman.

L'entreprise reconnaît que les préoccupations en matière de protection de la vie privée peuvent entraver une adoption plus large. Outre le fait que les systèmes d'IA ont besoin de vastes données d'entraînement, il leur est de plus en plus souvent demandé de fournir des enregistrements de conversations d'utilisateurs dans le cadre d'affaires juridiques. OpenAI conteste actuellement une décision de justice dans le cadre de son procès avec le New York Times, qui imposerait la conservation des historiques de conversation de centaines de millions d'utilisateurs dans le monde, à l'exclusion des entreprises clientes.

Les grands noms de la technologie et du capital-risque se joignent à l'agenda de Disrupt 2025

Netflix, ElevenLabs, Wayve et Sequoia Capital font partie des leaders de l'industrie qui rejoindront le programme de Disrupt 2025. Ils partageront des informations cruciales pour accélérer la croissance des startups et renforcer votre avantage concurrentiel. Vivez le 20e anniversaire de TechCrunch Disrupt et apprenez des voix les plus importantes de la technologie - réservez votre billet dès maintenant et économisez jusqu'à 675 $ avant que les prix n'augmentent.

Les grands noms de la technologie et du capital-risque se joignent à l'agenda de Disrupt 2025

Netflix, ElevenLabs, Wayve et Sequoia Capital font partie des leaders de l'industrie qui rejoindront le programme de Disrupt 2025. Ils partageront des informations cruciales pour accélérer la croissance des startups et renforcer votre avantage concurrentiel. Vivez le 20e anniversaire de TechCrunch Disrupt et apprenez des plus grands noms de la technologie. Réservez votre billet dès maintenant et économisez jusqu'à 675 $ avant que les prix n'augmentent.

Sur son site web, OpenAI a déclaré qu'elle faisait appel de ce qu'elle décrit comme un "dépassement" d'une décision de justice. Si les tribunaux peuvent passer outre les décisions de l'entreprise en matière de confidentialité des données, cela pourrait exposer OpenAI à des demandes de découverte juridique plus importantes et à des demandes d'application de la loi. Les entreprises technologiques reçoivent régulièrement des citations à comparaître pour obtenir des données d'utilisateurs dans le cadre d'affaires pénales, bien que des changements juridiques récents aient soulevé de nouvelles préoccupations concernant l'accès à l'information numérique.

À la suite de l'annulation par la Cour suprême de l'arrêt Roe v. Wade, par exemple, de nombreux utilisateurs ont migré vers des applications de suivi des règles plus sûres et vers Apple Health pour sa tenue d'archives cryptées.

M. Altman a également posé des questions sur l'utilisation de ChatGPT par l'animateur, notant que M. Von avait admis que les préoccupations en matière de protection de la vie privée limitaient son engagement avec le chatbot d'IA.

"Il est tout à fait raisonnable de vouloir des garanties claires en matière de protection de la vie privée et des protections juridiques avant d'adopter pleinement ChatGPT", a reconnu M. Altman.