Sam Altman adverte contra o uso do ChatGPT para terapia sem proteções legais de privacidade

Antes de usar seu assistente de IA para apoio emocional ou terapia, vale a pena reconsiderar. O CEO da OpenAI, Sam Altman, ressalta que o setor ainda precisa estabelecer salvaguardas para a privacidade do usuário durante discussões delicadas. Não há confidencialidade entre médico e paciente quando seu terapeuta é um algoritmo.

Altman compartilhou essas percepções em um episódio recente do podcast de Theo Von, "This Past Weekend w/ Theo Von".

Ao abordar questões sobre a interação da IA com o sistema jurídico, Altman observou que, sem estruturas jurídicas estabelecidas, as conversas com a IA carecem de proteções legais de confidencialidade.

"Os usuários compartilham detalhes profundamente íntimos sobre suas vidas com o ChatGPT", explicou Altman. "Os usuários mais jovens, em especial, recorrem a ele como um terapeuta ou coach de vida - discutindo relacionamentos e pedindo orientação. Embora as conversas com profissionais humanos tenham privilégio legal e confidencialidade, ainda não resolvemos isso para as interações com IA."

Altman acrescentou que isso cria riscos à privacidade durante processos judiciais, pois a OpenAI poderia ser obrigada a divulgar as conversas dos usuários.

"Essa situação não é ideal. Deveríamos estender às conversas de IA os mesmos padrões de privacidade que aplicamos às sessões de terapia - um conceito que ninguém considerava até recentemente", afirmou Altman.

A empresa reconhece que as preocupações com a privacidade podem impedir uma adoção mais ampla. Além de os sistemas de IA exigirem vastos dados de treinamento, eles são cada vez mais solicitados a fornecer registros de bate-papo de usuários em casos legais. A OpenAI está atualmente contestando uma ordem judicial em seu processo com o The New York Times que exigiria a preservação de históricos de bate-papo de centenas de milhões de usuários globais, excluindo clientes corporativos.

Pesos pesados da tecnologia e do capital de risco participam da agenda do Disrupt 2025

Netflix, ElevenLabs, Wayve e Sequoia Capital estão entre os líderes do setor que participam da programação do Disrupt 2025. Eles compartilharão percepções cruciais para acelerar o crescimento de startups e aprimorar sua vantagem competitiva. Viva o 20º aniversário do TechCrunch Disrupt e aprenda com as vozes mais importantes da tecnologia - garanta seu ingresso agora e economize até US$ 675 antes que os preços aumentem.

Pesos pesados da tecnologia e do capital de risco participam da agenda do Disrupt 2025

Netflix, ElevenLabs, Wayve e Sequoia Capital estão entre os líderes do setor que participam da programação do Disrupt 2025. Eles compartilharão insights cruciais para acelerar o crescimento de startups e aprimorar sua vantagem competitiva. Viva o 20º aniversário do TechCrunch Disrupt e aprenda com as vozes mais importantes da tecnologia - garanta seu ingresso agora e economize até US$ 675 antes que os preços aumentem.

Em seu site, a OpenAI declarou que está recorrendo do que descreve como "um exagero" de uma ordem judicial. Se os tribunais puderem anular as decisões de privacidade de dados da empresa, isso poderá expor a OpenAI a solicitações de descoberta legal ampliadas e a demandas de aplicação da lei. As empresas de tecnologia recebem regularmente intimações para dados de usuários em casos criminais, embora as recentes mudanças legais tenham levantado novas preocupações sobre o acesso a informações digitais.

Após a reversão do caso Roe v. Wade pela Suprema Corte, por exemplo, muitos usuários migraram para aplicativos mais seguros de acompanhamento de menstruação e para o Apple Health por causa da manutenção de registros criptografados.

Altman também perguntou sobre o uso do ChatGPT do anfitrião, observando a admissão de Von de que as preocupações com a privacidade limitavam seu envolvimento com o chatbot de IA.

"É completamente razoável querer garantias claras de privacidade e proteções legais antes de adotar totalmente o ChatGPT", reconheceu Altman.