Moxie Marlinspike presenta una alternativa centrada en la privacidad a ChatGPT

Si la privacidad es una preocupación para usted, la creciente presencia de asistentes personales basados en IA puede resultar inquietante. Resulta difícil utilizar uno sin revelar información personal, la cual queda en poder de la empresa matriz del modelo. Dado que OpenAI ya está probando sistemas publicitarios, es fácil imaginar que las mismas prácticas de recopilación de datos utilizadas por Facebook y Google podrían infiltrarse en sus interacciones con chatbots.
Un nuevo proyecto presentado en diciembre por Moxie Marlinspike, cofundador de Signal, demuestra cómo podría ser un servicio de IA centrado en la privacidad. Confer tiene un aspecto y una sensación similares a los de ChatGPT o Claude, pero su estructura interna está diseñada para evitar la recopilación de datos, respaldada por el mismo rigor de código abierto que hace confiable a Signal. Sus conversaciones en Confer no pueden utilizarse para entrenar al modelo ni para mostrar anuncios dirigidos, simplemente porque el servidor nunca tiene acceso a ellas.
Para Marlinspike, estas medidas de protección son una respuesta directa a la naturaleza inherentemente personal de este tipo de servicios.
Marlinspike afirma: “Es una tecnología que fomenta activamente la revelación de información personal. Las interfaces de chat como ChatGPT recopilan más datos personales que cualquier tecnología anterior. Cuando se añade publicidad al mix, es como si alguien pagara a su terapeuta para convencerlo de realizar una compra”.
Lograr ese nivel de privacidad requiere que varios sistemas trabajen juntos de manera fluida.
En primer lugar, Confer encripta los mensajes mediante el sistema WebAuthn. (Lamentablemente, este estándar funciona mejor en dispositivos móviles o Macs con sistema Sequoia, aunque también se puede configurar en Windows o Linux con un gestor de contraseñas). En el lado del servidor, todo el procesamiento de inferencia tiene lugar dentro de un Entorno de Ejecución Confiable (TEE), con sistemas de atestación remota que verifican la integridad del sistema. Dentro de este entorno, una serie de modelos base de código abierto manejan cualquier consulta recibida.
El resultado es mucho más complejo que una configuración estándar de inferencia (que ya es bastante compleja), pero cumple con la promesa fundamental de Confer hacia sus usuarios: mientras estas medidas de protección permanezcan activas, se pueden mantener conversaciones sensibles con el modelo sin ninguna fuga de datos.
Artículo relacionado
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr
Google prueba el agente Remy AI para Gemini a medida que el enfoque se desplaza hacia el control del usuario
Según Business Insider, Google está probando Remy, un nuevo agente personal de IA para Gemini. Esta herramienta tiene como objetivo ejecutar tareas en nombre de los usuarios, optimizando tanto los flujos de trabajo profesionales como las rutinas diar
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

Si la privacidad es una preocupación para usted, la creciente presencia de asistentes personales basados en IA puede resultar inquietante. Resulta difícil utilizar uno sin revelar información personal, la cual queda en poder de la empresa matriz del modelo. Dado que OpenAI ya está probando sistemas publicitarios, es fácil imaginar que las mismas prácticas de recopilación de datos utilizadas por Facebook y Google podrían infiltrarse en sus interacciones con chatbots.
Un nuevo proyecto presentado en diciembre por Moxie Marlinspike, cofundador de Signal, demuestra cómo podría ser un servicio de IA centrado en la privacidad. Confer tiene un aspecto y una sensación similares a los de ChatGPT o Claude, pero su estructura interna está diseñada para evitar la recopilación de datos, respaldada por el mismo rigor de código abierto que hace confiable a Signal. Sus conversaciones en Confer no pueden utilizarse para entrenar al modelo ni para mostrar anuncios dirigidos, simplemente porque el servidor nunca tiene acceso a ellas.
Para Marlinspike, estas medidas de protección son una respuesta directa a la naturaleza inherentemente personal de este tipo de servicios.
Marlinspike afirma: “Es una tecnología que fomenta activamente la revelación de información personal. Las interfaces de chat como ChatGPT recopilan más datos personales que cualquier tecnología anterior. Cuando se añade publicidad al mix, es como si alguien pagara a su terapeuta para convencerlo de realizar una compra”.
Lograr ese nivel de privacidad requiere que varios sistemas trabajen juntos de manera fluida.
En primer lugar, Confer encripta los mensajes mediante el sistema WebAuthn. (Lamentablemente, este estándar funciona mejor en dispositivos móviles o Macs con sistema Sequoia, aunque también se puede configurar en Windows o Linux con un gestor de contraseñas). En el lado del servidor, todo el procesamiento de inferencia tiene lugar dentro de un Entorno de Ejecución Confiable (TEE), con sistemas de atestación remota que verifican la integridad del sistema. Dentro de este entorno, una serie de modelos base de código abierto manejan cualquier consulta recibida.
El resultado es mucho más complejo que una configuración estándar de inferencia (que ya es bastante compleja), pero cumple con la promesa fundamental de Confer hacia sus usuarios: mientras estas medidas de protección permanezcan activas, se pueden mantener conversaciones sensibles con el modelo sin ninguna fuga de datos.
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr





Hogar






