Hogar
OpenRouter lanza una tecnología para reducir drásticamente los costes de las conversaciones de varios turnos con IA
A medida que evoluciona la tecnología de conversación basada en IA, OpenRouter ha lanzado dos nuevas funciones —«Prompt Caching» y «Sticky Routing»— diseñadas para reducir los costes por token en las conversaciones de varios turnos con los agentes. Esta innovación permite a los desarrolladores reducir los gastos durante las interacciones prolongadas con los agentes, lo que fomenta una mayor adopción de las aplicaciones de agentes.
En las conversaciones de múltiples turnos, los agentes suelen reenviar las mismas indicaciones del sistema, definiciones de herramientas e instrucciones estratégicas. Aunque el usuario solo cambie una entrada a lo largo de seis turnos, cada indicación repetida conlleva un coste. El almacenamiento en caché de indicaciones permite a OpenRouter recuperar datos almacenados, evitando así el coste de reenviar indicaciones idénticas. Dependiendo del proveedor, las lecturas en caché cuestan entre 0,1 y 0,5 veces el precio estándar de la entrada, lo que reduce significativamente los gastos. Por ejemplo, en Claude Sonnet 4.6, las lecturas en caché cuestan solo 0,30 dólares por millón de tokens, frente a los 3,00 dólares de una entrada normal.

Para mantener la eficacia de la caché a lo largo de múltiples turnos, el «Sticky Routing» de OpenRouter envía las solicitudes posteriores al mismo proveedor que alberga la caché activa, lo que permite a los desarrolladores disfrutar de lecturas en caché a bajo coste de forma constante a lo largo de toda la conversación.
Sin embargo, para aprovechar al máximo esta innovación, los desarrolladores deben mantener la misma sesión durante todo el proceso. Para un almacenamiento en caché óptimo, OpenRouter recomienda establecer un «session_id», que activa el «Sticky Routing» inmediatamente después de la primera solicitud satisfactoria, y no solo tras un acierto en la caché. Los desarrolladores también pueden verificar el uso de la caché comprobando los datos de la respuesta.
A medida que avanza la tecnología de IA, la última función de OpenRouter no solo ofrece a los desarrolladores una potente herramienta de control de costes, sino que también abre nuevas posibilidades para las aplicaciones de agentes.
Artículo relacionado
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr
Google prueba el agente Remy AI para Gemini a medida que el enfoque se desplaza hacia el control del usuario
Según Business Insider, Google está probando Remy, un nuevo agente personal de IA para Gemini. Esta herramienta tiene como objetivo ejecutar tareas en nombre de los usuarios, optimizando tanto los flujos de trabajo profesionales como las rutinas diar
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
A medida que evoluciona la tecnología de conversación basada en IA, OpenRouter ha lanzado dos nuevas funciones —«Prompt Caching» y «Sticky Routing»— diseñadas para reducir los costes por token en las conversaciones de varios turnos con los agentes. Esta innovación permite a los desarrolladores reducir los gastos durante las interacciones prolongadas con los agentes, lo que fomenta una mayor adopción de las aplicaciones de agentes.
En las conversaciones de múltiples turnos, los agentes suelen reenviar las mismas indicaciones del sistema, definiciones de herramientas e instrucciones estratégicas. Aunque el usuario solo cambie una entrada a lo largo de seis turnos, cada indicación repetida conlleva un coste. El almacenamiento en caché de indicaciones permite a OpenRouter recuperar datos almacenados, evitando así el coste de reenviar indicaciones idénticas. Dependiendo del proveedor, las lecturas en caché cuestan entre 0,1 y 0,5 veces el precio estándar de la entrada, lo que reduce significativamente los gastos. Por ejemplo, en Claude Sonnet 4.6, las lecturas en caché cuestan solo 0,30 dólares por millón de tokens, frente a los 3,00 dólares de una entrada normal.

Para mantener la eficacia de la caché a lo largo de múltiples turnos, el «Sticky Routing» de OpenRouter envía las solicitudes posteriores al mismo proveedor que alberga la caché activa, lo que permite a los desarrolladores disfrutar de lecturas en caché a bajo coste de forma constante a lo largo de toda la conversación.
Sin embargo, para aprovechar al máximo esta innovación, los desarrolladores deben mantener la misma sesión durante todo el proceso. Para un almacenamiento en caché óptimo, OpenRouter recomienda establecer un «session_id», que activa el «Sticky Routing» inmediatamente después de la primera solicitud satisfactoria, y no solo tras un acierto en la caché. Los desarrolladores también pueden verificar el uso de la caché comprobando los datos de la respuesta.
A medida que avanza la tecnología de IA, la última función de OpenRouter no solo ofrece a los desarrolladores una potente herramienta de control de costes, sino que también abre nuevas posibilidades para las aplicaciones de agentes.
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr











