NVIDIA ha lanzado Audex, un LLM unificado de audio y texto basado en una arquitectura MoE dispersa. Este modelo procesa tokens de audio y texto cuantizados mediante un único decodificador Transformer, logrando un rendimiento líder en el sector para la comprensión del audio, el reconocimiento del habla, la traducción y la generación, al tiempo que mantiene las capacidades de razonamiento y alineación propias del LLM original. Este modelo de código abierto ya está listo para su implementación.