Hogar
La arquitectura PHOTON de Fujitsu multiplica por 475 el rendimiento de la IA y resuelve los cuellos de botella en el procesamiento
A medida que los modelos de gran tamaño siguen evolucionando rápidamente, los costes informáticos y la eficiencia en el procesamiento siguen siendo preocupaciones clave del sector. Fujitsu ha presentado recientemente una novedosa arquitectura denominada PHOTON (Top-down Network Parallel Hierarchical Computing), diseñada para superar las limitaciones de rendimiento de los modelos Transformer tradicionales en escenarios complejos.
La arquitectura Transformer, que actualmente predomina en el ámbito de la IA, gestiona bien textos largos o tareas de consultas múltiples con alta concurrencia, pero a menudo se ralentiza debido a los frecuentes accesos a la memoria para recuperar información histórica, lo que aumenta la carga de trabajo de la GPU. El equipo de investigación de Fujitsu abordó este punto débil replanteándose el diseño de la arquitectura PHOTON.

La principal ventaja de PHOTON reside en su enfoque de procesamiento jerárquico. En lugar de la segmentación a nivel de token utilizada por los «Transformers» tradicionales, PHOTON introduce capas semánticas, lo que reduce la complejidad computacional al tiempo que potencia la computación paralela. Además, para tareas de consultas múltiples, la arquitectura agiliza la toma de decisiones: solo necesita una única inferencia para llegar a una conclusión, utilizando estrategias de «votación por mayoría» o de «mejor elección».
Los resultados de las pruebas muestran que, en modelos más pequeños con 600 millones, 900 millones y 1.2 mil millones de parámetros, PHOTON ofrece un rendimiento muy elevado y un consumo de memoria extremadamente bajo. En el modelo de 1.2B parámetros, su rendimiento en consultas múltiples alcanza 475 veces el de las arquitecturas Transformer convencionales, lo que mejora significativamente la eficiencia en la planificación de recursos.
Dado que esta arquitectura requiere menos caché KV por iteración, el sistema puede gestionar más iteraciones. Esto supone un importante aumento del rendimiento para los sistemas de agentes inteligentes que gestionan numerosos procesos de E/S. Aunque algunas métricas de calidad registran un ligero compromiso, el salto de PHOTON en eficiencia computacional lo convierte en una solución técnica prometedora para reducir los costes operativos de la IA.
Fujitsu está promoviendo activamente la aplicación de esta arquitectura, con el objetivo de proporcionar un soporte subyacente más ligero y eficiente para futuros escenarios inteligentes a través de innovaciones en los algoritmos centrales.
Artículo relacionado
Suno añade marcas de agua a las canciones en medio de batallas legales
Suno, la plataforma que permite a los usuarios generar música creada por inteligencia artificial, ha presentado nuevas funciones para etiquetar las pistas producidas en la plataforma, restringir las descargas y actualizar las normas de la comunidad c
Musk admite que Grok filtró código de usuarios, promete borrar todos los datos históricos
Elon Musk abordó directamente la controversia por privacidad relacionada con Grok Build, comenzando con un simple "Verdadero" para confirmar la validez del incidente. Se comprometió a que todos los datos de usuario cargados previamente en SpaceXAI se
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
A medida que los modelos de gran tamaño siguen evolucionando rápidamente, los costes informáticos y la eficiencia en el procesamiento siguen siendo preocupaciones clave del sector. Fujitsu ha presentado recientemente una novedosa arquitectura denominada PHOTON (Top-down Network Parallel Hierarchical Computing), diseñada para superar las limitaciones de rendimiento de los modelos Transformer tradicionales en escenarios complejos.
La arquitectura Transformer, que actualmente predomina en el ámbito de la IA, gestiona bien textos largos o tareas de consultas múltiples con alta concurrencia, pero a menudo se ralentiza debido a los frecuentes accesos a la memoria para recuperar información histórica, lo que aumenta la carga de trabajo de la GPU. El equipo de investigación de Fujitsu abordó este punto débil replanteándose el diseño de la arquitectura PHOTON.

La principal ventaja de PHOTON reside en su enfoque de procesamiento jerárquico. En lugar de la segmentación a nivel de token utilizada por los «Transformers» tradicionales, PHOTON introduce capas semánticas, lo que reduce la complejidad computacional al tiempo que potencia la computación paralela. Además, para tareas de consultas múltiples, la arquitectura agiliza la toma de decisiones: solo necesita una única inferencia para llegar a una conclusión, utilizando estrategias de «votación por mayoría» o de «mejor elección».
Los resultados de las pruebas muestran que, en modelos más pequeños con 600 millones, 900 millones y 1.2 mil millones de parámetros, PHOTON ofrece un rendimiento muy elevado y un consumo de memoria extremadamente bajo. En el modelo de 1.2B parámetros, su rendimiento en consultas múltiples alcanza 475 veces el de las arquitecturas Transformer convencionales, lo que mejora significativamente la eficiencia en la planificación de recursos.
Dado que esta arquitectura requiere menos caché KV por iteración, el sistema puede gestionar más iteraciones. Esto supone un importante aumento del rendimiento para los sistemas de agentes inteligentes que gestionan numerosos procesos de E/S. Aunque algunas métricas de calidad registran un ligero compromiso, el salto de PHOTON en eficiencia computacional lo convierte en una solución técnica prometedora para reducir los costes operativos de la IA.
Fujitsu está promoviendo activamente la aplicación de esta arquitectura, con el objetivo de proporcionar un soporte subyacente más ligero y eficiente para futuros escenarios inteligentes a través de innovaciones en los algoritmos centrales.
Suno añade marcas de agua a las canciones en medio de batallas legales
Suno, la plataforma que permite a los usuarios generar música creada por inteligencia artificial, ha presentado nuevas funciones para etiquetar las pistas producidas en la plataforma, restringir las descargas y actualizar las normas de la comunidad c
Musk admite que Grok filtró código de usuarios, promete borrar todos los datos históricos
Elon Musk abordó directamente la controversia por privacidad relacionada con Grok Build, comenzando con un simple "Verdadero" para confirmar la validez del incidente. Se comprometió a que todos los datos de usuario cargados previamente en SpaceXAI se
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de











