Maison
L'architecture PHOTON de Fujitsu multiplie par 475 les performances de l'IA et résout les goulots d'étranglement de calcul
Alors que les grands modèles continuent d’évoluer rapidement, les coûts de calcul et l’efficacité du traitement restent des préoccupations majeures du secteur. Fujitsu a récemment présenté une architecture novatrice baptisée PHOTON (Top-down Network Parallel Hierarchical Computing), conçue pour surmonter les limites de performance des modèles Transformer traditionnels dans des scénarios complexes.
L'architecture Transformer, désormais dominante dans le domaine de l'IA, gère bien les textes longs ou les tâches impliquant de nombreuses requêtes simultanées, mais elle ralentit souvent en raison des accès fréquents à la mémoire pour récupérer des informations historiques, ce qui augmente la charge de travail du GPU. L'équipe de recherche de Fujitsu a remédié à ce problème en repensant la conception de l'architecture PHOTON.

La force principale de PHOTON réside dans son approche de traitement hiérarchique. Au lieu de la segmentation au niveau des tokens utilisée par les Transformer traditionnels, PHOTON introduit une stratification sémantique, qui réduit la complexité computationnelle tout en renforçant le calcul parallèle. De plus, pour les tâches impliquant plusieurs requêtes, l’architecture rationalise la prise de décision : elle n’a besoin que d’une seule inférence pour parvenir à une conclusion, en utilisant des stratégies de « vote à la majorité » ou de « meilleur choix ».
Les résultats des tests montrent que, sur des modèles de petite taille comportant 600 millions, 900 millions et 1,2 milliard de paramètres, PHOTON offre un débit très élevé et une consommation de mémoire extrêmement faible. Dans le modèle à 1,2 milliard de paramètres, ses performances en multi-requêtes atteignent 475 fois celles des architectures Transformer classiques, ce qui améliore considérablement l’efficacité de la planification des ressources.
Comme cette architecture nécessite moins de cache KV par itération, le système peut gérer davantage d’itérations. Il s’agit d’un gain de performance majeur pour les systèmes d’agents intelligents qui gèrent de nombreux processus d’E/S. Bien que certains indicateurs de qualité affichent un léger compromis, le bond en avant de PHOTON en matière d’efficacité de calcul en fait une solution technique prometteuse pour réduire les coûts opérationnels de l’IA.
Fujitsu promeut désormais activement l’application de cette architecture, dans le but de fournir une infrastructure plus légère et plus efficace pour les futurs scénarios intelligents grâce à des innovations dans les algorithmes de base.
Article connexe
Suno appose des filigranes aux chansons dans le cadre de batailles juridiques
Suno, la plateforme permettant aux utilisateurs de générer de la musique créée par l’intelligence artificielle, a dévoilé de nouvelles fonctionnalités pour étiqueter les titres produits sur la plateforme, restreindre les téléchargements et mettre à j
Musk admet que la construction de Grok a divulgué le code utilisateur, promet d’effacer toutes les données historiques
Elon Musk a abordé directement la controverse sur la vie privée concernant Grok Build, en commençant par un simple « Vrai » pour confirmer la validité de l’incident. Il s’est engagé à ce que toutes les données utilisateur précédemment téléchargées su
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
Recommandations de sujets spéciaux liés
commentaires (0)
Alors que les grands modèles continuent d’évoluer rapidement, les coûts de calcul et l’efficacité du traitement restent des préoccupations majeures du secteur. Fujitsu a récemment présenté une architecture novatrice baptisée PHOTON (Top-down Network Parallel Hierarchical Computing), conçue pour surmonter les limites de performance des modèles Transformer traditionnels dans des scénarios complexes.
L'architecture Transformer, désormais dominante dans le domaine de l'IA, gère bien les textes longs ou les tâches impliquant de nombreuses requêtes simultanées, mais elle ralentit souvent en raison des accès fréquents à la mémoire pour récupérer des informations historiques, ce qui augmente la charge de travail du GPU. L'équipe de recherche de Fujitsu a remédié à ce problème en repensant la conception de l'architecture PHOTON.

La force principale de PHOTON réside dans son approche de traitement hiérarchique. Au lieu de la segmentation au niveau des tokens utilisée par les Transformer traditionnels, PHOTON introduit une stratification sémantique, qui réduit la complexité computationnelle tout en renforçant le calcul parallèle. De plus, pour les tâches impliquant plusieurs requêtes, l’architecture rationalise la prise de décision : elle n’a besoin que d’une seule inférence pour parvenir à une conclusion, en utilisant des stratégies de « vote à la majorité » ou de « meilleur choix ».
Les résultats des tests montrent que, sur des modèles de petite taille comportant 600 millions, 900 millions et 1,2 milliard de paramètres, PHOTON offre un débit très élevé et une consommation de mémoire extrêmement faible. Dans le modèle à 1,2 milliard de paramètres, ses performances en multi-requêtes atteignent 475 fois celles des architectures Transformer classiques, ce qui améliore considérablement l’efficacité de la planification des ressources.
Comme cette architecture nécessite moins de cache KV par itération, le système peut gérer davantage d’itérations. Il s’agit d’un gain de performance majeur pour les systèmes d’agents intelligents qui gèrent de nombreux processus d’E/S. Bien que certains indicateurs de qualité affichent un léger compromis, le bond en avant de PHOTON en matière d’efficacité de calcul en fait une solution technique prometteuse pour réduire les coûts opérationnels de l’IA.
Fujitsu promeut désormais activement l’application de cette architecture, dans le but de fournir une infrastructure plus légère et plus efficace pour les futurs scénarios intelligents grâce à des innovations dans les algorithmes de base.
Suno appose des filigranes aux chansons dans le cadre de batailles juridiques
Suno, la plateforme permettant aux utilisateurs de générer de la musique créée par l’intelligence artificielle, a dévoilé de nouvelles fonctionnalités pour étiqueter les titres produits sur la plateforme, restreindre les téléchargements et mettre à j
Musk admet que la construction de Grok a divulgué le code utilisateur, promet d’effacer toutes les données historiques
Elon Musk a abordé directement la controverse sur la vie privée concernant Grok Build, en commençant par un simple « Vrai » pour confirmer la validité de l’incident. Il s’est engagé à ce que toutes les données utilisateur précédemment téléchargées su
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent











