후지쯔의 ‘PHOTON 아키텍처’, AI 성능을 475배 향상시키고 연산 병목 현상 해소
대규모 모델이 계속해서 급속히 발전함에 따라, 컴퓨팅 비용과 처리 효율성은 여전히 업계의 주요 관심사로 남아 있습니다. 후지쯔는 최근 복잡한 시나리오에서 기존 트랜스포머 모델의 성능 한계를 극복하기 위해 설계된 ‘PHOTON(Top-down Network Parallel Hierarchical Computing)’이라는 새로운 아키텍처를 선보였습니다.
현재 AI 분야에서 주류를 이루고 있는 트랜스포머 아키텍처는 긴 텍스트나 높은 동시성을 요구하는 다중 쿼리 작업을 잘 처리하지만, 과거 정보를 검색하기 위해 메모리에 빈번하게 접근해야 하기 때문에 속도가 느려지는 경우가 많아 GPU 부하가 증가합니다. 후지쯔 연구팀은 PHOTON 아키텍처의 설계를 재고함으로써 이러한 문제점을 해결했습니다.

PHOTON의 핵심 강점은 계층적 처리 방식에 있습니다. 기존 트랜스포머가 사용하는 토큰 수준 분할 대신, PHOTON은 의미론적 계층화를 도입하여 계산 복잡성을 줄이는 동시에 병렬 연산 성능을 높입니다. 또한, 다중 쿼리 작업의 경우, 이 아키텍처는 “다수결” 또는 “최적 선택” 전략을 사용하여 단 한 번의 추론만으로 결론에 도달함으로써 의사 결정 과정을 간소화합니다.
테스트 결과에 따르면, 6억, 9억, 12억 개의 매개변수를 가진 소규모 모델에서 PHOTON은 매우 높은 처리량과 극히 낮은 메모리 사용량을 보여줍니다. 12억 매개변수 모델에서 PHOTON의 다중 쿼리 성능은 주류 트랜스포머 아키텍처보다 475배에 달하며, 리소스 스케줄링 효율을 크게 향상시킵니다.
이 아키텍처는 반복당 필요한 KV 캐시가 적기 때문에 시스템이 더 많은 반복을 처리할 수 있습니다. 이는 많은 I/O 프로세스를 관리하는 지능형 에이전트 시스템에 있어 성능이 크게 향상된 것입니다. 일부 품질 지표에서는 약간의 타협이 있지만, PHOTON의 계산 효율성 향상은 AI 운영 비용을 절감하기 위한 유망한 기술적 솔루션이 될 것입니다.
후지쯔는 현재 이 아키텍처의 적용을 적극적으로 추진하고 있으며, 핵심 알고리즘의 혁신을 통해 미래의 지능형 시나리오에 더 가볍고 효율적인 기반 지원을 제공하는 것을 목표로 하고 있습니다.
관련 기사
법적 분쟁 속에서 Suno의 워터마크 삽입
Suno는 사용자가 AI 생성 음악을 생성할 수 있게 하는 플랫폼으로, 플랫폼에서 생성된 트랙에 레이블을 지정하고 다운로드를 제한하며, 무단 복제를 억제하기 위해 커뮤니티 기준을 업데이트하는 새로운 기능을 공개했습니다. 이러한 업데이트는 Suno가 레이블 및 아티스트 조직으로부터 여러 소송에 직면하는 시점에 이루어집니다.공동 창립자이자 CEO인 Mikey Shulman은 블로그 게시물을 통해 핵심 원칙을 제시하며, 플랫폼이 광범위한 청중을 대
머스크, Grok 구축 과정에서 사용자 코드 유출 인정, 모든 과거 데이터 삭제 약속
Elon Musk는 Grok Build와 관련된 프라이버시 논란에 대해 직접적으로 언급하며, 사건의 타당성을 확인하기 위해 간단한 "True"로 답변했습니다. 그는 SpaceXAI에 이전에 업로드된 모든 사용자 데이터를 영구적으로 삭제하겠다고 약속하며, "바이트 하나도 남기지 않겠다"고 밝혔습니다. 이는 주요 기술 리더가 실수를 공개적으로 인정하고 사용자 데이터를 능동적으로 삭제한 AI 산업 최초의 사례입니다.안전 연구원의 '피싱' 테스트는
미국의 주식 시장이 AI와 항공우주 거대 기업들의 1조 달러 데뷔를 앞두고 역사적 이정표에 도달
엘론 머스크, 샘 알트만, 그리고 다리오 아모데이라는 기술 산업의 거인 세 명이 각자의 기업에 대해 공개 시장 상장(IPO)을 앞두고 있다. 스페이스X, 오픈AI, 앤트로픽이라는 세 산업의 거대 기업이 1조 달러 이상의 기업 가치를 달성하며 상장을 준비함에 따라, 2026년은 미국 역사상 신주 발행 측면에서 가장 중요한 해가 될 것으로 전망된다.이러한 역사적인 자본 증가는 전 세계 금융계의 주목을 받고 있으며, 공공 시장이 이러한 규모의 자금
관련 특별 주제 추천
의견 (0)
0/500
대규모 모델이 계속해서 급속히 발전함에 따라, 컴퓨팅 비용과 처리 효율성은 여전히 업계의 주요 관심사로 남아 있습니다. 후지쯔는 최근 복잡한 시나리오에서 기존 트랜스포머 모델의 성능 한계를 극복하기 위해 설계된 ‘PHOTON(Top-down Network Parallel Hierarchical Computing)’이라는 새로운 아키텍처를 선보였습니다.
현재 AI 분야에서 주류를 이루고 있는 트랜스포머 아키텍처는 긴 텍스트나 높은 동시성을 요구하는 다중 쿼리 작업을 잘 처리하지만, 과거 정보를 검색하기 위해 메모리에 빈번하게 접근해야 하기 때문에 속도가 느려지는 경우가 많아 GPU 부하가 증가합니다. 후지쯔 연구팀은 PHOTON 아키텍처의 설계를 재고함으로써 이러한 문제점을 해결했습니다.

PHOTON의 핵심 강점은 계층적 처리 방식에 있습니다. 기존 트랜스포머가 사용하는 토큰 수준 분할 대신, PHOTON은 의미론적 계층화를 도입하여 계산 복잡성을 줄이는 동시에 병렬 연산 성능을 높입니다. 또한, 다중 쿼리 작업의 경우, 이 아키텍처는 “다수결” 또는 “최적 선택” 전략을 사용하여 단 한 번의 추론만으로 결론에 도달함으로써 의사 결정 과정을 간소화합니다.
테스트 결과에 따르면, 6억, 9억, 12억 개의 매개변수를 가진 소규모 모델에서 PHOTON은 매우 높은 처리량과 극히 낮은 메모리 사용량을 보여줍니다. 12억 매개변수 모델에서 PHOTON의 다중 쿼리 성능은 주류 트랜스포머 아키텍처보다 475배에 달하며, 리소스 스케줄링 효율을 크게 향상시킵니다.
이 아키텍처는 반복당 필요한 KV 캐시가 적기 때문에 시스템이 더 많은 반복을 처리할 수 있습니다. 이는 많은 I/O 프로세스를 관리하는 지능형 에이전트 시스템에 있어 성능이 크게 향상된 것입니다. 일부 품질 지표에서는 약간의 타협이 있지만, PHOTON의 계산 효율성 향상은 AI 운영 비용을 절감하기 위한 유망한 기술적 솔루션이 될 것입니다.
후지쯔는 현재 이 아키텍처의 적용을 적극적으로 추진하고 있으며, 핵심 알고리즘의 혁신을 통해 미래의 지능형 시나리오에 더 가볍고 효율적인 기반 지원을 제공하는 것을 목표로 하고 있습니다.
법적 분쟁 속에서 Suno의 워터마크 삽입
Suno는 사용자가 AI 생성 음악을 생성할 수 있게 하는 플랫폼으로, 플랫폼에서 생성된 트랙에 레이블을 지정하고 다운로드를 제한하며, 무단 복제를 억제하기 위해 커뮤니티 기준을 업데이트하는 새로운 기능을 공개했습니다. 이러한 업데이트는 Suno가 레이블 및 아티스트 조직으로부터 여러 소송에 직면하는 시점에 이루어집니다.공동 창립자이자 CEO인 Mikey Shulman은 블로그 게시물을 통해 핵심 원칙을 제시하며, 플랫폼이 광범위한 청중을 대
머스크, Grok 구축 과정에서 사용자 코드 유출 인정, 모든 과거 데이터 삭제 약속
Elon Musk는 Grok Build와 관련된 프라이버시 논란에 대해 직접적으로 언급하며, 사건의 타당성을 확인하기 위해 간단한 "True"로 답변했습니다. 그는 SpaceXAI에 이전에 업로드된 모든 사용자 데이터를 영구적으로 삭제하겠다고 약속하며, "바이트 하나도 남기지 않겠다"고 밝혔습니다. 이는 주요 기술 리더가 실수를 공개적으로 인정하고 사용자 데이터를 능동적으로 삭제한 AI 산업 최초의 사례입니다.안전 연구원의 '피싱' 테스트는
미국의 주식 시장이 AI와 항공우주 거대 기업들의 1조 달러 데뷔를 앞두고 역사적 이정표에 도달
엘론 머스크, 샘 알트만, 그리고 다리오 아모데이라는 기술 산업의 거인 세 명이 각자의 기업에 대해 공개 시장 상장(IPO)을 앞두고 있다. 스페이스X, 오픈AI, 앤트로픽이라는 세 산업의 거대 기업이 1조 달러 이상의 기업 가치를 달성하며 상장을 준비함에 따라, 2026년은 미국 역사상 신주 발행 측면에서 가장 중요한 해가 될 것으로 전망된다.이러한 역사적인 자본 증가는 전 세계 금융계의 주목을 받고 있으며, 공공 시장이 이러한 규모의 자금





집






