메타의 새로운 AI 칩, 9월부터 양산 시작

로이터가 인용한 내부 메모에 따르면, 메타는 전례 없는 부품 부족 사태 속에서 GPU 비용을 절감하기 위해 9월부터 자사의 최신 AI 전용 칩 생산을 시작할 계획이라고 한다.
이 메모에 따르면, 적어도 한 가지 칩은 약 6주 만에 테스트 단계를 완료했다. 메타는 브로드컴과 협력해 칩 설계를 진행 중이지만, 제조는 대만의 TSMC에 맡길 예정이다. 또한 보도에 따르면, 메타는 삼성으로부터 RAM을, 샌디스크로부터 저장 장치를, 스미토모 전기로부터 광섬유 장비를 구매하고 있다.
지난 3월, 메타는 자사의 ‘메타 트레이닝 및 추론 가속기(MTIA)’ 프로그램 하에 개발된 4종의 신규 칩에 대해 상세히 설명했으며, 이 중 일부는 이미 배포되었거나 올해 또는 내년에 배포될 예정이다. 회사는 칩이 양산에 들어갈 무렵 AI가 급속히 발전함에 따라 요구 사항이 변화할 것으로 예상하여, 칩 설계에 모듈식 접근 방식을 채택하고 있다.
“각 MTIA 세대는 모듈식 칩렛을 활용해 이전 세대를 기반으로 구축되며, 최신 AI 워크로드 통찰력과 하드웨어 기술을 접목하고 더 짧은 주기로 배포됩니다”라고 회사는 당시 밝혔다.
로이터 통신에 따르면, 이 칩들은 메타가 엔비디아(Nvidia)나 AMD와 같은 칩 제조사로부터 GPU를 구매하는 비용을 절감하는 데 도움이 될 것으로 예상되지만, 여전히 해당 공급업체들에 상당한 금액을 지출할 것으로 보인다. 메타는 MTIA 칩을 순위 결정 및 추천 알고리즘을 위한 모델 훈련, 광범위한 AI 워크로드, 그리고 자사 애플리케이션의 추론에 활용할 계획이다. 이 소셜 미디어 기업은 2023년부터 자체 AI 칩을 생산해 왔다.
메타는 다양한 AI 사업을 뒷받침할 충분한 컴퓨팅 용량을 확보하기 위해 막대한 투자를 해오고 있다. 지난 4월, 이 회사는 올해 자본 지출이 1,250억~1,450억 달러에 달할 것으로 예상한다고 밝혔으며, 이 중 상당 부분이 AI 사업에 투입될 예정이다.
이 회사는 전 세계적으로 데이터 센터 및 전력 공급 계약을 체결하며, 새로운 ‘뮤즈 스파크(Muse Spark)’ 시리즈 AI 모델의 훈련 및 배포를 위한 컴퓨팅 용량을 확보하기 위해 수백억 단위를 투자해 왔다. 로이터 통신이 내부 메모를 인용한 바에 따르면, 메타는 올해 7기가와트의 컴퓨팅 용량을 구축하고 내년에는 이를 두 배로 늘릴 계획이다.
또한 메타는 지난해 추천 시스템을 위한 컴퓨팅 자원을 확보하기 위해 ARM과 계약을 체결했으며, AMD의 ‘인스팅트(Instinct)’ GPU를 도입하기 위한 수십억 달러 규모의 계약과, AI 관련 수요를 충족하기 위해 클라우드 거대 기업 아마존의 자체 개발 CPU를 사용하기로 한 수십억 달러 규모의 계약도 체결했다.
엔비디아로 유입되는 자본을 줄이려는 시도는 메타만이 아니다. 오픈AI는 지난달 브로드컴과 공동 개발 중인 추론용 프로세서를 공개했으며, 앤트로픽은 삼성과 함께 자체 칩 개발을 검토 중인 것으로 알려졌다. 아마존과 구글은 모두 AI 훈련 및 추론을 위한 자체 칩을 개발하고 있으며, 급증하는 수요를 충족하기 위해 많은 스타트업들이 이 분야에 진출하고 있다.
메타는 이에 대한 논평을 거부했다.
관련 기사
프론티어 AI 랩스, 비정상 모델에 대한 통제 전략 공개 거부
최근 연구에 따르면, 선도적인 AI 연구소 중 극소수만이 통제 대응 계획을 발표하거나 시연한 것으로 나타났습니다. 통제 계획은 AI 시스템이 인간의 통제를 무력화하려 할 때의 절차를 정의하며, 어떤 접근 권한이 철회되고 언제 시스템이 완전히 종료되는지를 명시합니다.이러한 결과는 안전한 최첨단 AI 개발 관행을 장려하는 데 주력하는 단체인 ‘Guideligh
마크 저커버그는 정말로 AI가 모든 사람을 위한 것이라고 믿을까요?
플레이어 로딩 중…메타는 이번 주 글리머(Glimmer)를 공개했습니다. 이는 누구나 다운로드하여 개인용 하드웨어에서 실행할 수 있는 오픈 가중치 AI 모델로, 자체 API를 통해서만 접근 가능한 메타의 더 강력한 모델 ‘뮤즈 스파크(Muse Spark)’와 뚜렷한 대비를 이룹니다. 이번 출시와 함께 마크 주커버그는 AI가 소수의 연구소에 의해 독점되기보다 모든 사람에게 접근 가능해야 한다는 내용의 서한을 발표했습니다. 그러나 이코노미(Equ
페이스북, 크리에이터를 위한 AI 동반자 앱 출시
페이스북은 수요일, 크리에이터 스튜디오를 전용 AI 보조 앱으로 전환해 크리에이터들이 플랫폼 내에서 영향력을 확대할 수 있도록 지원할 것이라고 밝혔다.메타는 이 AI 기반 도구를 제공함으로써 틱톡(TikTok)과 유튜브(YouTube)와의 치열한 경쟁 속에서도 크리에이터들이 페이스북에 계속 머물도록 유도하고자 한다. 또한 이 앱을 통해 콘텐츠 아이디어 구상
관련 특별 주제 추천
의견 (0)
0/500

로이터가 인용한 내부 메모에 따르면, 메타는 전례 없는 부품 부족 사태 속에서 GPU 비용을 절감하기 위해 9월부터 자사의 최신 AI 전용 칩 생산을 시작할 계획이라고 한다.
이 메모에 따르면, 적어도 한 가지 칩은 약 6주 만에 테스트 단계를 완료했다. 메타는 브로드컴과 협력해 칩 설계를 진행 중이지만, 제조는 대만의 TSMC에 맡길 예정이다. 또한 보도에 따르면, 메타는 삼성으로부터 RAM을, 샌디스크로부터 저장 장치를, 스미토모 전기로부터 광섬유 장비를 구매하고 있다.
지난 3월, 메타는 자사의 ‘메타 트레이닝 및 추론 가속기(MTIA)’ 프로그램 하에 개발된 4종의 신규 칩에 대해 상세히 설명했으며, 이 중 일부는 이미 배포되었거나 올해 또는 내년에 배포될 예정이다. 회사는 칩이 양산에 들어갈 무렵 AI가 급속히 발전함에 따라 요구 사항이 변화할 것으로 예상하여, 칩 설계에 모듈식 접근 방식을 채택하고 있다.
“각 MTIA 세대는 모듈식 칩렛을 활용해 이전 세대를 기반으로 구축되며, 최신 AI 워크로드 통찰력과 하드웨어 기술을 접목하고 더 짧은 주기로 배포됩니다”라고 회사는 당시 밝혔다.
로이터 통신에 따르면, 이 칩들은 메타가 엔비디아(Nvidia)나 AMD와 같은 칩 제조사로부터 GPU를 구매하는 비용을 절감하는 데 도움이 될 것으로 예상되지만, 여전히 해당 공급업체들에 상당한 금액을 지출할 것으로 보인다. 메타는 MTIA 칩을 순위 결정 및 추천 알고리즘을 위한 모델 훈련, 광범위한 AI 워크로드, 그리고 자사 애플리케이션의 추론에 활용할 계획이다. 이 소셜 미디어 기업은 2023년부터 자체 AI 칩을 생산해 왔다.
메타는 다양한 AI 사업을 뒷받침할 충분한 컴퓨팅 용량을 확보하기 위해 막대한 투자를 해오고 있다. 지난 4월, 이 회사는 올해 자본 지출이 1,250억~1,450억 달러에 달할 것으로 예상한다고 밝혔으며, 이 중 상당 부분이 AI 사업에 투입될 예정이다.
이 회사는 전 세계적으로 데이터 센터 및 전력 공급 계약을 체결하며, 새로운 ‘뮤즈 스파크(Muse Spark)’ 시리즈 AI 모델의 훈련 및 배포를 위한 컴퓨팅 용량을 확보하기 위해 수백억 단위를 투자해 왔다. 로이터 통신이 내부 메모를 인용한 바에 따르면, 메타는 올해 7기가와트의 컴퓨팅 용량을 구축하고 내년에는 이를 두 배로 늘릴 계획이다.
또한 메타는 지난해 추천 시스템을 위한 컴퓨팅 자원을 확보하기 위해 ARM과 계약을 체결했으며, AMD의 ‘인스팅트(Instinct)’ GPU를 도입하기 위한 수십억 달러 규모의 계약과, AI 관련 수요를 충족하기 위해 클라우드 거대 기업 아마존의 자체 개발 CPU를 사용하기로 한 수십억 달러 규모의 계약도 체결했다.
엔비디아로 유입되는 자본을 줄이려는 시도는 메타만이 아니다. 오픈AI는 지난달 브로드컴과 공동 개발 중인 추론용 프로세서를 공개했으며, 앤트로픽은 삼성과 함께 자체 칩 개발을 검토 중인 것으로 알려졌다. 아마존과 구글은 모두 AI 훈련 및 추론을 위한 자체 칩을 개발하고 있으며, 급증하는 수요를 충족하기 위해 많은 스타트업들이 이 분야에 진출하고 있다.
메타는 이에 대한 논평을 거부했다.
프론티어 AI 랩스, 비정상 모델에 대한 통제 전략 공개 거부
최근 연구에 따르면, 선도적인 AI 연구소 중 극소수만이 통제 대응 계획을 발표하거나 시연한 것으로 나타났습니다. 통제 계획은 AI 시스템이 인간의 통제를 무력화하려 할 때의 절차를 정의하며, 어떤 접근 권한이 철회되고 언제 시스템이 완전히 종료되는지를 명시합니다.이러한 결과는 안전한 최첨단 AI 개발 관행을 장려하는 데 주력하는 단체인 ‘Guideligh
마크 저커버그는 정말로 AI가 모든 사람을 위한 것이라고 믿을까요?
플레이어 로딩 중…메타는 이번 주 글리머(Glimmer)를 공개했습니다. 이는 누구나 다운로드하여 개인용 하드웨어에서 실행할 수 있는 오픈 가중치 AI 모델로, 자체 API를 통해서만 접근 가능한 메타의 더 강력한 모델 ‘뮤즈 스파크(Muse Spark)’와 뚜렷한 대비를 이룹니다. 이번 출시와 함께 마크 주커버그는 AI가 소수의 연구소에 의해 독점되기보다 모든 사람에게 접근 가능해야 한다는 내용의 서한을 발표했습니다. 그러나 이코노미(Equ
페이스북, 크리에이터를 위한 AI 동반자 앱 출시
페이스북은 수요일, 크리에이터 스튜디오를 전용 AI 보조 앱으로 전환해 크리에이터들이 플랫폼 내에서 영향력을 확대할 수 있도록 지원할 것이라고 밝혔다.메타는 이 AI 기반 도구를 제공함으로써 틱톡(TikTok)과 유튜브(YouTube)와의 치열한 경쟁 속에서도 크리에이터들이 페이스북에 계속 머물도록 유도하고자 한다. 또한 이 앱을 통해 콘텐츠 아이디어 구상





집






