마이크로소프트, 강력한 새로운 AI 추론 칩을 공개하다

마이크로소프트는 최신 칩인 ‘마이아 200’을 공개하며, 이를 AI 추론에 최적화된 실리콘 제품이라고 설명했습니다.
2023년에 출시된 ‘마이아 100’의 후속 모델인 ‘마이아 200’은 고급 AI 모델을 보다 빠르고 효율적으로 실행할 수 있도록 설계되었습니다. 이 칩에는 1,000억 개가 넘는 트랜지스터가 탑재되어 있으며, 4비트 정밀도로는 10페타플롭스 이상의 성능을, 8비트 정밀도로는 약 5페타플롭스의 성능을 발휘합니다. 이는 전작에 비해 큰 진전입니다.
‘추론’이란 모델을 실행하는 계산 과정을 의미하며, ‘트레이닝’과는 다른 개념입니다. AI 기업들이 성장함에 따라, 추론 과정에 소요되는 비용은 총 운영 비용에서 점점 더 큰 비중을 차지하고 있으며, 이러한 과정을 효율화하기 위한 노력이 활발해지고 있습니다.
마이크로소프트는 ‘마이아 200’이 이러한 최적화 작업을 지원하여, AI 기업들이 더 적은 장애물과 낮은 전력 소비로 운영될 수 있도록 할 것입니다. 회사는 “실제로 단 하나의 ‘마이아 200’ 칩만으로도 현재 가장 큰 규모의 AI 모델들을 문제없이 처리할 수 있으며, 향후 더 큰 모델들도 충분히 지원할 수 있을 것”이라고 밝혔습니다.
마이크로소프트의 이 새로운 칩은 또한, AI 분야에서 네비디아의 고급 GPU에 대한 의존도를 줄이려는 기술 거대 기업들의 전반적인 추세에도 부합합니다. 예를 들어, 구글은 칩을 직접 판매하는 대신 자사의 TPU를 클라우드 서비스 형태로 제공하고 있으며, 아마존도 최신 버전인 ‘트레이니엄3’을 포함한 AI 가속기를 보유하고 있습니다. 이러한 칩들은 네비디아 GPU의 일부 계산 작업을 분담하여 전체 하드웨어 비용을 줄여줍니다.
‘마이아 200’을 통해 마이크로소프트는 이러한 경쟁 제품들과 어깨를 나란히 할 수 있게 되었습니다. 회사는 월요일에 발표한 보도자료에서, ‘마이아 200’이 3세대 아마존 트레이니엄 칩의 FP4 성능보다 3배 높으며, 구글의 7세대 TPU보다 FP8 성능에서도 우수하다고 밝혔습니다.
마이크로소프트에 따르면, ‘마이아 200’은 이미 회사의 슈퍼인텔리전스 팀이 개발한 AI 모델들에 사용되고 있으며, 코파일럿 챗봇의 구동에도 기여하고 있습니다. 월요일 현재, 마이크로소프트는 개발자들, 학계 전문가들, 그리고 최첨단 AI 연구소들에게 ‘마이아 200’ 소프트웨어 개발 킷을 사용할 수 있도록 초대하고 있습니다.
관련 기사
구글, 사용자 제어 강화에 맞춰 제미니용 레미 AI 에이전트 테스트
비즈니스 인사이더에 따르면, 구글은 제미나이를 위한 새로운 AI 개인 에이전트인 레미를 테스트하고 있습니다. 이 도구는 사용자를 대신하여 작업을 실행하여 전문적인 워크플로우와 일상적인 루틴을 모두 간소화하는 것을 목표로 합니다.현재 레미는 제미나이 애플리케이션의 내부 직원 전용 버전에서 테스트 중입니다. 이 보고서는 내부 문서와 프로젝트에 정통한 두 명의 인물과의 인터뷰를 인용합니다. 내부 자료는 레미를 “24/7 개인 에이전트”로 묘사하며,
Core Web Vitals를 수정하여 SEO 순위 향상을 위한 방법
AI 도구를 활용한 성적표 코멘트 작성 간소화서론성적표 코멘트 생성을 위한 AI 도구매직 스쿨(Magic School)알마낙 AI(Almanac AI)챗 GPT(Chat GPT)매직 스쿨을 사용하여 성적표 코멘트 생성하기매직 스쿨 로그인성적표 코멘트 도구 선택학생별 코멘트 맞춤 설정알마낙 AI를 사용하여 성적표 코멘트 생성하기과정 및 평가 체계 설정성적표 분량 및 학생 정보 구성알마낙 AI를 통한 코멘트 생성매직 스쿨과
Slackbot이 AI 에이전트가 됩니다
Salesforce의 기업용 메시징 플랫폼인 Slack에 내장된 자동 비서 Slackbot이 AI 에이전트로 진화하고 있습니다. Salesforce의 CTO인 Parker Harris는 이것이 OpenAI의 ChatGPT에 버금가는 바이럴 현상을 달성할 것으로 전망합니다.클라우드 소프트웨어 거대 기업인 Salesforce는 화요일 업데이트된 Slackbot을 출시했습니다. Business+ 및 Enterprise+ 고객에게 제공되는 이 새로운
관련 특별 주제 추천
의견 (1)
0/500
Just saw the news about Microsoft's new Maia 200 chip. Finally, someone is tackling the inference bottleneck with actual silicon instead of just throwing money at cloud services. 🚀 It’s wild how fast these models are evolving, but I’m still skeptical about whether this will actually lower costs for regular users or just make big tech richer. Anyone else excited for cheaper AI access, or is it all hype? 🤔

마이크로소프트는 최신 칩인 ‘마이아 200’을 공개하며, 이를 AI 추론에 최적화된 실리콘 제품이라고 설명했습니다.
2023년에 출시된 ‘마이아 100’의 후속 모델인 ‘마이아 200’은 고급 AI 모델을 보다 빠르고 효율적으로 실행할 수 있도록 설계되었습니다. 이 칩에는 1,000억 개가 넘는 트랜지스터가 탑재되어 있으며, 4비트 정밀도로는 10페타플롭스 이상의 성능을, 8비트 정밀도로는 약 5페타플롭스의 성능을 발휘합니다. 이는 전작에 비해 큰 진전입니다.
‘추론’이란 모델을 실행하는 계산 과정을 의미하며, ‘트레이닝’과는 다른 개념입니다. AI 기업들이 성장함에 따라, 추론 과정에 소요되는 비용은 총 운영 비용에서 점점 더 큰 비중을 차지하고 있으며, 이러한 과정을 효율화하기 위한 노력이 활발해지고 있습니다.
마이크로소프트는 ‘마이아 200’이 이러한 최적화 작업을 지원하여, AI 기업들이 더 적은 장애물과 낮은 전력 소비로 운영될 수 있도록 할 것입니다. 회사는 “실제로 단 하나의 ‘마이아 200’ 칩만으로도 현재 가장 큰 규모의 AI 모델들을 문제없이 처리할 수 있으며, 향후 더 큰 모델들도 충분히 지원할 수 있을 것”이라고 밝혔습니다.
마이크로소프트의 이 새로운 칩은 또한, AI 분야에서 네비디아의 고급 GPU에 대한 의존도를 줄이려는 기술 거대 기업들의 전반적인 추세에도 부합합니다. 예를 들어, 구글은 칩을 직접 판매하는 대신 자사의 TPU를 클라우드 서비스 형태로 제공하고 있으며, 아마존도 최신 버전인 ‘트레이니엄3’을 포함한 AI 가속기를 보유하고 있습니다. 이러한 칩들은 네비디아 GPU의 일부 계산 작업을 분담하여 전체 하드웨어 비용을 줄여줍니다.
‘마이아 200’을 통해 마이크로소프트는 이러한 경쟁 제품들과 어깨를 나란히 할 수 있게 되었습니다. 회사는 월요일에 발표한 보도자료에서, ‘마이아 200’이 3세대 아마존 트레이니엄 칩의 FP4 성능보다 3배 높으며, 구글의 7세대 TPU보다 FP8 성능에서도 우수하다고 밝혔습니다.
마이크로소프트에 따르면, ‘마이아 200’은 이미 회사의 슈퍼인텔리전스 팀이 개발한 AI 모델들에 사용되고 있으며, 코파일럿 챗봇의 구동에도 기여하고 있습니다. 월요일 현재, 마이크로소프트는 개발자들, 학계 전문가들, 그리고 최첨단 AI 연구소들에게 ‘마이아 200’ 소프트웨어 개발 킷을 사용할 수 있도록 초대하고 있습니다.
Core Web Vitals를 수정하여 SEO 순위 향상을 위한 방법
AI 도구를 활용한 성적표 코멘트 작성 간소화서론성적표 코멘트 생성을 위한 AI 도구매직 스쿨(Magic School)알마낙 AI(Almanac AI)챗 GPT(Chat GPT)매직 스쿨을 사용하여 성적표 코멘트 생성하기매직 스쿨 로그인성적표 코멘트 도구 선택학생별 코멘트 맞춤 설정알마낙 AI를 사용하여 성적표 코멘트 생성하기과정 및 평가 체계 설정성적표 분량 및 학생 정보 구성알마낙 AI를 통한 코멘트 생성매직 스쿨과
Slackbot이 AI 에이전트가 됩니다
Salesforce의 기업용 메시징 플랫폼인 Slack에 내장된 자동 비서 Slackbot이 AI 에이전트로 진화하고 있습니다. Salesforce의 CTO인 Parker Harris는 이것이 OpenAI의 ChatGPT에 버금가는 바이럴 현상을 달성할 것으로 전망합니다.클라우드 소프트웨어 거대 기업인 Salesforce는 화요일 업데이트된 Slackbot을 출시했습니다. Business+ 및 Enterprise+ 고객에게 제공되는 이 새로운
Just saw the news about Microsoft's new Maia 200 chip. Finally, someone is tackling the inference bottleneck with actual silicon instead of just throwing money at cloud services. 🚀 It’s wild how fast these models are evolving, but I’m still skeptical about whether this will actually lower costs for regular users or just make big tech richer. Anyone else excited for cheaper AI access, or is it all hype? 🤔





집






