엔비디아 큰손들이 경쟁자로…MS·구글·오픈AI, 자체칩으로 '추론' 파고든다

MS, 2027년부터 자체 추론칩 '마이아 300' 투입…전력 효율 40% 개선 주장

구글·오픈AI·아마존도 독자 개발…엔비디아, AI 학습용 반도체 우위 유지

[서울=뉴시스] 마이크로소프트 애저 마이아 300 시스템. (사진=마이크로소프트 제공) *재판매 및 DB 금지

[서울=뉴시스]박영환 기자 = 엔비디아의 주요 고객인 미국 빅테크들이 인공지능(AI) 반도체 시장에서 잇달아 경쟁자로 나서고 있다. 마이크로소프트(MS)를 비롯한 대형 기술기업들이 AI의 답변 생성에 쓰이는 반도체를 직접 개발하면서 엔비디아의 지배력에 도전하고 있다.

13일(현지 시간) 미국 인터넷 매체 액시오스는 MS의 차세대 자체 AI 반도체 '마이아 300'을 계기로 빅테크의 AI 반도체 경쟁이 본격화하고 있다고 보도했다. 엔비디아의 주요 고객들이 반도체 구매에만 의존하지 않고 자체 개발을 통해 비용을 줄이고 성능과 기술에 대한 통제권을 확보하려 한다는 것이다.

MS는 마이아 300을 2027년부터 배치해 자사 AI 제품과 서비스의 주력 추론 시스템으로 활용할 계획이다. 마이아는 MS가 자체 설계한 AI 반도체 제품군으로, 엔비디아 등 외부 업체의 반도체에 대한 의존도를 낮추기 위한 전략의 하나다.

특히 빅테크들이 집중하는 분야는 AI '추론'이다. AI 반도체는 크게 모델에 방대한 데이터를 학습시키는 데 쓰이는 칩과 학습을 마친 모델이 실제 답변을 생성하도록 돕는 칩으로 나뉜다. 이용자가 챗봇에 질문하고 답변을 받는 과정에 필요한 연산이 추론에 해당한다.

AI 모델이 정교해지고 여러 작업을 스스로 수행하는 AI 에이전트가 확산하면서 추론에 필요한 연산량도 빠르게 늘고 있다. 기업들이 추론칩의 처리 속도와 전력 효율을 높이는 데 집중하는 이유다. 같은 전력으로 더 많은 AI 답변을 처리할수록 서비스 운영에 필요한 비용을 낮출 수 있다.

MS는 마이아 300이 주요 그래픽처리장치(GPU) 기반 시스템보다 전력 1메가와트(MW)당 40% 더 많은 AI 토큰을 처리할 것으로 예상했다. 토큰은 AI가 문장 등을 처리하는 기본 단위다.

마이아 300은 반도체와 메모리 사이에서 불필요하게 오가는 데이터도 줄이도록 설계됐다. 복잡한 AI 모델을 실행할수록 데이터를 옮기는 과정이 처리 속도를 늦추고 전력 소비를 늘리는 요인이 되고 있어서다.

자체 AI 반도체 개발에 나선 기업은 MS만이 아니다. 구글은 수년 전부터 자체 반도체인 텐서처리장치(TPU)를 개발해왔다. 최신 제품군은 AI 모델 학습용과 추론용으로 각각 최적화한 제품을 포함하고 있다.

챗GPT 개발사 오픈AI도 미국 반도체 기업 브로드컴과 자체 AI 칩 '할라페뇨'를 개발하고 있다. 첫 제품은 추론 작업에 초점을 맞췄다. 오픈AI는 지난 8월 일부 작업에서 자사 칩이 엔비디아 반도체보다 높은 성능을 보였다고 설명했으며, 후속 세대 제품도 개발하고 있다.

아마존은 자체 AI 반도체 '트레이니엄' 제품군을 운영하고 있다. AI 개발사 앤트로픽이 이를 사용하고 있으며 오픈AI도 대규모 인프라 계약에 따라 아마존의 자체 반도체를 이용하기로 했다. 앤트로픽 역시 지난 8월 자체 칩 설계를 검토하고 있다고 확인했으며, 페이스북 모회사 메타도 내부적으로 AI 반도체를 개발하고 있다.

그러나 자체 칩 개발이 곧 엔비디아 반도체의 구매 중단을 뜻하지는 않는다. 이들 기업 상당수는 자체 반도체를 개발하면서도 엔비디아를 비롯한 외부 업체의 칩과 연산 자원을 계속 사용하고 있다.

엔비디아의 실적도 여전히 빠르게 성장하고 있다. 엔비디아가 지난 8월 발표한 2027회계연도 2분기 매출은 962억달러로 전년 동기보다 106% 증가했다. 액시오스는 AI 연산 수요 자체가 급증하면서 엔비디아와 경쟁 업체들이 함께 성장할 여지가 있다고 분석했다.

경쟁 분야에도 차이가 있다. 빅테크의 자체칩 개발은 주로 추론 분야에 집중돼 있으며, 대규모 AI 모델을 학습시키는 반도체 시장에서는 엔비디아가 여전히 우위를 유지하고 있다. 엔비디아는 AI 산업의 성장을 뒷받침하는 투자와 금융 지원에도 관여하고 있다.

라니 보카르 MS 애저 하드웨어 시스템·인프라 사장은 액시오스에 경쟁력 있는 AI 반도체를 만들려면 칩 자체뿐 아니라 메모리와 네트워크, 소프트웨어, 전력 소비까지 전체 시스템을 함께 설계해야 한다고 설명했다. 그는 MS가 추론 분야에서 비용과 효율을 개선하는 데 집중하고 있다면서도 자체칩과 외부 업체 제품 가운데 하나만 선택하는 전략은 아니라고 밝혔다.

MS의 마이아 전환 계획도 일단 자사 제품과 서비스에 한정된다. 오픈AI 등 애저 클라우드를 이용하는 외부 고객까지 일괄적으로 마이아로 전환한다는 뜻은 아니다. 실제 배치는 2027년부터 시작되지만, 전력 기준 수 기가와트(GW) 규모로 확대하는 데는 그 이후까지 시간이 걸릴 전망이다.

자체 칩 개발이 확대되더라도 반도체 공급망의 제약은 남는다. 빅테크가 반도체를 직접 설계하더라도 실제 생산에는 첨단 제조시설과 패키징 기술, 고대역폭메모리(HBM)가 필요하기 때문이다. 이들 기업 역시 엔비디아가 의존하는 제한된 생산 능력과 부품 공급망을 이용해야 한다.

액시오스는 엔비디아가 여전히 AI 산업의 중심에 있지만 최대 고객들이 AI 서비스의 기반 기술을 직접 통제하려는 움직임을 강화하고 있다고 분석했다. 반도체 구매 비용을 낮추는 것을 넘어 AI 서비스에서 발생하는 경제적 이익을 더 많이 확보하려는 경쟁이 벌어지고 있다는 것이다.

[라스베이거스=AP/뉴시스] 젠슨 황 엔비디아 최고경영자(CEO)가 5일(현지 시간) 미 네바다주 라스베이거스 퐁텐블로 호텔에서 세계 최대 IT·전자 전시회 'CES 2026' 개막을 앞두고 열린 엔비디아 라이브에서 차세대 그래픽 처리장치 루빈 GPU와 중앙처리장치 베라 CPU를 들어 보이고 있다. 2026.01.06.

◎공감언론 뉴시스 [email protected]