9월 7일 NVIDIA 젠슨 황 CEO가 흥미로운 글을 하나 올렸다.
OpenAI의 새로운 모델 GPT-6 Astra에 관한 내용이었다.
눈여겨본 것은 “AGI가 도착했다”는 문장보다, 바로 이 두 숫자.
100K+ GPUs 와 400K GPUs coming online next.
GPT-6 Astra를 훈련하는 데 10만 개가 넘는 NVIDIA GPU가 사용됐고, 다음에는 40만 개의 GPU가 추가로 가동될 것이라는 이야기다. 젠슨 황의 해당 발언은 외신을 통해서도 확인된다.
AI 반도체 투자자라면 이 숫자를 그냥 넘기기 어렵다.
GPT-6 Astra 하나에 GPU 10만개가 들어갔다
OpenAI는 9월 3일 새로운 모델 GPT-6 Astra를 공개했다.
Astra는 단순히 질문에 답하는 챗봇에서 레벨업된 모델이다.
브라우저와 컴퓨터를 사용하고, 소프트웨어를 개발하고, 자료를 조사하고, 복잡한 업무를 여러 단계에 걸쳐 수행하는 능력이 크게 강화됐다. OpenAI가 공개한 테스트에서는 컴퓨터 사용 작업을 GPT-5.6 Sol보다 높은 성능으로 수행하면서 필요한 시간은 약 47% 줄었다.
쉽게 말하면 우리가 계속 이야기했던 Agentic AI가 더 현실에 가까워진 것.
그런데 이런 모델을 만드는 데 필요한 컴퓨팅 규모도 엄청나게 커졌다.
Astra는 OpenAI 역사상 가장 큰 규모의 훈련 작업으로, 10만 개 이상의 GPU가 사용된 것으로 알려졌다.
여기까지만 보면
“AI 모델 하나 만드는 데 GPU 10만개가 필요했구나.”
정도로 생각할 수 있다.
그런데 젠슨 황은 한 문장을 더 붙였다.
“400K GPUs coming online next.”
다음은 40만 개다.
‘AGI가 왔다’보다 이 숫자가 더 중요해 보인다
Astra가 정말 AGI인지는 지금 판단할 필요가 없다.
젠슨 황은 “AGI has arrived”라고 표현했고 OpenAI의 Greg Brockman도 AGI 시대의 시작이라는 강한 표현을 사용했지만, AGI에는 아직 모두가 동의하는 객관적인 판정 기준이 없다. OpenAI 역시 최종적인 판단은 사용자들에게 맡기는 입장이다.
주식 투자자에게는 오히려 훨씬 단순한 문제가 중요하다.
AI가 발전하면서 필요한 컴퓨팅이 줄어들고 있는가?
현재 나온 숫자는 반대다.
ChatGPT
↓
더 강력한 AI 모델
↓
Agentic AI
↓
모델 훈련·추론량 증가
↓
GPU 클러스터 대형화
Astra에는 10만 개가 넘는 GPU가 사용됐다.
그리고 다음에는 40만 GPU가 추가로 가동된다.
AI가 발전하면서 GPU 수요가 사라지는 그림은 아직 보이지 않는다.
오히려 AI를 만들기 위해 필요한 컴퓨팅 규모 자체가 한 단계씩 커지고 있다.
그런데 GPU 40만개만 필요한 게 아니다
여기서 NVIDIA만 보면 중요한 부분을 놓친다.
GPU는 혼자 움직이지 않는다.
수십만 개의 GPU를 하나의 거대한 AI 컴퓨터처럼 움직이게 만들려면 주변의 모든 것이 같이 커져야 한다.
GPU
↓
HBM
↓
DRAM
↓
CPU
↓
네트워크
↓
스토리지
↓
전력·냉각
결국 AI 데이터센터 전체가 커진다.
특히 최근 NVIDIA가 강조하는 시스템은 GPU 한 개의 성능보다 수많은 GPU를 얼마나 효율적으로 하나로 연결하느냐가 중요해지고 있다.
그래서 앞으로 AI 반도체를 볼 때도
“GPU가 몇 개 팔리는가?” 보다 “AI 데이터센터 전체의 컴퓨팅 규모가 얼마나 커지는가?”
를 보는 것이 더 중요하다.
여기서 다시 HBM이 등장한다
그리고 이 이야기를 한국으로 가져오면 결국 삼성전자와 SK하이닉스가 나온다.
GPU의 연산능력이 아무리 좋아져도 데이터를 빠르게 공급하지 못하면 GPU가 기다려야 한다.
그래서 AI 가속기에 HBM이 붙는다.
GPU가 증가하고 한 GPU에 탑재되는 HBM 용량까지 증가한다면 HBM 수요에는 두 가지 효과가 동시에 발생한다.
GPU 수 증가 × GPU당 HBM 탑재량 증가 이 구조다.
그래서 단순히 GPU 10만 → 40만 = HBM도 정확히 4배 라고 계산하면 안 된다.
40만 개가 모두 Astra와 동일한 GPU인지, 어떤 세대의 제품인지, 언제 설치되는지, 누구에게 공급되는지가 모두 다르기 때문이다.
하지만 방향은 명확하다.
GPU 설치량이 줄어드는 이야기가 아니라 수십만 개가 추가로 설치되는 이야기가 나오고 있다.
HBM 공급업체 입장에서는 상당히 중요한 숫자다.
그래서 SK하이닉스가 공장을 그렇게 짓고도 부족하다고 하는 것 아닐까
며칠 전 SK하이닉스 이야기를 하면서 재미있는 부분을 봤다.
용인에 대규모 생산시설을 만들고 있고 미국에도 투자하고 있는데 해외 생산능력 확보 가능성까지 계속 거론된다.
과거 메모리 사이클에서는 오히려 반대였다.
호황이 오면 삼성전자와 SK하이닉스가 공장을 짓는다.
공급이 늘어난다.
메모리 가격이 떨어진다.
이익이 급감한다.
그래서 투자자들은 항상 “공장을 너무 많이 짓는 것 아닌가?”를 걱정했다.
그런데 지금은 질문이 달라지고 있다.
“그렇게 많이 짓는데도 부족한 것 아닌가?”
최근 한국의 반도체 수출도 AI 수요를 바탕으로 강한 증가세를 이어가고 있으며, 삼성전자와 SK하이닉스는 강한 AI 관련 수요를 배경으로 공급부족이 지속될 가능성을 보고 있다.
여기에 젠슨 황이 말한 다음 40만 GPU가 등장했다.
그러면 생산능력을 빠르게 확보하려는 이유도 조금 더 이해하기 쉬워진다.
더 중요한 건 이제 학습만이 아니다
10만 개 이상의 GPU를 사용했다는 것은 Astra를 만드는 과정, 즉 Training 이야기다.
그런데 모델이 완성됐다고 GPU 사용이 끝나는 것이 아니다.
오히려 그때부터 사람들이 사용하기 시작한다.
Astra는 브라우저를 사용하고 컴퓨터를 조작하고 자료를 조사하고 복잡한 업무를 여러 단계에 걸쳐 수행한다.
기존 ChatGPT에
“삼성전자 실적 알려줘.”
라고 한 번 묻는 것과,
Agentic AI에게
“삼성전자 최근 실적과 증권사 전망을 찾아서 비교하고 표를 만들고 보고서까지 작성해줘.”
라고 시키는 것은 필요한 연산량이 같을 수 없다.
AI가 단순히 답변하는 것에서 실제로 일을 하는 방향으로 바뀌면 추론 과정에서 사용하는 컴퓨팅도 중요해진다.
그래서 앞으로는
Training
Inference
두 시장을 같이 봐야 한다.
모델 경쟁이 계속되면 학습용 GPU가 필요하고,
AI 사용자가 늘어나면 추론용 GPU가 필요하다.
그리고 Physical AI까지 기다리고 있다
또 있다...
최근 국내 증시에서 로봇주가 강했던 이유와도 연결된다.
AI가 데이터센터 안에서만 움직이는 것이 아니라 자동차와 로봇으로 나오기 시작하고 있다.
Agentic AI
→ 데이터센터
→ GPU·HBM·DRAM
여기에
Physical AI
→ 자율주행·로봇
→ 연산·DRAM·NAND
이라는 새로운 수요가 추가될 가능성이 크다.
결국 우리가 보고 있는 AI 사이클은 단순히 ChatGPT 사용자가 늘어나는 이야기가 아닐 수 있다.
모델 학습 → AI Agent → Physical AI
로 컴퓨팅이 사용되는 영역 자체가 넓어지고 있다.
40만이끝일까?
AI 관련주가 너무 많이 올랐다는 이야기는 계속 나온다.
삼성전자와 SK하이닉스 역시 마찬가지다.
주가가 많이 올랐느냐가 아니라 실제 수요가 따라오고 있느냐.
Astra 하나를 훈련하는 데 10만 개가 넘는 GPU가 사용됐다.
그런데 다음에는 40만 GPU가 추가로 가동될 것이라는 이야기가 나온다.
AI 기업들의 CAPEX가 줄어드는지,
GPU 주문이 줄어드는지,
HBM 공급부족이 해소되는지,
삼성전자와 SK하이닉스의 증설 속도가 수요 증가를 따라잡기 시작하는지.
지겹지만 이것들을 계속봐야한다.
반대로 이 숫자들이 꺾이지 않는다면 지금의 AI 반도체 사이클을 과거의 메모리 사이클과 똑같이 보는 것도 위험할 수 있다.
AI가 좋아지고 있다는 말보다 더 중요한 것은 AI를 돌리기 위해 실제로 무엇을 사고 있느냐다.
지금까지 나온 답은 여전히 같다.
더 많은 GPU, 더 많은 HBM, 더 많은 메모리다.
그리고 젠슨 황이 던진 다음 숫자는 40만 개.. 그리고 다음은 얼마나 또 늘어날까?
![[15편] 지속 가능한 경제적 자유를 위한 루틴: 매일 15분 경제 공부법](https://4.bp.blogspot.com/-O3EpVMWcoKw/WxY6-6I4--I/AAAAAAAAB2s/KzC0FqUQtkMdw7VzT6oOR_8vbZO6EJc-ACK4BGAYYCw/w680/nth.png)
0 댓글