AI 발전 속도, 초래될 결과 아무도 모른다… 이젠 투자 규모가 걱정인가?

 OpenAI에서 꽤 의미심장한 이야기가 나왔다.

OpenAI 최고과학자 야쿠프 파호츠키가 AI 개발 속도를 조절할 필요가 있다는 취지의 글을 공개했다.

그가 던진 문장은 꽤 강하다.

“기계 지능이 계속해서 급속도로 발전할 경우 초래될 결과에 아무도 대비하지 않고 있다.”

샘 올트먼도 이 글을 자신의 X에 직접 인용하며

“An important post from Jakub.” 이라고 남겼다.

OpenAI의 최고과학자가 AI 개발 속도 조절을 이야기하고, CEO까지 공개적으로 그 중요성을 강조한 것이다.

물론 글의 핵심은 AI 안전이다.

그런데 투자자의 시선으로 보면 여기서 한 가지 생각이 더 든다.

정말 AI의 위험성만 걱정하고 있는 걸까?

---

AI 경쟁이 너무 커져버렸다

지금 AI 기업들의 경쟁은 단순히 더 좋은 모델을 만드는 경쟁이 아니다.

모델 성능을 끌어올리려면 엄청난 연산능력이 필요하다.

그러려면 GPU와 AI ASIC이 필요하고,

그 안에는 HBM과 DRAM이 필요하고,

수많은 서버와 네트워크 장비가 필요하고,

그걸 넣을 데이터센터가 필요하다.

그리고 결국 엄청난 전력이 필요하다.

AI → GPU·ASIC → HBM·DRAM → 서버 → 데이터센터 → 전력

AI 성능 경쟁이 사실상 거대한 인프라 투자 경쟁으로 변해버린 것이다.

문제는 여기에 들어가는 돈이다.

AI 기업들은 이제 모델 하나를 잘 만드는 것만으로 경쟁할 수 없다.

그 모델을 학습시키고 서비스하기 위한 물리적인 인프라까지 계속 확보해야 한다.

그리고 경쟁자가 투자를 늘리면 나도 늘려야 한다.

---

누구도 먼저 투자 속도를 늦출 수 없다

여기서 지금 AI 산업의 재미있는 구조가 만들어진다.

OpenAI가 “우리는 충분히 투자했으니 이제 조금 천천히 가겠습니다.”

라고 할 수 있을까? 쉽지 않다.

구글이 계속 투자하면 따라가야 한다.

앤트로픽이 더 좋은 모델을 만들면 다시 투자해야 한다.

xAI가 컴퓨팅 인프라를 늘리면 그것 역시 신경 쓰일 수밖에 없다.

결국 모두가 경쟁자의 투자를 보면서 자신의 투자를 결정하는 구조다.

누구도 먼저 브레이크를 밟기 어려운 게임이 되어버렸다.

그래서 파호츠키의 글을 보면서 조금 다른 생각도 들었다.

---

혹시 투자 경쟁에 대한 우려도 담겨 있는 건 아닐까?

여기서부터는 어디까지나 내 해석이다.

파호츠키가 “반도체가 너무 비싸다.” “전력 확보가 힘들다.” “AI 투자금이 너무 커졌다.”

라고 말한 것은 아니다.

그가 직접적으로 이야기한 것은 AI 안전과 통제의 문제다.

그건 분명히 구분해서 봐야 한다.

그런데 지금 AI 산업이 처한 상황까지 함께 놓고 보면 묘하게 겹치는 부분이 있다.

AI 발전 속도를 유지하려면

더 많은 반도체가 필요하다.

더 많은 데이터센터가 필요하다.

더 많은 전력이 필요하다.

그리고 그 모든 것을 확보하기 위해 인류가 과거에 경험하지 못했던 규모의 자본이 계속 들어가야 한다.

그런데 어느 기업도 먼저 속도를 늦추기는 어렵다.

“AI 발전이 너무 빨라 위험하다.”

라는 말 뒤에 어쩌면 또 하나의 걱정이 숨어 있는 건 아닐까 하는 생각이 든다.

“우리가 만들어 놓은 이 투자 경쟁의 속도, 정말 계속 감당할 수 있을까?”

---

AI의 위험과 AI 투자의 위험은 결국 연결된다

흥미로운 건 이 두 문제가 완전히 별개의 이야기도 아니라는 점이다.

AI 성능 경쟁이 빨라질수록 더 많은 컴퓨팅 파워가 필요하다.

더 많은 컴퓨팅 파워를 확보할수록 다시 더 강력한 AI를 만들 수 있다.

그리고 경쟁자가 더 강력한 AI를 만들면 다른 기업들도 다시 투자를 늘린다.

AI 발전 → 컴퓨팅 투자 → 더 강력한 AI → 다시 투자 확대 이 순환이 점점 빨라지고 있다.

그래서 파호츠키가 이야기하는 AI 발전 속도의 문제는 결국 우리가 투자시장에서 보고 있는 AI CAPEX 경쟁의 속도와도 완전히 떼어놓고 보기 어렵다.

---

투자자에게는 그래서 더 중요한 이야기다

삼성전자와 SK하이닉스 같은 기업을 보는 입장에서는 이 부분이 꽤 중요하다.

지금까지 시장의 관심은 주로 “AI 수요가 얼마나 커질까?”에 있었다.

그런데 앞으로는 다른 질문도 해야 한다.

“이 정도의 투자 속도를 빅테크가 얼마나 오래 유지할 수 있을까?” 

현재처럼 AI 기업들이 서로 경쟁하며 CAPEX를 늘리는 동안에는 GPU, HBM, DRAM, 네트워크, 데이터센터, 전력 인프라에 계속 돈이 흘러들어간다.

반대로 어느 순간 업계에서 “이제는 속도를 조금 조절해야 하지 않을까?”

라는 공감대가 실제 투자 결정으로 이어진다면 이야기는 달라진다.

AI 인프라 투자 증가율은 둔화될 수 있다.

반도체 투자자에게는 AI 기술 자체의 발전만큼이나 중요한 변수다.

---

그래서 이번 OpenAI 최고과학자의 글을 단순한

“AI가 무서우니 천천히 개발하자.”

라는 이야기로만 보고 싶지는 않다.

물론 공식적으로 가장 중요한 문제는 AI 안전이다.

하지만 동시에 지금 AI 산업이 감당하고 있는

반도체, 데이터센터, 전력, 그리고 천문학적인 투자금.

이 모든 것이 너무 빠른 속도로 커지고 있다는 현실도 있다.

어쩌면 AI 안전에 대한 걱정과 AI 투자 경쟁에 대한 부담은 전혀 다른 이야기가 아닐지도 모른다.

그리고 나는 올트먼까지 이 글을 굳이 “중요한 글”이라고 강조한 대목이 그래서 더 눈에 들어온다.

AI를 가장 빠르게 발전시키고 있는 사람들 스스로도 이제는

“우리가 너무 빨리 가고 있는 건 아닐까?”

라는 생각을 하기 시작한 건 아닐까.

물론 구글과 앤트로픽이 계속 달린다면 OpenAI도 쉽게 멈출 수는 없겠지만 말이다.

그러니까 결국...

얘들아, 천천히 좀 가자.