티스토리 뷰
목차
AI 산업을 이야기하면 대부분 엔비디아 GPU나 SK하이닉스의 HBM 같은 반도체부터 떠올립니다. 하지만 최근 시장을 지켜보면서 저는 생각이 조금 달라졌습니다. 이제 AI 산업의 가장 큰 병목은 반도체 하나가 아니라 데이터센터 자체가 되어가고 있습니다. xAI를 비롯해 구글, 메타, 마이크로소프트 등 글로벌 빅테크들이 천문학적인 자금을 투자하는 이유도 결국은 여기에 있습니다. 처음에는 과도한 투자처럼 보였지만, 최근 여러 사례를 살펴보면서 AI 시대에는 데이터를 처리할 공간과 전력, 그리고 운영 경험이 가장 중요한 경쟁력이 될 수 있다는 생각이 들었습니다.

AI 시대의 병목, 데이터센터
AI 산업 초창기에는 모두가 GPU 확보 경쟁에 집중했습니다. 엔비디아의 GPU가 부족하고 HBM이 부족하다는 뉴스가 연일 쏟아졌기 때문입니다. 그런데 시간이 흐르면서 또 다른 문제가 나타나기 시작했습니다. GPU를 확보해도 이를 설치하고 운영할 데이터센터가 부족해진 것입니다. 데이터센터는 단순히 건물 하나를 짓는다고 해결되지 않습니다. 대규모 전력 공급 시설과 변압기, 냉각 설비, 광통신망, 각종 인허가, 건설 인력까지 수많은 요소가 동시에 준비되어야 합니다. 그래서 최근에는 GPU보다 데이터센터를 확보하는 것이 더 어렵다는 이야기가 나올 정도입니다. xAI가 구축한 초대형 데이터센터를 다른 AI 기업들에게 임대했다는 소식도 이런 흐름을 잘 보여줍니다. 결국 데이터센터는 비용만 발생하는 자산이 아니라 새로운 수익을 창출하는 인프라가 될 수 있다는 점을 시장이 확인한 것입니다. 저는 예전에는 반도체 기업만 관심 있게 봤지만, 최근에는 데이터센터를 운영하거나 관련 장비를 공급하는 기업들도 함께 살펴보고 있습니다. AI 산업이 커질수록 결국 가장 많은 수익을 얻는 곳은 AI를 가장 잘 만드는 기업보다 AI를 가장 안정적으로 운영할 수 있는 기업일 수도 있다는 생각이 점점 강해지고 있습니다.
빅테크 기업, CAPEX
최근 구글과 메타, 마이크로소프트가 역사상 최대 규모의 자본적 지출(CAPEX)을 발표하면서 시장에서는 우려의 목소리도 적지 않았습니다. 그동안 이들 기업은 소프트웨어 중심 기업이었습니다. 뛰어난 개발자와 플랫폼만 있으면 높은 수익률을 유지할 수 있었고, 실제로 검색 광고나 클라우드 사업은 매우 높은 영업이익률을 기록해 왔습니다. 하지만 AI 시대는 기존과 완전히 다른 산업 구조를 요구하고 있습니다. 이제는 공장처럼 거대한 데이터센터를 짓고 수십만 개의 GPU를 운영해야 하며, 전력과 냉각 설비까지 직접 관리해야 합니다. 저는 이 모습을 보면서 워런 버핏이 시즈 캔디에서 벌어들인 현금으로 철도회사 BNSF를 인수했던 사례가 떠올랐습니다. 당시에도 많은 사람들이 왜 수익성이 좋은 사업에서 번 돈을 철도에 투자하느냐고 의문을 가졌지만, 결국 철도는 버핏에게 장기간 안정적인 현금흐름을 만들어 주었습니다. 지금의 빅테크도 비슷한 길을 걷고 있는 것 같습니다. 기존 검색 광고나 소프트웨어에서 얻은 막대한 현금을 새로운 AI 인프라에 투자하는 과정인 것입니다. 단기적으로는 수익성이 낮아질 수도 있지만, 장기적으로는 훨씬 큰 시장을 선점하기 위한 전략이라는 생각이 듭니다. 그래서 최근 빅테크의 CAPEX 증가를 단순히 비용 증가로만 볼 것이 아니라 미래 인프라 확보라는 관점에서도 함께 바라볼 필요가 있다고 생각합니다.
AI 산업의 인프라
AI 산업은 이제 단순히 뛰어난 AI 모델을 개발하는 경쟁을 넘어가고 있습니다. 앞으로는 누가 더 많은 데이터를 처리하고, 더 큰 규모의 데이터센터를 안정적으로 운영하며, 이를 얼마나 효율적으로 연결할 수 있는지가 기업 경쟁력을 결정할 가능성이 큽니다. 특히 xAI가 대규모 데이터센터를 운영하면서 축적한 경험을 새로운 사업으로 연결하고, 테슬라 역시 슈퍼차저 인프라를 활용한 데이터센터 구상을 추진하는 모습을 보면 인프라가 새로운 비즈니스 모델이 될 수 있다는 점도 흥미롭습니다. 여기에 전력, 변압기, 냉각 장치, 광케이블, 건설 산업까지 AI 데이터센터를 중심으로 하나의 거대한 생태계가 만들어지고 있습니다. 결국 AI 산업은 반도체만 성장하는 시장이 아니라 수많은 산업이 함께 성장하는 구조로 변화하고 있는 것입니다. 개인적으로도 예전에는 AI 관련 투자라고 하면 GPU나 반도체 기업만 떠올렸지만, 최근에는 데이터센터 운영 기업과 전력, 냉각, 광통신 등 인프라 분야까지 함께 살펴보게 되었습니다. 물론 앞으로도 시장은 높은 변동성을 보일 수 있습니다. 그러나 산업의 방향 자체는 분명해 보입니다. AI가 더 발전할수록 더 많은 데이터센터가 필요하고, 이를 가장 먼저 확보하고 운영 경험을 축적한 기업이 결국 가장 큰 경쟁력을 갖게 될 가능성이 높습니다. 그래서 지금 AI 산업을 바라볼 때는 기술만이 아니라 그 기술을 뒷받침하는 인프라가 어디까지 확장되고 있는지도 함께 살펴볼 필요가 있다고 생각합니다.