\
대체 클라우드에 대한 열망은 이전보다 크지 않았습니다.
\예를 들어, 암호화폐 채굴 운영으로 시작한 GPU 인프라 공급업체 CoreWeave는 Coatue, Fidelity 및 Altimeter Capital을 포함한 투자자로부터 11억 달러의 새 자금을 이번 주에 조달했습니다. 신규 자금 조달로 시작업의 시장 가치가 190억 달러로 추정되며, 이번 자금은 CoreWeave의 총 조달금을 50억 달러로 만들었으며, 미만 10년 된 회사에 대한 이 같은 수치는 대단한 것입니다.
\이 모든 것이 CoreWeave에만 해당하는 것은 아닙니다.
\여러 클라우드 호스팅 GPU 인스턴스를 제공하는 Lambda Labs도 지난 4월 초 3억 200만 달러의 C 라운드를 마친 몇 달 후 최대 5억 달러의 '특별 목적 자금 구조체'를 확보했습니다. 암호화폐 억만장자 Jed McCaleb이 후원한 비영리 단체 Voltage Park는 지난 10월 GPU를 백업하는 데이터 센터에 5억 달러를 투자한다고 발표했습니다. 그리고 3월에는 Salesforce가 주도하는 라운드에서 클라우드 GPU 호스트인 Together AI가 1억 60만 달러를 조달했습니다.
\그렇다면 대체 클라우드 공간에 대한 열정과 현금이 빚어 들어가는 이유는 무엇일까요?
\3단어로 말하면, 생성적 인공지능입니다.
\생성적 AI 붐이 계속되는 한 대규모 생성적 AI 모델을 실행하고 훈련시키기 위한 하드웨어 수요도 증가합니다. GPU는 수천 개의 코어를 포함하고 있어 생성 모델을 이루는 선형 대수 방정식을 병렬로 수행할 수 있는 논리적 선택지입니다.
\그러나 GPU를 설치하는 것은 비용이 많이 듭니다. 그래서 대부분의 개발자와 기관은 클라우드를 도입하는 대신 클라우드에서 선택합니다.
\클라우드 컴퓨팅 공간의 기존 업체인 Amazon Web Services (AWS), Google Cloud 및 Microsoft Azure는 모두 생성적 AI 워크로드에 최적화된 GPU 및 특수 하드웨어 인스턴스를 제공합니다. 그러나 적어도 일부 모델과 프로젝트의 경우, 대체 클라우드가 더 저렴하고 더 나은 가용성을 제공할 수 있습니다.
\CoreWeave에서 Nvidia A100 40GB를 빌리면 모델 훈련 및 추론에 인기 있는 선택지인 경우 시간당 2.39달러이며, 월 1,200달러입니다. Azure에서는 동일한 GPU가 시간당 3.40달러 또는 월 2,482달러이고 Google Cloud에서는 시간당 3.67달러 또는 월 2,682달러입니다.
\생성적 AI 워크로드는 일반적으로 GPU 클러스터에서 수행되므로 비용 격차가 빨리 커집니다.
\가트너의 클라우드 서비스 및 기술 수석 부사장인 Sid Nag는 “CoreWeave와 같은 기업은 우리가 ‘특수 ‘GPU as a service’ 클라우드 제공업체’라고 부르는 시장에 참여합니다. 높은 GPU 수요로 인해 Nvidia GPU를 채택한 대안 마켓 및 해당 GPU에 대한 또 다른 경로를 제공합니다”라고 TechCrunch에 말했습니다.
\Nag는 일부 대형 기술 기업도 컴퓨팅 능력의 한계에 부딪히면서 대안 클라우드 제공업체에 의존하기 시작했다고 지적합니다.
\CNBC는 지난 6월에 마이크로소프트가 포트폴리오 기능을 향상시키기 위해 CoreWeave와 몇 십억 달러 규모의 계약을 체결했다고 보도했으며, Microsoft의 밀접한 파트너 인 ChatGPT를 만드는 OpenAI는 그의 생성적 AI 모델을 훈련하기 위한 적당한 컴퓨팅 파워를 확보했습니다. 대부분의 CoreWeave 칩을 제공하는 Nvidia는 이를 유망한 추세로 보고 있으며, 일부 대체 클라우드 공급 업체에게 GPU에 대한 우선적 액세스를 부여했다고 합니다.
\Forrester의 주요 분석가인 Lee Sustar는 대체 공급 업체가 현존 공급 업체가 다뤄야 하는 인프라 ‘짐’을 처리할 필요가 없기 때문에 클라우드 공급업체인 CoreWeave와 같은 기업이 성공을 거둘 수 있습니다.
\“대형 공급업체가 전체 공공 클라우드 시장을 지배해 인프라와 수익을 창출하지 않는 서비스 범위에 거대한 투자를 필요로 하는 것을 고려할 때 CoreWeave와 같은 도전 업체는 고품질 AI 서비스에 초점을 맞추면서 전체 대형 공급업체 수준의 투자 부담 없이 성공할 기회가 있습니다.”
\그러나 이 성장이 지속 가능한가요?
\Sustar는 의심을 품고 있습니다. 그는 대체 클라우드 공급 업체의 확장이 (1) 고객이 고가의 가격으로 고레중고의 GPU를 지속적으로 온라인에 제공할 수 있는지, (2) 경쟁력 있는 저렴한 가격으로 제공할 수 있는지에 따라 결정된다고 믿습니다.
\경쟁력 있는 가격으로 경쟁하는 것은 Google, 마이크로소프트 및 AWS와 같은 현존공급 업체가 모델을 실행하고 훈련하기 위한 맞춤형 하드웨어 투자를 확대함에 따라 미래에 어려워질 수 있습니다. Google는 TPU를 제공하고 Microsoft는 최근 Azure Maia 및 Azure Cobalt를 공개했으며, AWS는 Trainium, Inferentia 및 Graviton을 보유하고 있습니다.
\“대형 미세구리는 자사의 맞춤형 실리콘을 활용해 Nvidia에 대한 의존성을 완화하려고 할 것이며, Nvidia는 CoreWeave 및 기타 GPU 중심 AI 클라우드를 찾는 것으로 보일 것입니다.” Sustar는 말했습니다.
\또한 생성적 AI 워크로드 중 일부는 GPU에서 가장 잘 실행되지만, 모두가 필요하지는 않습니다. 특히 시간이 중요하지 않은 경우 CPU는 필요한 계산을 수행할 수 있지만 일반적으로 GPU와 맞춤형 하드웨어보다 느립니다.
\대체 클라우드 공급업체의 존재 요인 중 하나인 영생적 인공지능 버블이 붕괴할 위태로울 때, 고객이 필요로 하는 것보다 더 많은 GPU를 두고 있게 될 위험이 있습니다. 하지만 Sustar와 Nag는 미래에는 새로운 클라우드들이 지속적으로 유입될 것으로 예상하고 있습니다. ‘대체’ 이들 화상에 여유가 있는 클라우드 고객이 이미 멀티 클라우드를 사용하며 여러 클라우드 간의 관리, 보안, 위험 및 규정 준수 복잡성을 처리할 수 있는 경우, Sustar는 말합니다. “재빠른 리더십, 견고한 재정적 지원 및 기다림이 없는 GPU 등이 제공되면 이러한 종류의 클라우드 고객은 새로운 AI 클라우드를 시험해 보는 데 편안해합니다.”
