최근 빅테크 기업들의 실적 발표를 지켜보며 한 가지 변곡점을 체감했습니다. 이제 시장은 단순한 기술적 진보만으로는 기업 가치를 평가하지 않는 흐름으로 이동하고 있습니다. 투입된 자본 대비 얼마나 효율적으로 회수하고 있는지, 즉 ROI가 핵심 판단 기준이 되고 있습니다.
알파벳과 메타의 엇갈린 주가 흐름 역시 이 ‘회수 가시성’에서 갈렸다고 봅니다. 알파벳은 AI가 클라우드 매출을 견인하고 있음을 비교적 명확히 보여준 반면, 메타는 AI 투자를 위한 CapEx 가이던스를 크게 상향하면서 시장의 ROI 우려를 자극했습니다. 현재 AI 산업이 직면한 가장 큰 과제는 과거 SaaS와는 구조적으로 다른 ‘성장의 비용 구조’입니다.
먼저 SaaS와는 다른 AI의 경제학을 볼 필요가 있습니다.
전통적인 SaaS는 초기 인프라 구축 이후 서비스 확장 시 한계 비용이 제로에 가까워지는 구조였습니다. 그러나 AI는 다릅니다. 사용량이 증가할수록 토큰 비용이 발생하고, 이를 지탱하기 위한 막대한 인프라가 지속적으로 필요합니다.
최근 OpenAI CFO가 언급한 인프라 투자에 따른 현금 소모(Burn Rate)와, Microsoft 등 인프라 파트너와의 구조적인 비용 정산 방식은 이러한 부담을 단적으로 보여줍니다. 또한 Anthropic이 다양한 클라우드 사업자와 협력 범위를 넓히는 움직임 역시 이 비용 구조에서 자유롭지 않다는 점을 시사합니다.
이러한 맥락에서 하이브리드 AI는 하나의 현실적인 대안이 될 수 있습니다. 특히 Gemma 4와 같은 온디바이스 모델은 단순한 기술 트렌드를 넘어, 비용 구조를 바꿀 수 있는 전략적 수단으로 보입니다.
온디바이스와 클라우드를 병행하는 구조는 몇 가지 변화를 만들어냅니다.
첫째는 비용의 재분배입니다.
기업은 일부 컴퓨팅 부담을 사용자 디바이스로 분산시켜 인프라 비용을 완화할 수 있습니다.
둘째는 개인화와 보안입니다.
사용자는 민감한 데이터를 로컬에서 처리하면서 프라이버시를 강화할 수 있고, 동시에 토큰 비용도 절감할 수 있습니다.
저 역시 AI 활용 시 Claude와 로컬 기반 모델을 병행하며 하이브리드 구조의 가능성을 체감하고 있고 여러 가지 실험을 해 볼수 있는 부분들이 많아 재미까지 느끼고 있습니다.
결국 기업이 고민해야 할 지점은 파운데이션 모델과 온디바이스 환경을 어떻게 하나의 경험으로 통합하고, 이를 통해 강력한 락인(lock-in)을 만들 것인가입니다. 예를 들어 Google이 클라우드와 로컬 기반 모델을 유기적으로 연결하려는 시도처럼, 앞으로 AI 경쟁의 핵심은 이 연결을 얼마나 자연스럽게 설계하느냐 그리고 각 기업의 전략에 맞게 어떻게 진화 발전 시키는가에 달려 있을 가능성이 큽니다.
앞으로 AI 산업계가 발전하면서 단순히 클라우드 AI를 사용하는 단계를 넘어, 기업 내부의 인프라 효율성을 극대화하려는 시도는 더욱 다양해질 것으로 보입니다.
여기까지는 개인적인 관찰과 해석입니다. 같은 주제에 대해 다른 관점을 가지고 계신 분들의 의견도 궁금합니다.
#AI전략 #비즈니스인사이트 #온디바이스AI #ROI #기술전략