Vertex AI는 무엇이고, 왜 지금 다시 봐야 할까
Vertex AI는 구글 클라우드의 통합 AI 플랫폼입니다. 한 줄로 말하면 "Gemini, Claude, Llama, Imagen 같은 200개 이상의 모델을 하나의 API와 콘솔에서 호출·운영·관리할 수 있는 서비스"입니다. 2026년에는 Gemini Enterprise Agent Platform으로 리브랜딩되면서 에이전트 빌더, 메모리 시스템, 거버넌스 기능까지 통합되었습니다.
이 글은 1인 개발자·스타트업 관점에서 Vertex AI를 직접 써본 활용기입니다. 결론부터 말씀드리면 세 가지 인상이 강합니다. 첫째, Gemini 2.5 Pro의 입력 토큰 단가가 GPT-4o 대비 약 90% 저렴합니다. 둘째, Anthropic Claude까지 같은 콘솔에서 호출할 수 있어 멀티모델 전략을 단일 청구서로 운영할 수 있습니다. 셋째, 처음 셋업이 OpenAI보다 복잡하지만 한 번 익숙해지면 운영이 훨씬 깔끔합니다.
이 글에서는 Vertex AI의 핵심 구성, 실제 가격, 어떤 케이스에 적합하고 어떤 케이스에 비싸지는지, 그리고 OpenAI/Anthropic 직접 호출과 비교해서 솔직하게 정리합니다. 신규 가입 시 $300 무료 크레딧으로 거의 한 달 가까이 테스트가 가능하므로 직접 써보시는 걸 권합니다.
Vertex AI 핵심 구성 5가지 — 무엇이 들어 있나
Vertex AI 안에는 5개의 핵심 서비스가 묶여 있습니다.
| 서비스 | 무엇을 하나 | 대표 사용처 |
|---|---|---|
| Model Garden | 200+ 파운데이션 모델 카탈로그·호출 | Gemini, Claude, Llama, Imagen 멀티모델 통합 |
| Agent Builder | 코드/노코드 AI 에이전트 빌더 | 고객 지원 봇, 사내 어시스턴트 |
| Vector Search | RAG용 벡터 데이터베이스 | 사내 문서 검색, 시맨틱 검색 |
| Pipelines | ML 워크플로우 오케스트레이션 | 학습·평가·배포 파이프라인 |
| Agent Engine | 에이전트 런타임 + 영속 메모리 | 장시간 대화, 멀티턴 워크플로우 |
Model Garden이 가장 큰 차별점입니다. OpenAI API는 OpenAI 모델만, Anthropic API는 Claude만 호출하는 반면, Vertex AI는 한 콘솔에서 Gemini 2.5 Pro / Claude Opus 4.7 / Llama 3.3 / Mistral / Imagen 4 / Veo 3 같은 거의 모든 주요 모델을 호출할 수 있습니다. 모델 비교 테스트와 멀티모델 라우팅이 매우 쉬워집니다.
Agent Builder는 2026년 들어 가장 빨리 성장한 영역입니다. ADK(Agent Development Kit)라는 코드 기반 SDK와 Agent Studio라는 노코드 비주얼 빌더가 함께 제공됩니다. 노코드 빌더는 Anthropic의 Claude Design처럼 자연어로 에이전트를 정의하면, 도구·메모리·라우팅 흐름을 자동으로 구성해 줍니다.
Agent Engine은 자체 서버나 컨테이너 없이 에이전트를 운영할 수 있는 매니지드 런타임입니다. 영속 메모리(persistent memory)가 내장되어 있어 사용자별 대화 이력과 선호를 자동으로 추적하고, 세션 이벤트 1,000건당 $0.25라는 단순한 가격 체계입니다.
실제 가격 — 1인 개발자가 한 달 쓰면 얼마나 나오나
공식 가격 페이지의 핵심 항목을 1M 토큰(약 75만 단어) 기준으로 정리합니다.
| 모델 | 입력 가격 | 출력 가격 | 비고 |
|---|---|---|---|
| Gemini 2.5 Pro | $0.25/1M | $1.00/1M | Vertex AI의 주력 모델 |
| Gemini 2.5 Flash | $0.075/1M | $0.30/1M | 가장 가성비 좋음 |
| Claude Opus 4.7 (via Vertex) | $15/1M | $75/1M | Anthropic 직접 호출과 동일 |
| Claude Sonnet 4.6 (via Vertex) | $3/1M | $15/1M | Anthropic 직접 호출과 동일 |
| Llama 3.3 70B | $0.40/1M | $0.60/1M | 오픈소스 옵션 |
| GPT-4o (참고용) | $2.50/1M | $10/1M | 비교 기준 |
1인 개발자가 일상적인 챗봇이나 자동화에 쓴다고 가정한 시나리오를 계산해 봅니다. 하루 평균 입력 50만 토큰, 출력 10만 토큰을 30일 사용한다고 가정하면 다음과 같습니다.
| 구성 | 월 비용 (입력+출력) |
|---|---|
| Gemini 2.5 Flash 단독 | 약 $1.94 |
| Gemini 2.5 Pro 단독 | 약 $6.75 |
| Claude Sonnet 4.6 (Vertex 경유) | 약 $90 |
| GPT-4o (직접 OpenAI) | 약 $67.5 |
추가로 고려할 항목은 Agent Engine 런타임 비용($0.0864/vCPU-hour, $0.009/GB-hour)과 Vector Search($5/GB/월), Search 쿼리($4/1,000건)입니다. 단순한 LLM 호출만 한다면 거의 무시해도 좋은 수준이지만, 본격적인 RAG 챗봇을 운영하면 Vector Search 비용이 모델 호출 비용을 넘어갈 수 있습니다.
신규 가입 $300 무료 크레딧을 적극 활용하시기 바랍니다. Gemini 2.5 Flash 기준으로는 거의 무한에 가깝게 쓸 수 있고, Pro 모델로도 한 달간 충분한 학습·테스트가 가능합니다. 크레딧 소진 전 Cloud Billing Alerts를 설정해 두는 것이 안전합니다.
실전 셋업 — 첫 호출까지 15분 가이드
Vertex AI는 OpenAI API보다 셋업 단계가 많지만, 한 번 해두면 다음부터는 1분이면 끝납니다. 단계별로 정리합니다.
1단계: GCP 프로젝트와 결제 계정 연결. console.cloud.google.com에서 새 프로젝트를 만들고, 결제 계정을 연결합니다. $300 크레딧은 결제 카드를 등록한 시점부터 시작되므로 사용 직전에 등록하시는 게 좋습니다.
2단계: Vertex AI API 활성화. 콘솔의 "API 및 서비스" → "라이브러리"에서 "Vertex AI API"를 검색해 활성화합니다. Claude나 Llama 같은 외부 모델을 쓰려면 Model Garden에서 각 모델별로 "Enable" 버튼을 한 번 더 눌러야 합니다.
3단계: 서비스 계정과 인증. IAM에서 새 서비스 계정을 만들고 "Vertex AI User" 역할을 부여합니다. JSON 키를 다운로드 받고 환경변수로 등록합니다.
export GOOGLE_APPLICATION_CREDENTIALS="/path/to/key.json"
export PROJECT_ID="my-project-id"
export REGION="asia-northeast3" # 서울 리전4단계: Python SDK로 첫 호출. pip install google-genai로 SDK 설치 후 다음 코드로 첫 호출이 가능합니다.
from google import genai
client = genai.Client(
vertexai=True,
project="my-project-id",
location="asia-northeast3",
)
response = client.models.generate_content(
model="gemini-2.5-pro",
contents="Vertex AI를 한 줄로 설명해줘.",
)
print(response.text)5단계: Claude를 같은 SDK로 호출하기. Vertex AI에서 Anthropic Claude를 호출할 때는 별도의 어댑터가 필요하지만, 모델명만 바꾸면 거의 동일한 패턴으로 사용할 수 있습니다.
from anthropic import AnthropicVertex
client = AnthropicVertex(region="us-east5", project_id="my-project-id")
message = client.messages.create(
model="claude-opus-4-7@20260416",
max_tokens=1024,
messages=[{"role": "user", "content": "안녕"}],
)
print(message.content[0].text)같은 GCP 프로젝트에서 Gemini와 Claude를 동시에 호출할 수 있다는 게 Vertex AI의 가장 큰 매력입니다. OpenAI API 키, Anthropic API 키, Google API 키를 따로 관리하지 않아도 됩니다.
Vertex AI vs OpenAI vs Anthropic 직접 호출 — 어떤 경우에 무엇을 쓰나
세 가지 호출 경로를 비교한 표입니다.
| 기준 | Vertex AI | OpenAI Platform | Anthropic API |
|---|---|---|---|
| 접근 가능 모델 | 200+ (Gemini, Claude, Llama 등) | OpenAI 자체 모델만 | Claude 자체 모델만 |
| 가격 (Gemini Pro급 기준) | $0.25/1M (가장 저렴) | $2.50/1M | $3/1M (Sonnet) |
| 셋업 난이도 | 중 (GCP 익숙해야) | 저 | 저 |
| 지역 데이터 거버넌스 | 강함 (서울 리전 가능) | 약함 (미국 중심) | 중간 |
| 엔터프라이즈 기능 | 매우 강함 | 중간 | 중간 |
| 크레딧 / 무료 체험 | $300 신규 | 제한적 | 제한적 |
Vertex AI가 적합한 경우입니다. 첫째, Gemini 모델을 메인으로 쓰는 경우입니다. 가격이 압도적으로 저렴합니다. 둘째, 여러 모델을 비교·라우팅하는 멀티모델 전략이 필요한 경우입니다. 셋째, 한국 데이터를 한국 리전에서 처리해야 하는 규제 환경입니다. 넷째, GCP의 다른 서비스(BigQuery, Cloud Storage)와 통합 운영하는 경우입니다.
OpenAI나 Anthropic 직접 호출이 더 나은 경우도 있습니다. 첫째, GPT나 Claude만 쓰고 GCP 셋업이 부담스러운 경우입니다. 둘째, Realtime API 같은 OpenAI 고유 기능을 써야 하는 경우입니다. 셋째, 일일 사용량이 적어서 가격 차이가 무의미한 경우입니다.
저의 추천은 다음과 같습니다. 1인 개발자라면 OpenAI API + Anthropic API 직접 호출로 시작하시고, 월 호출량이 100만 토큰을 넘기 시작하는 시점에 Vertex AI 이전을 검토하세요. 멀티모델 라우팅(예: 간단한 작업은 Gemini Flash, 복잡한 추론은 Claude Opus)을 도입하면 비용을 30-60% 절감할 수 있습니다.
자주 묻는 질문 FAQ
Q. Vertex AI에서 호출하면 Anthropic Claude의 성능이 OpenAI Anthropic 직접 호출과 같나요? A. 네, 모델 자체와 성능은 동일합니다. 같은 Anthropic 인프라를 통해 추론되며 Vertex AI는 인증과 청구만 GCP 쪽으로 라우팅하는 구조입니다. 다만 사용 가능한 리전과 일부 신규 기능 지원 시점은 OpenAI 직접 호출보다 1-2주 늦을 수 있습니다.
Q. Gemini API와 Vertex AI의 차이는 뭔가요? A. Gemini API는 개발자용 단순 API이고, Vertex AI는 엔터프라이즈 기능이 추가된 통합 플랫폼입니다. 가격은 거의 비슷하지만 Vertex AI에서만 가능한 기능이 있습니다. 한국 리전 배치, 데이터 거버넌스 옵션, 엔터프라이즈 SLA, IAM 기반 권한 제어, BigQuery·Cloud Storage 통합 등입니다. 1인 개발자는 Gemini API, 기업·팀은 Vertex AI가 일반적인 선택입니다.
Q. 한국에서 Vertex AI를 쓰면 데이터가 미국으로 가나요? A. 모델과 리전 선택에 따라 다릅니다. Gemini는 서울(asia-northeast3) 리전을 명시적으로 지정하면 한국 내에서 처리됩니다. 단, Claude나 Llama 같은 일부 모델은 현재 미국 리전에서만 가능하므로 데이터 잔류 요구가 엄격하다면 Gemini 위주로 사용해야 합니다. Anthropic Claude는 us-east5 또는 europe-west1 리전이 주로 사용됩니다.
이 글이 도움이 되셨다면 공유해 주세요.
