구글 클라우드 차세대 LLM인 Gemini를 소개합니다

정보의 규모와 복잡성이 커지면서 문제를 해결하기 더 어려워지고 있는 상황에서, 대규모 언어모델(LLM) 시대가 도래하고 있습니다. 이에 구글은 지난 달 차세대 LLM인 Gemini(제미나이)를 공개하였습니다. 구글은 기존 최신 LLM ‘팜2′(PaLM)를 넘어선 가장 포괄적이고 뛰어난 인공지능(AI) 모델 제미나이의 성능을 공개하고 자사 서비스에 적용할 계획임을 밝혔습니다.

Gemini는 모두에게 더 유용한 AI 모델을 구축하는 여정에서 한 차원 업그레이드된 다음 단계의 시작을 의미합니다. 다른 AI 모델들과 달리, Gemini는 텍스트, 이미지, 오디오, 동영상, 코드 등을 비롯한 여러 가지 유형의 정보를 인식하고, 이해하고, 결합하도록 훈련을 받았습니다. 이는 인간이 다양한 유형의 정보를 동시에 보고, 듣고, 읽고, 말하는 것과 같은 방식입니다.

Gemini는 성능과 크기에 따라 제미나이 Ultra, Pro, Nano 3개 모델로 구분됩니다. Gemini Ultra는 매우 복잡한 작업을 위한 가장 크고 성능이 뛰어난 모델이며, Gemini Pro는 광범위한 작업에 걸쳐 확장이 가능한 최고의 모델이고, Gemini Nano는 온디바이스(on-device) 작업에 가장 효율적인 모델입니다. Gemini의 최첨단 기술력은 개발자와 기업 고객이 AI를 구축하고 확장하는 방식을 크게 향상시킬 것입니다.

Gemini를 통한 Vertex AI 플랫폼 대폭 강화

Vertex AI에서 Gemini Pro를 프리뷰 버전으로 이용하실 수 있습니다. Gemini Pro를 활용해 개발자는 텍스트, 언어, 코드, 이미지, 영상 전반에 걸쳐 정보를 처리할 수 있는 새롭고 차별화된 생성형 AI 애플리케이션을 구축할 수 있습니다. Vertex AI는 생성형 AI 애플리케이션을 프로덕션 환경에 배포, 관리하고, 응답의 품질과 신뢰성을 자동으로 평가, 모니터링할 수 있는 기능을 제공합니다.

Vertex AI는 Gemini API를 기반으로 구축된 애플리케이션을 활용, 커스터마이즈, 증강, 관리, 배포하기 위한 기능을 제공하여 Gemini를 전방위적으로 활용할 수 있습니다.

개발자는 Vertex AI를 통해 다음과 같은 작업을 수행할 수 있습니다.

Gemini를 포함해 Google이 엄선한 130개 이상의 엄선된 AI 모델 리스트에서 원하는 모델을 찾아 사용할 수 있습니다. 해당 리스트는 Google의 엄격한 기업 안전성과 품질 기준을 충족하는 Google 자체 모델과 오픈소스 및 서드파티 AI 모델 등을 포함합니다. 개발자는 손쉬운 API 액세스 만으로 모델을 애플리케이션에 빠르게 통합할 수 있습니다.
튜닝 도구를 사용해 학습 지식을 보강하고 필요에 따라 모델 가중치를 조정해, 특정 도메인 지식 또는 기업이 보유한 전문 지식으로 모델을 커스터마이즈할 수 있습니다. Vertex AI는 프롬프트 디자인, LoRA(Low Rank Adaptation)와 같은 어댑터 튜닝, 증류(Distillation) 등을 포함한 다양한 튜닝 기법을 제공합니다. 또한 Vertex AI는 RLHF(인간 피드백 기반 강화 학습, Reinforcement Learning from Human Feedback) 방식을 통해 유저 피드백을 수집해 모델을 개선할 수 있도록 지원합니다.
특정 컨텍스트나 유즈 케이스(use case)에 맞게 Gemini를 조정할 수 있는 도구를 활용해 모델을 증강(augment)할 수 있습니다. 개발자는 Vertex AI 확장 프로그램(Vertex AI Extensions) 및 커넥터로 Gemini를 외부 API와 연결해 트랜잭션과 기타 작업을 수행하고, 외부 소스에서 데이터를 검색하며, 코드베이스에서 함수를 불러올 수 있습니다. 또한 Vertex AI는 기업이 자체 데이터 소스를 기반으로 파운데이션 모델(foundation model)의 답변을 생성할 수 있는 기능을 제공해, 모델 답변의 정확성과 적합성을 개선할 수 있도록 돕습니다. Vertex AI는 기업이 보유한 정형 및 비정형 데이터에 대한 그라운딩(grounding)과 구글 검색 기술을 이용한 그라운딩을 지원합니다.
구축한 애플리케이션을 쉽게 배포하고 관리할 수 있도록 지원하는 도구를 활용해 프로덕션 환경에서 모델을 관리하고 확장할 수 있습니다. 이를 위해 Google은 모델을 검증하고 비교하는 새로운 모델 평가 방식으로, 온디맨드(on-demand) 자동화 도구인 ‘오토매틱 사이드 바이 사이드(Automatic Side by Side, Auto SxS)’를 도입합니다. 오토매틱 사이드 바이 사이드는 수동 모델 평가 방식보다 더 빠르고 비용 효율적일 뿐만 아니라, 다양한 작업 유형에 맞춰 평가 과정을 커스터마이즈 해 새로운 생성형 AI 유즈 케이스에도 대응할 수 있습니다.
로우 코드(Low code) 및 노 코드(No code) 환경에서 검색 및 대화형 에이전트를 구축할 수 있습니다. Vertex AI를 사용하면 개발자는 머신러닝 기술 수준에 관계없이 Gemini Pro를 통해 몇 주, 몇 달이 아니라 단 몇 시간, 며칠 만에 뛰어난 프로덕션 수준의 AI 에이전트를 구축할 수 있습니다. 곧 Gemini Pro는 Vertex AI의 검색 결과 요약 및 답변 생성 기능을 강화하는 옵션으로 제공되며, 검색 애플리케이션의 품질, 정확성 및 그라운딩 기능을 향상시킬 예정입니다. 또한 음성 및 챗을 위한 대화형 에이전트의 파운데이션 모델로도 Gemini의 프리뷰 기능이 제공되어, 고급 추론을 기반으로 유저와의 동적인 상호작용을 제공할 예정입니다.
안전성 필터, 콘텐츠 조정(contents moderation) API 등 Vertex AI의 책임감 있는 AI 도구는 모델이 부적절한 콘텐츠를 생성하지 않도록하여, 개발자는 책임감 있는 혁신을 구현할 수 있습니다.
Google Cloud에 내장된 데이터 거버넌스와 데이터 프라이버시 제어 기능으로 데이터를 보호할 수 있습니다. 고객 데이터에 대한 제어 권한은 전적으로 고객에게 있으며, Google은 절대 고객의 동의 없이 고객 데이터를 자사 모델 학습에 활용하지 않습니다. Vertex AI는 고객 관리 암호화 키(Customer Managed Encryption Keys), VPC 서비스 제어(VPC Service Controls) 등 고객이 자사 데이터를 오롯이 제어할 수 있도록 다양한 메커니즘을 제공합니다.