
<aside>
📢 <Table of Contents>
개요
프로젝트 구조
VM 인스턴스 템플릿 정의
인스턴스 그룹 템플릿 정의
인스턴스 그룹 생성
데모
정리
</aside>
개요
이번 포스팅은 구글 클라우드 API를 활용하여 인스턴스 그룹을 생성하는 것을 주제로 다룹니다.
일반적으로 GCP에서는 Vertex AI를 통해 머신러닝 파이프라인을 손쉽게 구축할 수 있습니다. 클라우드 내 자동화 시스템으로 인하여, 우리가 투자해야 할 공수가 획기적으로 줄어었지요!
하지만, 제가 생각했을 때 Vertex AI에는 크게 두 가지의 불편한 점이 존재합니다.
- VM 인스턴스 타입 커스터마이징: Vertex AI는 각 인스턴스에 대한 타입을 지정하는 것이 불가능합니다. SPOT 머신의 경우, 일반적으로 STANDARD 머신 대비 60%~90% 가량 저렴하게 이용할 수 있습니다. 이러한 점은, 리소스가 제한적인 상황에서 큰 단점으로 작용할 수 있습니다.
- 디스크 마운팅: Vertex AI에서는 각 인스턴스에 SSD disk를 마운팅하는 기능을 제공하지 않습니다. 이는 대용량 이미지 및 말뭉치 데이터를 준비하는 과정에 부정적으로 작용할 수 있습니다.
인스턴스 그룹 기능은 이러한 단점을 보완할 수 있는 매우 유용한 녀석입니다! 또한, Vertex AI의 좋은 기능을 같이 담고 있지요.
- Auto-healing
- Auto-scaling
- Load balancing
다만, API를 통해 인스턴스 그룹을 정의하는 방법이 매우 복잡하다는 것이 단점인 것 같습니다. 관련 강의와 공식 레퍼런스를 참고하여, 해당 과정을 익히는 데 상당한 리소스가 들더라구요ㅜ
그나마 앞으로 할 내용을 간단하게 설명드리자면, 다음과 같습니다.
- step 1) VM 인스턴스의 템플릿을 정의합니다. 템플릿 내에는 VM 인스턴스 생성에 필요한 리소스를 기재합니다.
- step 2) VM 인스턴스 그룹 템플릿을 정의합니다. 이 곳에는, VM 인스턴스 템플릿을 이용하여, 인스턴스 그룹을 생성하는 방법을 정의합니다.