AI와 고객의 서버 사이를 잇는 클라우드파트
Cultures
클라우드파트는 제논 클라우드사업그룹에 속한 조직입니다. 하는 일을 한 문장으로 줄이면, 제논이 만든 AI를 고객 회사의 서버 환경에서 실제로 돌아가게 만드는 일입니다. AI를 잘 만드는 것과, 그 AI가 고객의 사내 시스템 위에서 매일 안정적으로 돌아가게 만드는 것은 서로 다른 일입니다. 클라우드파트가 맡는 쪽은 뒤쪽입니다. 동시에 고객 현장에서 쌓은 경험을 자체 제품으로도 만들고 있습니다. AI와 클라우드가 만나는 자리에서 어떤 일이 벌어지는지, 클라우드 파트를 이끄는 이사님께 자세히 들어볼까요?
제논의 AI 플랫폼을 고객의 클라우드 환경에 맞게 설계하고, 안정적으로 설치하고 운영할 수 있게 만드는 조직입니다.
고객마다 쓰는 클라우드가 다르기 때문에 크게 세 갈래를 다룹니다. 구글 클라우드처럼 외부 사업자의 인프라를 빌려 쓰는 퍼블릭 클라우드, 금융 규제와 보안 요건을 충족하도록 따로 갖춰진 금융 클라우드, 그리고 데이터를 외부에 둘 수 없는 고객이 자기 시설에 직접 구축해 쓰는 프라이빗 클라우드입니다.
구축이라고 하면 서버를 준비하는 일 정도로 들리지만, 실제로 정해야 하는 것은 훨씬 많습니다. AI 플랫폼과 에이전트, GPU를 쓰는 작업이 어떤 인프라 위에서 돌아갈지, 데이터를 담는 데이터베이스와 저장 공간을 어떻게 구성할지, 고객 내부 시스템과 외부 데이터를 어떻게 연결할지, 바깥과 드나드는 통로와 상태를 지켜보는 감시 체계, 보안을 어떻게 둘지까지 결정합니다. 고객이 이미 쓰고 있는 IT 환경과 내부 정책 위에 전체 구조를 그리는 일이라고 보시면 됩니다.
그리고 이 일을 현장에서 반복하며 얻은 경험을 자체 제품으로도 만들고 있습니다. 오픈스택(서버와 저장 장치, 네트워크를 묶어 클라우드로 만들어 주는 오픈소스 소프트웨어)과 쿠버네티스(여러 서버에 프로그램을 나눠 띄우고 자동으로 관리해 주는 도구)를 기반으로 한 클라우드 관리 플랫폼, 데이터센터 제어와 자동화, GPU 인프라 관리, 클라우드 보안이 그 결과물입니다.
정리하면 제논의 AI와 고객의 클라우드 사이를 연결하는 조직이면서, 그 과정에서 쌓인 기술을 다시 제품으로 발전시키는 조직입니다.
고객마다 기존 시스템과 네트워크, 보안 정책, 데이터 환경, 운영 방식이 다릅니다. 그래서 표준 구성 하나를 그대로 적용하기 어렵고 매번 그 고객에 맞춰 설계합니다. 다만 서로 다른 현장을 반복해서 다루다 보면 매번 같은 방식으로 손이 가는 부분이 보입니다. 그 부분을 제품으로 만드는 것이 저희의 다른 축입니다.
지금 만들고 있는 것은 오픈스택과 쿠버네티스를 기반으로 한 클라우드 관리 플랫폼(CMP), 데이터센터 제어와 자동화, GPU를 쓰는 작업에 맞춘 인프라 관리와 최적화, 그리고 클라우드 보안입니다.
여기에 하나가 더 붙습니다. 금융 클라우드에서 일반 소비자를 상대하는 AI 에이전트 서비스를 안전하게 제공하려면 기존 클라우드 보안만으로는 부족합니다. 모델에 들어가고 나오는 내용을 검사하는 가드레일, 에이전트가 어디까지 접근할 수 있는지 정하는 권한 통제, 개인정보와 금융정보 보호, 누가 무엇을 했는지 남기는 감사 기록까지 함께 개발하고 있습니다.
20여 년간 AI와 클라우드, 데이터 분야에서 기술과 사업을 연결하는 일을 해왔습니다. AI 솔루션에서 시작해 빅데이터 플랫폼, 클라우드로 제공하는 소프트웨어(SaaS), 금융 데이터를 외부와 연결해 주는 플랫폼(Open Finance PaaS), 퍼블릭 클라우드, 생성형 AI와 문서를 찾아 근거로 답하게 하는 방식(RAG)까지, 기술이 바뀔 때마다 새 사업을 만들어 기업 고객에게 적용하는 일을 했습니다.
제논에 합류한 가장 큰 이유는, AI가 하나의 솔루션을 넘어 실제 업무와 고객 서비스를 직접 수행하는 단계로 빠르게 넘어가고 있다고 봤기 때문입니다. 그렇게 되면 좋은 AI를 만드는 것만으로는 부족합니다. 그 AI를 고객의 실제 환경에 배포하고 운영하는 클라우드와 GPU, 데이터, 보안 역량이 같이 중요해집니다.
제논의 AI 기술과 제가 해온 클라우드, 사업 경험을 붙여 기업용 AI 클라우드라는 새로운 시장을 만들어보고 싶어 합류했습니다.
기업이 AI를 본격적으로 쓰기 시작하면 관리해야 할 것이 빠르게 늘어납니다. 가상 서버뿐 아니라 쿠버네티스 클러스터와 GPU, 네트워크, 저장 공간이 함께 늘어나고, 데이터센터가 여러 곳으로 나뉘거나 퍼블릭 클라우드와 프라이빗 클라우드를 같이 쓰기 시작하면 관리가 훨씬 복잡해집니다.
저희가 개발하는 클라우드 관리 플랫폼은 이 자원들을 한 곳에서 관리하게 만드는 제품입니다. 새 자원을 만들어 배정하고, 상태를 지켜보고, 정책을 걸고, 반복되는 작업을 자동화하는 네 가지가 축입니다. 여기에 자체 데이터센터의 물리 장비까지 제어하고, GPU를 누구에게 얼마나 할당했고 얼마나 썼고 비용이 어떻게 되는지, 승인과 보안 정책은 어떻게 적용할지까지 관리하는 방향으로 발전시키고 있습니다.
관리 화면 하나를 만드는 일과는 다릅니다. 오픈스택과 쿠버네티스가 제공하는 기능을 프로그램끼리 명령을 주고받는 통로(API)와 자동화로 엮어서, 클라우드와 AI 인프라를 실제로 움직이는 명령 계층을 만드는 일에 가깝습니다.
이 기술이 쌓이면 제논의 AI 플랫폼을 여러 고객 환경에 더 빠르고 일관되게 구축할 수 있게 됩니다. 그것도 중요한 목표입니다.
GPU는 일반적인 서버 자원보다 비싸고 구하기 어렵습니다. 그래서 성능과 안정성, 자원 활용률, 비용을 동시에 맞춰야 한다는 점이 가장 큰 차이라고 생각합니다.
AI 모델과 작업 성격에 따라 필요한 GPU와 메모리, 네트워크, 저장 장치의 조건이 달라집니다. 규모가 큰 학습이나 추론에서는 GPU끼리 데이터를 주고받는 속도와 저장 장치 성능이 전체 성능을 직접 좌우합니다. 필요하면 네트워크 처리 속도를 끌어올리는 기술(SR-IOV, DPDK)을 적용하거나, 가상 서버를 돌리는 소프트웨어와 운영체제 수준까지 성능을 조정합니다.
고객 환경이 제각각인 것도 변수입니다. 퍼블릭 클라우드가 제공하는 관리형 쿠버네티스와 GPU 서비스를 쓰는 경우가 있고, 금융 클라우드나 직접 구축한 오픈스택과 쿠버네티스 환경도 있습니다. 인프라 특성이 서로 달라서 같은 구성을 그대로 옮길 수 없습니다.
결국 중요한 것은 GPU 서버 자체가 아니라, 제논의 AI가 각 고객 환경에서 안정적이고 효율적으로 돌아가도록 연산과 GPU, 네트워크, 저장 장치, 쿠버네티스 전체를 함께 맞추는 일입니다
저희가 특히 중요하게 보고 있는 영역입니다. AI가 실제 업무에 들어오면서 클라우드 보안과 AI 보안을 따로 떼어 볼 수 없게 됐습니다.
금융 클라우드에서 AI 에이전트가 실제 고객과 대화하며 개인정보와 금융정보를 다루고, 여러 시스템과 도구를 직접 호출하기 시작하면 기존 인프라 보안만으로는 충분하지 않습니다.
계정과 네트워크, 서버, 데이터 보안은 기본입니다. 여기에 개인정보와 금융정보 보호, 입력에 지시문을 심어 AI를 원래 규칙에서 벗어나게 만드는 공격(프롬프트 인젝션) 대응, 에이전트가 어떤 도구와 시스템까지 접근할 수 있는지에 대한 권한 통제, 민감정보 유출 방지, 입력과 출력을 검사하는 가드레일, 누가 무엇을 했는지 남기고 되짚을 수 있게 하는 감사 기록까지 함께 고려해야 합니다.
제논은 이런 요구를 반영해 금융 클라우드와 소비자용 AI 에이전트 서비스에 맞춘 클라우드 보안과 AI 보안 솔루션을 함께 개발하고 있습니다. 특히 제논의 AI 플랫폼을 금융 클라우드에 구축할 때 필요한 두 보안을 처음부터 같이 설계해서, 실제 서비스에 적용할 수 있는 형태로 만드는 것이 중요하다고 봅니다.
장기적으로는 클라우드에서 데이터, 모델, 에이전트, 에이전트가 쓰는 도구까지 이어지는 전 구간에 접근 권한과 보안 정책, 가드레일, 감시와 기록을 하나의 기준으로 적용하는 형태로 발전시키는 것이 목표입니다.
저희가 찾고 있는 오픈스택 플랫폼 개발자는 오픈스택을 설치하거나 운영하는 역할이 아닙니다. 클라우드 관리 플랫폼의 구조와 핵심 서버 코드를 직접 설계하고 개발하면서, 오픈스택과 쿠버네티스를 기반으로 GPU 작업에 맞춘 클라우드 플랫폼을 함께 만드는 자리입니다. 기술 방향을 정하고 앞에서 끌고 가는 역할에 가깝습니다.
다루는 기술은 오픈스택과 쿠버네티스, 쿠버네티스에 프로그램을 설치하고 버전을 관리하는 도구(Helm), 파이썬과 Go, C++, 그리고 인프라 구성을 코드로 만들어 자동화하는 도구(Terraform, Ansible)입니다. 이런 도구로 규모 있는 클라우드 플랫폼을 만들어 본 경험이 있다면 좋습니다. GPU 인프라, 네트워크와 저장 장치 성능 최적화, 여러 클라우드를 섞어 쓰는 환경, 클라우드 보안 경험도 큰 강점이 됩니다.
무엇보다 저희가 함께하고 싶은 분은 제논의 AI를 여러 고객 환경에서 실제로 동작하게 만들고, 그 과정에서 발견한 문제를 자동화하고 제품으로 발전시켜가는 분입니다.
크게 세 가지입니다.
첫째는 제논의 AI 플랫폼을 어떤 고객 환경에도 올릴 수 있는 역량을 더 끌어올리는 것입니다. 퍼블릭 클라우드든 금융 클라우드든 프라이빗 클라우드든 빠르고 안정적으로 구성하고 설치하고 운영할 수 있도록 설계를 표준화하고 자동화해야 합니다. 특정 클라우드에 묶이지 않고 여러 클라우드를 섞어 쓰는 환경까지 유연하게 대응하는 것이 중요합니다.
둘째는 현장에서 쌓은 기술을 제품으로 만드는 것입니다. 클라우드 관리 플랫폼과 데이터센터 제어, 자동화를 고도화하고, GPU 작업에 맞춘 인프라 관리와 여러 클라우드를 함께 관리하는 영역까지 제품 범위를 넓히려고 합니다.
셋째는 클라우드 보안과 AI 보안을 함께 설계하는 체계를 만드는 것입니다. 금융처럼 AI가 실제 고객과 금융 서비스를 연결하는 환경에서는 두 가지를 따로 둘 수 없습니다. 그 경험을 매번 새로 하는 대신 반복해서 쓸 수 있는 기술과 제품으로 남기는 것이 과제입니다.
이 세 가지가 쌓이면 제논의 AI를 어떤 기업 환경에도 빠르고 안전하게 도입할 수 있는 기반이 됩니다. 그게 저희가 만들려는 그림입니다.
이미 완성된 시스템을 운영하는 것보다, 고객 환경마다 다른 문제를 발견하고 직접 풀어가는 과정에 재미를 느끼는 분이 저희 팀과 잘 맞는다고 생각합니다.
클라우드파트에서는 퍼블릭 클라우드와 금융 클라우드의 실제 운영 환경을 경험하면서, 제논의 AI를 고객 환경에 어떻게 올리고 안정적으로 운영할지 직접 설계할 수 있습니다. 동시에 오픈스택과 쿠버네티스 기반의 자체 플랫폼과 GPU 인프라, 클라우드 관리 플랫폼, 자동화, 보안을 제품으로 만들어가는 경험도 하게 됩니다.
모든 영역을 이미 알고 있을 필요는 없습니다. 자신의 전문 영역에 충분한 깊이가 있으면서 새로운 기술을 빠르게 배우는 분이면 됩니다. 이 AI를 고객 환경에서 어떻게 안정적으로 운영할까, 더 빠르게 구축하고 자동화할 방법은 무엇일까, 이 경험을 어떻게 다시 제품으로 만들까를 같이 고민하는 분이라면 제논에서 재미있는 도전을 하실 수 있을 것 같습니다.
