AI 서비스 빌더는 사용자가 소프트웨어 개발 지식이 많지 않아도 인공지능 모델을 쉽게 생성, 훈련시키고, 배포할 수 있게 해주는 플랫폼 또는 도구를 말합니다. 이러한 서비스는 사용자가 인공지능 기술을 활용하여 다양한 애플리케이션, 서비스 또는 제품을 개발할 수 있도록 지원합니다.
앞서 말씀드린 예시처럼, 한 서비스 프레임워크를 AI Agent 또는 Assistant에게 맡기는 서비스라고 생각하시면 됩니다. 여기서 AI Agent란 위의 요리 분업을 시행하는 로봇 4대를 합쳐서 칭하는 것이라고 이해하시면 될 것 같습니다.
지난 포스팅에서 맞춤형 LLM 모델 구축을 설명드렸었는데요, 특정 도메인에 맞는 모델을 위해선 기존의 Pre-Trained 모델들에 변화를 줘야 합니다. 변화를 줄 때의 선택지는 여러 가지가 있습니다. 지난 포스팅에서 말씀드린 Fine-Tuning과 강화학습, 이외에도 프롬프트 엔지니어링 등 다양한 선택지가 있고, 또 연구되고 있습니다.
‘AI 서비스 빌더’는 이런 특정 도메인에 맞는 AI Agent를 만들기 위해 다양한 선택 옵션을 제공해 주고, 이런 선택 옵션들을 연결해 주는 편리한 End-to-End 툴이라고 설명드릴 수 있겠습니다.
그렇다면, AI 서비스 빌더를 구축할 때 주로 고려해야할 사항으로는 어떤 것들이 있을까요?
서비스를 사용하는 고객들에게 시각적인 UI를 통해 옵션들을 구성하고, 조작할 수 있는 사용자 친화적인 인터페이스를 사용하는 것이 중요합니다. 더불어 고객들이 배포한 AI Agent를 통해, 사용자들의 데이터가 축적될 것이라 이를 관리하는 데이터 관리 기능도 필요할 겁니다. 데이터 관리 기능을 활용해서 데이터를 실시간으로 모니터링하고 축적된 데이터를 분석하여 비즈니스 인사이트를 얻을 수 있는 장점도 있습니다.
그렇다면! ‘AI 서비스 빌더’로 어떤 서비스를 만들 수 있을까요?
아직은 바로 상상이 되시지 않으실텐데요, 그럼 이전 포스팅에서 다뤘던 RAG기반 서비스 프레임워크로 예시를 들어보겠습니다.
A라는 회사에서 ‘AI 서비스 빌더’를 도입했다고 상상해 보겠습니다.
A라는 회사는 고객들에게 RAG 기반 정보 검색 챗봇을 제공하는 서비스를 런칭하려고 합니다. 그리고 A회사 내에는 금융서비스를 제공하는 부서와, 보험 서비스를 제공하는 부서가 있다고 가정하고 설명을 이어 나가보겠습니다. 그렇다면, 정보 검색 챗봇을 만들 때, ‘정보’에 해당 하는 내용이 각 부서마다 다르겠죠? 이는 LLM에게 사용자의 질문에 맞는 정보를 제공하는 ‘Retriver’를 학습시킬 때 사용되는 데이터가 다름을 뜻합니다.
AI Agent 도식화 예시
‘AI 서비스 빌더’가 이때 문서에 맞는 전처리 옵션과, 임베딩 옵션, 사용할 LLM 옵션, 프롬프트 옵션 등을 각 부서마다 맞춤형으로 제공하게 되고, A 회사는 부서 별, 도메인에 맞는 AI Agent를 얻게 되는 것이죠! 이 경우에 옵션이라는 것은, 사용할 LLMs, API, SDK, Embed 방식 등을 포함합니다.
AI 서비스 빌더는 사용되는 옵션의 업데이트나, 변경 시에도 이를 반영해 Agent를 생성하게 됩니다. 또한 인공지능 도메인에 대한 지식이 많지 않은 고객들도 손쉽게 직접 옵션을 선택해 AI Agent를 빌드할 수 있도록 UI 등의 편의사항도 제공됩니다. 기존 AI 서비스를 출시하려고 했을 때 외주 업체를 알아보고, 개발 요건을 정의하고 오랜 시간을 들여 많은 인력과 프로젝트를 관리했어야 하는 상황과는 다르게 AI 서비스 빌더를 통해 쉽고 빠르게 AI 서비스를 개발할 수 있다는 큰 장점이 있습니다.
2024-04-04 작성
