최근 우리은행에서 국내 최초로 생성형 AI 활용하여 대국민 금융 상담 서비스 AI뱅커를 출시했다는데요. 우리은행 AI뱅커 구축 사업은 제논이 NEXT AI를 향해 가고 있는 발걸음 중 하나였습니다.
AI뱅커 출시 이미지 = 우리은행 제공
AI뱅커란 AI Agent의 모습을 띠고 있는 서비스 중 하나입니다. 인공지능 기술을 활용하여 은행 고객에게 금융 서비스를 제공하는 시스템을 의미하며, 고객의 금융 거래 내역, 소비 패턴 등 대량의 데이터를 분석하여 개인에게 맞춤화된 금융 상품을 추천하고, 더 나아가 금융 상담까지 진행할 수 있습니다.
더 큰 개념에서 AI Agent란 기존에는 사람이 수행해야 하는 업무를 AI가 대신해서 해주는 개념이라고 쉽게 설명할 수 있고 더 이론적인 이야기로 들어가자면, 사용자가 명령을 내리는 일에 대해서 AI Agent가 스스로 문제를 분석하고, 쉽게 해결이 가능하도록 task를 분리해서 외부 툴을 통해 업무를 수행하는 것을 의미합니다. 업무를 수행하는 과정에서 사용자의 페르소나 및 개인화된 데이터를 활용하기도 합니다.
이번에 제논이 개발한 우리은행 AI뱅커는 예·적금 상품을 설명해 가입을 권유하고, 고객이 예·적금가입 상담 내용을 입력하면 실시간으로 답변을 제공하는 기능을 지원함으로써 금융 상담 창구 역할을 대신합니다.
보편적인 고객 응대 챗봇과는 다르게 고객 발화를 기반으로 고객의 정보와 요구사항을 고려한 상품 정보를 조회하고 우대 금리, 세금 우대 혜택 등 고객별 상황을 고려한 맞춤형 예적금 상품을 추천하는 등의 직원이 직접 상담하는 것과 유사한 수준의 서비스를 제공할 수 있습니다. 추가적으로, 고객 데이터를 고객 질문 분석을 통해 예상 질문까지도 파악할 수 있어 질문과 관련된 정보를 더욱 풍부하고 구체적으로 제공할 수 있습니다.
제논이 AI뱅커를 개발할 때 어떤 부분에 집중했었는지 여러분들에게만 살짝 공유해 드리겠습니다.
1. 데이터셋의 확장
최신 오픈 소스 모델로 초기 성능을 확보하였고, 제논 데이터로 한국어 모델을 구축하여 금융 문서로 금융 업무에 특화된 모델 학습을 진행했습니다. 더불어, 자연스러운 발화와 정해진 TASK에 도달할 수 있도록 유도하는 AI뱅커를 생성하기 위해서 금융 상담 창구에서 발생하는 대화를 학습시키면서, 사용자가 AI뱅커와 대화할 때 어색함을 느끼지 않도록 했습니다.
2. 모델 학습
제논의 LLM 구축 노하우를 살려, 여러 단계에 걸쳐 학습하는 방식을 통해 높은 금융 언어의 품질을 구현할 수 있도록 했습니다. 기본적으로 높은 성능을 보이는 베이스라인 모델을 채택함은 물론이고, 다양한 도메인의 데이터로 학습된 제논 LLM 모델을 활용하여 금융 업무에 특화된 데이터로 재학습했습니다. 더불어, 금융 상담 업무와 직접적으로 연결된 대화 데이터 및 업무 용어 등을 학습시키는 등의 단계를 거쳐 지금의 똑똑한 AI뱅커의 모습을 갖출 수 있었습니다.
3. 모델 관리 / 배포에 유능한 LLM Dev/Ops 의 활용
빠르게 최신 기술과 모델이 쏟아져 나오는 AI 업계 특성상, 최신 LLM 모델과 데이터의 적용 및 새로운 도메인의 LLM 기반 대화 모델을 적용하여 기존의 모델을 확장할 수 있도록 설계하는 것이 중요합니다. 제논의 LLMOps를 통해 지속적으로 새로운 최신 모델을 적용하거나 데이터 생성 기능을 통해 새로운 task에 필요한 학습 데이터를 생성하는 등의 업무를 할 수 있도록 했습니다. 이를 통해서 신규 업무의 데이터셋 제작 및 효율적인 관리는 물론 외부 모델과 개발단에서 학습한 모델의 자동 등록 및 버전 관리를 손쉽게 진행할 수 있도록 세팅했습니다.
2024-04-17 작성
