‍

‍

목표

고객 질문에 정확하고 자연스러운 응답을 제공하는 금융 특화 AI 챗봇 도입
‍

범위

고객 상담용 생성형 챗봇 시스템 아키텍처 설계, 인프라 구축, 보안 검증 및 실제 운영 환경 배포
‍

핵심 가치

정확성 기반의 챗봇 서비스 구현 / 금융기관 수준의 보안 및 운영 안정성 확보
‍

기대 효과

실제 고객 응대에 투입 가능한 생성형 챗봇 구현 / 질의 응답 정확도 및 인식률 향상 / 시스템 장애 허용 수준 충족
‍

개요

K증권은 고객 서비스의 일환으로 생성형 AI 기반 챗봇을 도입하고자 했지만, 금융권 환경 특성상 단순한 기술 검증을 넘어 보안, 정확도, 안정성 측면에서 철저한 기준을 충족해야 했습니다. 특히 "주식 거래 수수료", "거래 시간" 등과 같이 정확한 규정이 존재하는 질문에 생성형 AI가 임의로 문장을 생성하는 방식은 부적절했으며, 동시에 최신 이슈나 실적 질의에는 유연한 답변이 요구되는 등 복합적인 요구사항이 있었습니다.

‍

솔루션

스켈터랩스는 이러한 요구에 대응하기 위해 AIQ+Chat의 아키텍처를 이중 구조(Hybrid) 방식으로 설계했습니다.

하나는 미리 정의된 질문 유형에 대해 즉시 정확한 응답을 제공하는 사전답변형 구조, 다른 하나는 예외적이거나 복합적인 질문에 대해 RAG 기반 생성형 응답을 생성하는 구조입니다. 핵심은 질문의 의도를 정확히 분류하는 기술이며, 가령 “주식 거래 시간은?” 같은 질문은 즉답하고, “최근 OO전자 실적은?” 같은 질의는 생성형 모델로 처리합니다.

보안 측면에서는 K증권의 폐쇄망 환경에서 요구되는 기준에 따라, 오픈소스 패키지와 라이브러리에 대해 반복적인 보안 취약점 점검이 진행되었습니다. 예를 들어 특정 Python 라이브러리에서 보안 취약점이 발견될 경우, 버전 업그레이드 전후의 의존성 충돌 여부와 시스템 안정성에 대한 테스트가 병행되었고, 반입 전 모든 소프트웨어 구성 요소는 K증권의 보안 기준에 따라 사전 검증을 마친 후 배포되었습니다.

또한 질의 정확도 향상을 위해 AIQ+Chat은 인텐트(Intent)와 엔티티(Entity) 체계를 전면 재정비했습니다. 단순히 질문을 문장 패턴으로 분류하던 기존 방식에서 벗어나, 실제 고객의 의도를 다층적으로 이해할 수 있도록 구조를 설계하고, 최소한의 핵심 예문만으로 학습 데이터를 구성해 데이터 품질을 높였습니다. 엔티티 인식 정확도를 높이기 위한 보완 로직도 병행 적용되었으며, 해당 개선은 점진적으로 실 운영에 반영되고 있습니다.

운영 안정성 검증 또한 중요한 과제였습니다. AIQ+Chat은 pod 및 node 수준의 장애 복구 시나리오를 설정하여 실제 장애 발생 시에도 자동 복구가 가능한 구조를 검증했습니다. 예를 들어 특정 pod가 중단되거나, 네트워크가 차단되는 상황을 실제로 구현하고, 서비스 연속성에 문제가 없는지 검증을 마쳤습니다.

‍