카카오뱅크(대표이사 윤호영, Daniel)는 인공지능(AI) 기술의 책임 있는 활용과 윤리적 운영을 위한 내부 관리체계와 기술 고도화를 동시에 추진하고 있다고 2일 밝혔습니다.

카카오뱅크는 2023년 금융권 최초로 국제표준 ‘인공지능경영시스템 인증(ISO/IEC 42001)’을 획득하며 AI 관리체계의 안전성과 윤리성을 공식적으로 인정받았습니다. 이어 2024년에는 AI 거버넌스를 본격적으로 운영하며 역할과 책임, 윤리 원칙, 리더십, 위험 수준 평가 등 전 과정을 체계화했습니다. 이를 통해 AI 의사결정의 신뢰 기반을 완성했다는 평가를 받고 있습니다.

회사는 올해부터 ‘AI 거버넌스 2.0’ 프로젝트를 추진해 지난해 구축한 AI 관리체계를 한 단계 고도화하고 있습니다.

이번 프로젝트는 카카오뱅크가 금융권에서 쌓은 AI 운영 경험을 바탕으로 컴플라이언스, 정책, 조직, 프로세스 등 핵심 영역을 정교화하는 전략 과제로, ▲‘금융분야 AI 가이드라인 개정’ 및 ‘AI 기본법 시행’ 대응 ▲AI 거버넌스 적용 범위 확대 ▲AI 윤리 전담 조직 신설 ▲AI 생애주기 준수 절차 개선 등을 중심으로 추진되고 있습니다.

기술적 측면에서도 카카오뱅크는 AI 투명성과 신뢰성 강화를 위한 연구와 적용을 확대하고 있습니다. 회사는 설명 가능한 인공지능(XAI, eXplainable AI) 기술을 이상거래탐지(FDS) 등 내부 분석시스템에 적용해 AI가 내린 판단의 근거를 명확히 제시하도록 하고 있습니다. 이를 통해 결과에 대한 해석 가능성과 책임성을 높이는 동시에, AI 기반 업무의 정확도와 서비스 신뢰도를 향상시켰습니다.

또한 KAIST ‘설명가능 인공지능센터(XAIC)’와 산학협력을 통해 XAI 알고리즘을 공동 연구하고 금융 서비스 전반으로 기술 적용을 확대하고 있습니다.

카카오뱅크는 대규모언어모델(LLM) 성능평가 체계인 ‘DUO(A Diverse Understanding and Observation of LLMs)’를 자체 구축해 운영 중입니다.

‘DUO’를 통해 금융대화 역량, 계산능력, 윤리·안전성(Safety), 진실성(Truthfulness) 등 다양한 항목을 평가하며, AI 모델의 편향성과 환각(hallucination) 가능성까지 점검할 수 있습니다. 이를 기반으로 금융서비스에 적합한 AI 모델을 신속하고 정확하게 검증하고 있습니다.

카카오뱅크 관계자는 “AI 윤리는 기술 발전과 함께 반드시 동반돼야 하는 핵심 가치이며, 제도적 장치와 기술적 실행력을 함께 갖추는 것이 중요하다”며 “금융에 특화한 AI 생애주기 관리체계를 통해 고객이 안심할 수 있는 신뢰 기반의 서비스를 지속 제공하겠다”고 말했습니다.