김주현 금융위원장은 17일 "금융분야 인공지능(AI) 공정성과 정확성을 높이기 위해 금융AI테스트베드를 구축하고 설명가능한 AI 안내서를 마련하겠다"고 밝혔습니다.
김 위원장은 이날 서울 명동 은행회관 뱅커스클럽에서 한국신용정보원 주최·금융위원회 후원으로 열린 '금융산업의 인공지능 대응전략 세미나'에 참석, "AI 활용이 확대되면서 개인정보침해나 사이버보안, 윤리적 문제 같은 다양한 리스크에 대한 우려도 제기되고 있다"며 이렇게 말했습니다.
김 위원장은 "금융분야에선 AI 오작동으로 소비자의 재산상 손실을 초래할뿐 아니라 여러 금융회사가 특정 AI모델을 활용하면 디지털집중 리스크가 확대돼 금융안정에 영향을 미칠 수 있다"며 "AI 신뢰성과 책임성 확보방안이 어느 분야보다 중요하다"고 강조했습니다.
소수의 AI 기술·모델이 시장을 지배하고 이를 기반으로 수많은 서비스가 출시되면 금융시스템 내 동질성이 높아져 디지털 쏠림이 심화될 수 있다는 우려를 표한 것입니다.
이같은 판단에 따라 금융위는 '금융AI테스트베드'를 구축하기로 했습니다. 이를 위해 신용평가AI, 금융사기방지AI, 금융보안AI 등에 대한 검증을 수행할 수 있도록 검증용 데이터와 컴퓨팅 자원을 제공할 예정입니다.
금융위는 AI 모델 작동원리, AI 의사결정 근거 등을 사람이 쉽게 이해할 수 있도록 설명해주는 AI 기술 즉, 설명가능한 AI(Explainable AI·XAI) 정의와 요건, 구현사례 등을 제시하는 안내서 마련에도 나섭니다.
김 위원장은 "편향되거나 결함있는 데이터는 아무리 많아도 AI 성능을 저해하는 치명적 결함을 야기한다"며 "AI가 사회적 신뢰를 확보하기 위해서는 공정성과 정확성이 담보돼야 하며 AI가 내린 판단의 근거가 무엇인지 금융소비자가 이해할 수 있어야 한다"고 지적했습니다.
이날 세미나에서는 각 분야 전문가 발제와 사례발표, 패널토론이 이어졌습니다.
서정호 한국금융연구원 부원장은 '금융산업의 AI 활용과 정책과제' 발제에서 "마이데이터 산업 성장이나 비금융사업과 제휴 확대 등으로 금융분야 AI 도입은 더욱 활발해질 것"이라며 "AI 활용과정에서 발생하는 법적리스크를 축소하는 것은 중요하지만 금융사들이 자유롭게 AI를 활용할 수 있도록 국제적 규제정합성을 유지하고 양질의 데이터 생태계를 조성하는 일이 정책당국 핵심과제"라고 제언했습니다.
서 부원장은 AI 활용 제고후 '기능별 규제'를 구축한다는 기본방향 아래 연성규율체계 정착 등 원칙 중심 접근, 고위험거래 중심의 규율체계 마련 등 리스크 기반 접근, 금융분야 AI 학습데이터 확충 등 데이터 생태계 강화를 AI 규제원칙으로 제시했습니다.
옥일진 우리은행 디지털전략그룹 부행장은 '생성형 AI 확산과 금융산업 시사점'을 다뤘습니다. 옥 부행장은 "금융권은 생성형 AI를 활용해 보다 발전된 초개인화 금융서비스를 제공할 수 있게 됐지만 생성형 AI 기술이 갖는 본질적 특성과 금융업의 핵심가치 즉 신뢰가 상충되는 딜레마가 있다"고 말했습니다.
그러면서 "신뢰를 지킬 수 있는 금융언어모델 개발에 필수적인 두가지는 양질의 금융데이터와 안전한 인프라 환경"이라며 "안전하고 효율적인 생성형 AI 개발과 활용을 위해선 당국·금융사·기술사의 협업이 그 어느 때보다 중요하다"고 부연했습니다.
차세대 AI 시대 금융산업 경쟁력을 향상시키기 위한 정책방향에 대한 패널토론에서 황보현우 하나금융지주 상무는 "금융권의 데이터·AI분야 경쟁력을 강화하고 금융 AI 스타트업의 글로벌 경쟁력을 확보하기 위해 해당분야 출자제한이나 자회사 편입 등 규제를 완화해 달라"고 요청했습니다.
신장수 금융위 금융데이터정책과장은 "설명가능한 AI 안내서 발간과 금융AI테스트베드 구축을 통해 작년 하반기 발표한 '금융권 AI 활용 활성화 및 신뢰 확보방안'의 세부과제를 속도감있게 마무리할 것"이라며 "AI 성능의 핵심은 빅데이터에 있는 만큼 금융분야 데이터산업 전반의 규제개선도 추진하겠다"고 밝혔습니다.
