BNK·iM·JB금융, 공동 AI 거버넌스 수립 추진
KB국민·NH농협은행, 거버넌스 수립 및 운영
"AI 모델 개발·운영·감독 관련 역할, 책임 명확히 규정해야"
[SRT(에스알 타임스) 유안나 기자] 금융 부문의 AI(인공지능) 활용이 활발해지면서 금융사들도 관리 체계인 ‘AI 거버넌스’ 구축에 나서고 있다. AI 활용이 증가에 따라 발생할 수 있는 여러 리스크에 대해 관리, 대응하기 위해서다.
‘AI 거버넌스’란 AI 서비스에 따른 윤리적·법적 책임을 이행하기 위한 관리 체계를 말한다. AI 활용이 금융 분야의 핵심 사업으로 확산되면서 제도적 안전망 마련에 대한 요구가 커짐에 따른 것이다. AI 발전으로 생산성 향상 등 장점이 있지만 도출된 결과의 불분명한 책임소재, 설명 가능성 부족 문제 등도 심화하고 있다. 끊임없는 AI 기술 발전과 기존 AI 체계로는 리스크 관리에 한계가 있을 것이란 전망에 금융사들은 AI 관리 체계를 적극 수립하고 있다. 주요 목표는 AI 기술이 활용되는 모든 과정에서 안정성·신뢰성·투명성을 확보하는 것이다.
18일 금융권에 따르면 지방금융지주 3사(BNK금융·iM금융·JB금융)는 이달 9일 AI 기술 활용을 위한 공동 거버넌스 수립을 추진한다고 밝혔다.
3사는 조직 내에서 표준 가이드 마련과 내부통제 프로세스 구축, 소비자 보호장치를 만드는 것을 목표로 공동 컨설팅 프로젝트를 진행한다.
해당 프로젝트는 ▲AI 거버넌스 수립 ▲AI 사용·활용에 따른 윤리적·법적 규제 준수 검토 및 실행 전략 제시 ▲AI 리스크 관리 및 지속 가능한 윤영 관리 방안 수립 ▲AI 관련 정책 및 프로세스 최적화 ▲조직 내 AI 거버넌스 역량 강화 등 5가지 핵심 목적을 중심으로 진행될 예정이다.
또한 프로젝트는 단계별로 진행될 예정이다. 1단계로 금융그룹사가 준수해야 할 윤리 원칙과 기존 AI 가이드라인을 검토할 예정이며, 2단계로 각 그룹사별 AI 거버넌스 반영 및 시범 적용을 통해 AI 활용 전반에 걸친 윤리적, 법적 거버넌스를 구축할 계획이다. 이 외에도 3사는 향후 디지털·IT 관련 협의체를 구성해 공동이슈 대응 등 협력 관계를 공고히 해 나간다는 방침이다.
시중은행도 AI 거버넌스를 운영한다. 앞서 KB국민은행은 지난달 지속 가능한 AI 기술 도입과 금융소비자 보호를 중으로 자체적인 거버넌스를 수립했다고 밝혔다.
국민은행의 AI 거버넌스는 AI 윤리기준 및 조직문화, 위험평가 프레임워크, 생애주기별 위험관리정책, 금융소비자 보호 등 4가지를 핵심으로 삼고 추진한다.
이와 함께 국민은행은 AI 거버넌스 원칙을 뒷받침하는 최고의사결정 기구로 ‘AI윤리위원회’를 설치했다. AI윤리위원회는 고위험 서비스 승인, 윤리기준 및 위험관리 정책 수립 등 AI의 윤리적 활용을 위한 전략 수립 및 의사결정 등의 역할을 수행한다.
NH농협은행도 AI 거버넌스 체계를 운영하고 있다. 금융당국 규제에 앞서 체계를 수립한 농협은행은 관리 업무를 크게 위험 수준 평가, 개발 및 운영사항, 교육 등으로 나누었다. 농협은행의 AI 거버넌스는 AI 윤리원칙과 AI 거버넌스 업무 운영에 관한 사항을 규정하고 있다. 이를 뒷받침하는 의사결정기구인 ‘협의회’도 구성을 마치고 역할을 수행 중이다.
금융당국 역시 분주하다. 지난 2월 금융감독원은 ‘2025년 업무계획’을 발표하며 ‘금융권 통합 AI 가이드라인(가칭)’을 마련하겠다고 밝혔다. 금융사가 AI 개발·활용을 체계적으로 하고, 위험성은 최소화하는 체계를 만들기 위해서다.
한편, 금융권의 AI 관리 체계 마련에 속도가 붙는 가운데 AI 거버넌스 관련 명확한 역할과 책임 규정이 필요하다는 분석도 나온다. 예금보호연구소는 금융 산업의 AI 활용 및 규제 동향에서 “AI 모델의 개발·운영·감독과 관련한 지배구조 상 명확한 역할, 책임을 규정해야 한다”며 “AI 기반 의사결정에 따른 부정적 영향을 최소화하기 위해 AI 모델을 활용한 의사결정 과정을 문서화하고 설계·검토·결과 단계에서 인간이 적극 개입해야 한다”고 밝혔다.
또한 향후 과제에 대해선 "금융분야의 AI 리스크를 정확히 이해하고 대응하기 위해선 국내외 금융당국 간 긴밀한 협조 속 AI 개발 및 활용과 관련된 별도의 가이던스 도입을 검토할 필요가 있다"고 부연했다.