금융위원회의 '디지털 금융 컨트롤타워'로 출범한 디지털금융정책관이 금융권 인공지능(AI) 활용 활성화를 넘어 생성 AI 금융 소비자 보호 지침을 만든다.
금융권 망분리 의무 규제를 걷어내면서 금융 업계에 생성 AI와 결합한 금융 서비스가 빠르게 확산했을 때 소비자 보호 관점에서 나타날 수 있는 잠재적 우려에 대비해야 한다는 판단에서다.
전요섭 금융위 국장은 금융 AI 혁신을 위한 정책과제를 주제로 진행한 인터뷰에서 "어떤 금융 서비스의 IT시스템에 기반한 결정 과정이나 결과에 대해 제공자는 소비자에게 설명할 수 있어야 하고, 소비자도 그걸 이해할 수 있어야 한다"며 "그걸 돕기 위해 (생성 AI 관련) 가이드라인을 만들고 있다"고 말했다.
생성 AI 기술 관련 가이드라인 마련은 금융위를 중심으로 지난 3월 발족한 '금융권 AI 협의회' 차원에서 추진되는 과제다.
'신뢰도 확보 분과(TF)'가 소비자의 AI 기반 금융 서비스에 대한 신뢰도 확보를 목표로 '생성 AI 윤리 지침' '설명 가능한 AI 안내서' 등 작성을 위해 연구 중이다.
생성 AI를 비롯해 금융 서비스 관련 기업의 AI 책임 체계를 구축하게 한다는 구상이다.
전 국장은 "산업계에 '설명 가능한 AI'를 만들자는 얘기가 나오고 있는데, 서비스 제공자가 소비자에게 제공하는 것이 뭔지 정확하게 설명할 수 있어야 한다는 원칙"이라며 "금융사 대출 심사에서 '당신은 대출이 안 됩니다'라는 결과가 나왔다면 소비자에게 왜 안 되는지 합리적인 설명이 가능해야 한다"고 말했다.
그는 이어 "생성 AI는 '블랙박스'로 불릴 만큼 작동 과정과 어떤 결과가 나온 이유를 설명하기 어려워 문제가 될 수 있기 때문"이라고 지적했다.
금융위는 AI 관련 국내외 동향과 해외 금융당국의 금융권 AI 활용에 대한 정책 방향을 파악하며 다가올 미래에 대비한 가이드라인을 마련할 계획이다.
낡은 금융 규제를 손질하는 동시에 미래 변화에 유연하게 대응할 수 있는 제도를 준비하겠다는 것이다.
전 국장은 "회사의 IT시스템 자체에 대한 설명 가능성과 신뢰도를 높여야 하는데 IT 분야에 있는 사람만 관심을 가져선 한계가 있다"며 "전사적으로 중요성을 인식하고 CEO와 이사회 차원에서 관심이 모여야 하는데, 앞서 (금융IT 안전성 강화를 위한 가이드라인 마련 등을 통해) 그런 방향으로 갈 수 있도록 하겠다고 발표한 바 있다"고 말했다.
금융권 AI 협의회는 가이드라인 마련을 통한 금융 분야 AI 서비스 신뢰도 확보뿐 아니라 망분리 규제 개선과 함께 디지털금융보안법 제정을 논의하는 'AI 인프라 구축', 중소형 금융사의 금융 특화 AI 개발을 돕는 '데이터 지원' TF를 나란히 가동하고 있다.
데이터 지원 TF에서는 금융결제원, 금융보안원, 신용정보원 등 금융IT 전문성이 있는 기관과 금융연수원, 보험연수원 등 유관기관까지 협업·연계해 금융 AI 개발에 활용할 수 있는 양질의 데이터를 확보하는 작업이 이뤄지고 있다.
전 국장은 "대화형 AI는 일반적인 데이터로 학습한 AI를 사용하면 전문적인 금융 용어를 잘 알아들을 수 없어 차입자를 뜻하는 '차주'와 같은 용어를 자동차 주인으로 잘못 이해하고 소비자의 질문에 제대로 답하지 못하는 경우가 있다"며 "AI가 이런 금융 용어를 학습할 수 있는 데이터 세트를 우리가 보험이면 보험, 금융권 전체 등 분야별로 준비하고 제공하면 개별 금융회사의 AI 개발·최적화 비용 부담을 줄이는 데 도움이 될 것"이라고 설명했다.