금융권 내 인공지능(AI)이 확산하면서 금융시스템의 위협으로 작용할 수 있다는 우려가 제기됐다.
AI 알고리즘이 확산한다면 대부분의 시장 참여자들이 같은 행동을 하고, 이는 시장 급등락을 초래해 금융시스템의 안정성을 위협할 수 있다는 것이다.
연태훈 한국금융연구원 선임연구위원은 24일 '금융안정에 대한 AI의 잠재적 위협과 관리 방안 모색' 보고서를 통해 이같이 밝혔다.
연 선임연구원은 "금융시장에서 기술의 오용이나 알고리즘 오작동, 혹은 의도된 잘못이 없더라도 AI 확산이 금융시스템에 위기를 촉발할 수 있다"고 우려했다.
시스템 위험은 어느 한 개인·기업, 나아가 특정 시장부문에서 발생한 사건이나 의도되지 않은 집단적 행위들의 여파가 빠르게 전파되면서 광범위한 금융시스템 혹은 경제 전반에 영향을 미치는 상황을 지칭한다.
즉 AI 알고리즘 이용이 확산될수록 금융시장 참여자의 획일성, 네트워크 상호연결성, 규제 공백 같은 경로를 통해 금융시스템 위험을 유발할 수 있다는 것이다.
예컨대 AI는 소수 모형의 시장 지배, 데이터 활용·상호 반응 등을 이유로 서로 비슷해지기 쉽고, AI를 이용한 시장 참여자들이 많을수록 획일성이 더욱 강해진다.
이때 AI 알고리즘의 도움을 받은 다수의 시장 참여자들은 비슷한 결정을 내리는 '군집행동'으로 이어지고, 이런 획일적 행위에 따라 시장 급등락이 초래된다.
다수의 AI가 시장 침체 직후 행하는 행동들이 이익을 극대화할 수 있는 합리적인 행동일 수 있으나, 되레 시장 상황을 더욱 악화시키는 요인이 될 수도 있다는 뜻이다.
반대로 과열된 시장에서도 반대 방향의 악순환이 나타날 수 있다.
개리 겐슬러 미 증권거래위원회(SEC) 위원장은 최근 AI의 발전이 금융시스템의 획일성과 상호연결성을 높여 시스템을 규제하기 어렵게 만들 수 있다는 점 등을 지적했다.
그는 SEC가 금융회사의 AI 활용과 관련한 새로운 규제안을 이르면 내달까지 도입하겠다고 밝히기도 했다.
금융시장에서 AI 확산이 획일성을 유발하는 경로는 규모의 경제와 네트워크 효과에 따라 소수의 데이터 취합·관리 기관에 의존도가 높아질 것이란 전망에서 비롯한다.
다양한 AI들이 사용하는 데이터가 수렴하게 되면 모형들이 내놓는 예측들의 상관관계가 높아지고 결국 군집행동으로 이어질 수 있다는 것이다.
또 금융회사들은 AI 모형을 직접 개발하기도 하지만, 외부 제3자 업체가 제공하는 데이터를 AI 서비스 혹은 구독형 AI 형태로 조달받아 이용한다.
결국 소수의 시장지배력을 가진 AI 기업을 중심으로 재편될 가능성이 있어 획일성을 유발할 것이란 전망도 나온다.
연 선임연구위원은 "AI 확산에 따른 시스템 위험을 방지하기 위해서는 금융시스템 전체를 조망해 관련 위험을 모니터링하고 선제적으로 대응하기 위한 기구를 신설하거나 해당 업무를 담당할 기관을 지정해야 한다"면서 "궁극적인 해결 방안을 모색하기 위해 금융당국과 학계, 업계, 기타 금융 관련 비금융 회사 공동의 노력이 필요하다"고 강조했다.