[더구루=정등용 기자] 금융권 전반에 인공지능(AI) 기술 도입이 확산되는 가운데 이에 따른 부작용과 잠재적 리스크를 관리해야 한다는 목소리도 높아진다. 금융당국이 인공지능 리스크 관리 체계를 구축하는 동시에 금융사들도 이에 호응하는 적극적인 노력을 보여야 한다는 것이다.
15일 관련 업계에 따르면 금융권 전문가들은 금융 소비자를 대상으로 한 인공지능 서비스가 활성화 할 경우 다양한 잠재적 리스크가 발생할 수 있다고 우려했다.
실제로 국제통화기금(IMF)은 인공지능의 주요 리스크로 △내재된 편향 △설명 가능성과 복잡성 △사이버 보안 △개인정보 보호 △강건성 △금융 안정 등을 꼽았다.
챗GPT(ChatGPT)도 인공지능 기반 금융서비스와 관련해 발생할 수 있는 이슈로 △편향 △차별 △책임 부족 △보안 위험 △일자리 대체 △신뢰 △규제 등을 지적하기도 했다.
특히 전문가들은 인공지능이 편향된 데이터를 학습할 경우 특정 그룹의 금융 소비자를 차별하는 결정을 내릴 수 있을 것으로 보고 있다. 인공지능은 일종의 블랙박스와 같은데다 자동화된 알고리즘으로 작동하는 만큼 금융 소비자에게 부당한 결과를 가져다 줄 수 있다는 것이다.
이에 더해 인공지능의 자체 오류나 외부 해킹이 금융 시스템의 마비로 이어질 수 있다는 주장도 나온다. 이 경우엔 책임 소재가 불명확 해진다는 게 더 큰 문제다.
이에 대비하기 위해 금융위원회는 지난 2021년 7월 ‘금융분야 인공지능 가이드라인’을 마련해놓은 상황이다. 해당 가이드라인은 앞서 언급된 리스크 뿐만 아니라 발생 가능한 범주의 잠재적 리스크까지 철저하게 관리하도록 촘촘하게 규정하고 있다.
지난해 8월에는 ‘금융분야 인공지능 활용 활성화 및 신뢰확보 방안’을 마련하고 관련 과제를 추진 중에 있다.
다만 전문가들은 금융당국의 리스크 관리 외에 금융사들의 노력도 필요하다고 강조했다. 구체적으로는 양질의 ‘금융 말뭉치’를 축적해야 한다는 지적이다. 금융 말뭉치는 정확한 금융 대화 내용 출력의 기반이 되는 양질의 훈련 데이터를 말한다.
이성복 자본시장연구원 선임연구위원은 “금융 말뭉치의 양과 질에 따라 인공지능 기반 금융서비스의 성능과 리스크가 대부분 결정될 것”이라며 “금융사들은 지금보다 적극적으로 금융 말뭉치를 공유하도록 노력해야 한다”고 말했다.
