데이터 편향성, 복잡한 알고리즘 등으로 오류, 부정확한 의사결정
알고리즘 공시와 감시체계, 적절한 규제로 피해 최소화해야
[중소기업투데이 조민혁 기자] 금융계의 AI 도입과 접목이 날로 활성화되고 있다. 그러나 실제 AI를 실행하는 과정에서 데이터의 편향성이나 부정확성, 알고리즘의 복잡성으로 인한 오류 등 리스크도 적지 않다는 지적이다. 이에 데이터 수집 과정과 학습 알고리즘의 복잡성, 불투명성으로 인한 피해를 최소화할 필요가 있다는 조언도 뒤따른다.
일단 은행을 비롯한 금융권, 투자사와 개인 소비자 등이 모두 이같은 AI 리스크를 배제할 수 없다는 전문가의 주장이다.
자본시장연구원 금융산업실의 노성호 연구위원은 25일 이에 관한 보고서를 통해 “금융 분야의 AI 적용은 금융산업 혁신이라는 긍정적인 측면도 크지만, 이로 인한 부작용이나 폐해 등 리스크도 무시할 수 없다”면서 이같이 밝혔다.
이에 따르면 금융계에서 AI는 고객에게 맞춤화된 상품 또는 서비스를 제공하기 위한 유용한 역할을 하고 있다. 대표적으로 AI가 투자 종목이나 대상을 추천하는 ‘로드어드바이저’처럼 고객 정보를 포함한 다양한 자료를 종합, 나름대로 이상적인 포트폴리오를 효율적으로 구성할 수도 있다.
학습과정과 알고리즘 구축의 문제점 노출
그러나 AI학습 과정이나 알고리즘 구축의 문제점이 노출되기도 한다. 즉, 학습을 위해 필요한 고객이나 시장 관련 데이터 자체가 수집 과정에서 ‘편향성’을 가질 수 있음을 고려해야 한다는 의견이다. 즉 “(수집 과정에서) 특정 세대, 지역, 학력 군의 고객이 배제될 수 있고, 적극적으로 의견을 제시하는 고객 성향만이 데이터로 수집, 학습된다는 점에서 문제”라고 했다. 그만큼 충분한 대표성을 띠고 있는지가 의문이라는 지적이다.
투자자 또는 자산운용사 입장에서도 AI는 자산 수익률 예측과 그에 기반한 포트폴리오를 자동적으로 재구성하도록 하는 등 이점이 크다.
그러나 “이 역시 데이터 측면에서 수익성을 예측하는 모형은 필연적으로 과거 수익률 데이터에 기반하여 학습을 진행할 수 밖에 없다”는 지적이다. 그러므로 예측의 결과가 과거에 편향적으로 분포할 수 밖에 없다. 즉, “팬데믹(pandemic)과 같이 기존의 가용한(예측 가능한) 데이터의 범주 내에 존재하지 않는 사건이 미래에 발생할 경우 기존 예측치의 정합성을 담보하기 어렵다”는 노 연구위원의 지적이다.
마찬가지로 금융 중개 기관들도 AI는 실시간 거래를 감시하고 특이점을 적시에 탐지하는데 매우 도움이 된다. 여기서 노 연구위원은 복잡한 규제에 대응하는 레그테크(RegTech)로 불리는 AI 기반 이상 거래 탐지 모형의 예를 들었다.
이는 이미 고객 확인이나, 자금 세탁 방지 등의 분야에서 활발하게 활용되고 있다.
그러나 이런 경우도 역시 AI에 기반한 시스템이 운용상 불투명을 야기할 수 있다는 지적이다. 흔히 공개된 자료가 아닌, 비공개 내부 자료를 사용해 모형을 학습시키기도 한다. 그로 인해 외부인들은 그 적합성을 검증하는 것이 어렵다.
‘복잡한 알고리즘’, 공통적 지적
특히 공통적으로 지적되는 것은 복잡한 알고리즘이다. 즉, 알고리즘이 복잡하기 때문에 그 결과에 대한 해석을 어렵게 한다. 그래서 “(알고리즘 해석이 어렵다보니) 과연 금융업계 현장에서 AI에 기반한 판단이 규정상 모든 검증 절차를 거친 것인지가 의문”이라는 얘기다.
또한 알고리즘이 복잡하면, 제시된 답변에 대한 근거를 직관적으로 파악하기 어렵다는 지적이다. 그래서 AI 기반 시스템이나, 그로 인해 행해진 일련의 프로세스 자체에 대한 불신이 커질 수 있다는 것이다.
그러면 이같은 리스크를 최소화하기 위해선 어떤 방안이 좋을까. 노 연구위원은 데이터와 알고리즘은 공시, 감시체계, 적절한 규제와 법적책임 등을 주문했다.
그는 “학습 데이터와 알고리즘에 대한 공시를 통해 사용자의 기술적 이해도를 높이고, 데이터 수집 과정에 대한 상시적인 감시체계가 중요하다”면서 “AI 결과물에 대한 법적 책임과 규제 체계의 확립 또한 필수”라고 강조했다.