금융권, 생성AI 도입 '명과 암'

[중소기업투데이 이상영 기자] 시중은행을 비롯한 국내 금융권도 생성AI를 본격적으로 도입, 업무에 활용하고 있다. 그러나 그 과정에서 데이터 보안 우려와 편향성 등의 한계도 자주 지적되고 있다. 또 생성된 답변의 부정확성, 사이버공격 등의 우려도 적지 않아 이에 대한 세밀한 대응책이 함께 수행돼야 한다는 조언이다.

현재 시중은행 등은 상품서비스 개발, 마케팅, 고객관리, 운영관리, 리스크관리 등 은행업 밸류체인 전반에 생성AI를 적용하고 있다.

우리금융경영연구소는 “생성AI는 뛰어난 자연어 처리 능력과 광범위한 비정형 데이터 처리 능력을 바탕으로 사용자와의 커뮤니케이션 능력을 강화시킬 수 있고, 초개인화된 상품·서비스를 제작하여 생산성 향상을 가능하게 한다”면서도 이같은 한계를 지적했다.

연구소에 따르면 무엇보다 데이터 정보보호와 챗GPT의 환각 현상 등이 문제다. 즉, 생성AI에 입력된 정보가 모델을 훈련하는 데 사용될 수 있다는 지적이다. 이로 인해 데이터가 외부(기업 등)에 노출될 위험성이 커서, 데이터 사용에 대한 적절한 제어장치가 필요하다는 지적이다. 특히 생성AI 자체를 주로 제3자 소프트웨어 공급업체에 의존하는 경우가 많다보니, 은행 금융회사의 고객 개인정보가 유출될 가능성도 크다.

또한 허위 정보를 설득력 있게 보이는 정보로 생산하는 환각(Hallucination)이나 편향도 문제다. 이를 방지하고, 생성AI의 신뢰성을 높이는 것은 그 도입 여부를 결정할 만큼 중요하다는 주장이다. 챗GPT의 환각 현상은 많이 개선되었다곤 하나, 여전히 20~25% 수준으로 알려졌다.

특히 은행의 경우 생성AI의 편향이 성별, 인종, 민족을 기반으로 한 프로파일링 문제를 지속적으로 야기하고 있다. 이로 인해 불공정한 신용평가와 고객차별로 이어질 가능성도 있어서 각별한 주의가 필요하다.

구글은 2024년 생성AI를 활용한 사이버 범죄가 늘어날 것으로 전망하는 등 “생성AI를 사이버보안의 위협 요인”으로 지목하기도 했다. 구글은 또한 생성AI를 통해 가짜 뉴스나, 수신자와 상호 작용하는 피싱전화, 가짜 정보로 생성된 사진과 동영상을 유출시키며 사이버공격이 치밀해질 것으로 예상했다.

실제로 영국 회계 컨설팅 그룹인 PWC(Pricewaterhouse Coopers)의 조사에 따르면 향후 12개월 내 생성AI가 치명적인 사이버공격으로 이어질 것으로 예상한다는 답변이 52%를 차지할 정도다.

그럼에도 불구하고, 생성AI의 잠재력은 크다. 자연어 이해 능력을 그 핵심으로 고등교육, 의사소통 등 논리적 언어 능력이 필요한 지식기반 작업에 사용될 수 있다. 또한 자연어를 뛰어나게 처리하면서 사람과 유사한 수준의 대화를 제공할 수도 있다.

또한 금융기관으로선 동영상, 오디오, 사진, 보고서 등이 포함되는 비정형 데이터의 경우 분석이 어려웠으나, 생성AI는 이를 순조롭게 처리할 수 있다. 이에 금융회사는 생성AI의 장점을 활용, 신속하고 정확한 의사결정을 할 수 있다. 또 고객의 미확인된 잠재수익을 활용할 수 있고, 작업 간소화와 비용절감, 리스크관리 강화, 고객의 금융 경험 개선 등의 기회를 만들어 낼 수 있다.

이에 KB국민은행은 실증실험용 KB-GPT 데모 웹사이트를 개설했다. 이는 직원의 업무 효율성을 위해 검색, 채팅, 요약, 문서작성, 코딩 등 8가지 기능을 생성AI로 처리하는 것이다.

신한은행은 생성AI의 금융서비스 적용을 위한 전담 TF를 출범, 대출상품 153개 데이터를 기반으로 실증실험을 진행하고 있다. 또한 생성AI를 적용한 지능형 고객센터인 ‘통합AI 컨택센터(AICC)’ 플랫폼을 구축했다.

하나은행은 ‘하나GPT’, ‘하나지피티’, ‘HanaGPT’를 개발, 상표를 출원했다. 자체적으로 금융 분야에 특화된 버티컬 거대언어모델도 개발 중이며, 2024년 고도화 예정인 하나은행 모바일 AI뱅커에 활용할 예정이다.

우리은행은 SK C&C와 협업, 비정형데이터 자산화 작업을 수행하고 있다. 2024년 1분기 중 예적금 상담, 목돈마련도우미 등의 대고객 챗봇서비스도 출시할 예정이다.