인공지능(AI)은 최근 은행 부문을 포함해 여러 분야에 혁명을 일으켰습니다. 구현에는 긍정적인 측면과 부정적인 측면이 모두 있었으며, 특히 대출 시 알고리즘 차별 문제가 있었습니다.
캐나다를 비롯해 전 세계적으로 주요 은행 내 AI 구현으로 생산성이 향상되면서 서비스 개인화 수준도 향상되었습니다.
IEEE 글로벌 설문조사에 따르면 AI 기반 솔루션 채택은 2025년까지 전 세계적으로 두 배로 늘어나 금융 기관의 80%에 이를 것으로 예상됩니다.
경쟁력을 유지하기 위해 AI를 디지털 서비스에 통합하는 것을 감독하는 특정 직위를 만든 BMO Financial Group과 같은 일부 은행은 더 발전했습니다. 결과적으로 AI 덕분에 전 세계 은행 산업의 수익은 2028년까지 2조 달러를 초과할 수 있으며, 이는 2024년에서 2028년 사이에 거의 9%의 성장을 의미합니다.
Laval University의 지식 및 혁신 관리 교수이자 과학 커뮤니케이터로서 저는 알고리즘 차별에 관한 연구 프로젝트의 저자인 Kandet Oumar Bah와 프랑스 건전성 감독 및 해결 기관의 거버넌스 및 사이버 위험 전문가인 Aziza Halilem의 도움을 받아 이 분석을 작성했습니다.
은행 부문에 AI를 통합하면 이미 금융 프로세스가 크게 최적화되어 운영 효율성이 25~40% 향상됩니다. AI는 대규모 데이터 수집과 같은 증가하는 빅 데이터 기능과 결합하여 이미 금융 시스템의 오류 마진을 18~30%까지 줄일 수 있는 강력한 분석을 제공합니다.
또한 수백만 건의 거래를 실시간으로 모니터링하고 의심스러운 행동을 감지하며 특정 사기 거래를 예방적으로 차단할 수도 있습니다. 이는 J.P. Morgan이 구현한 용도 중 하나입니다.
또한 AI 기반 의사결정 분석에 특화된 FICO와 같은 플랫폼은 금융 기관이 다양한 고객 데이터를 활용하고 고급 예측 모델을 통해 신용 결정을 개선할 수 있도록 지원합니다.
현재 전 세계 여러 은행에서는 소득, 신용 기록, 부채 비율 등 수많은 매개변수를 단 몇 초 만에 분석할 수 있는 자동 평가 알고리즘을 사용하고 있습니다. 신용 시장에서 이러한 도구는 특히 명시적인 대출 보증이 있는 경우와 같은 "표준" 사례의 신청 처리를 크게 향상시킵니다.
하지만 다른 경우는 어떻습니까?
미국 연구원 Tambari Nuka와 Amos Ogunola가 지적했듯이, 알고리즘이 공정하고 객관적인 예측을 생성한다는 환상은 은행 부문에 큰 위험을 초래합니다.
과학 문헌을 검토하면서 그들은 복잡한 인간 행동에 대한 평가를 자동화 시스템에 맹목적으로 위임하려는 유혹에 대해 경고합니다. 캐나다를 포함한 몇몇 중앙은행도 이에 대해 강력한 의구심을 표명하면서 특히 신용도와 지급 능력 평가에서 AI에 대한 과도한 의존과 관련된 운영 위험을 경고했습니다.
알고리즘은 기술적으로 중립적이지만 훈련 데이터가 역사적 편견, 특히 특정 집단에 대한 체계적 차별로 인해 물려받은 편견으로 오염될 경우 기존 불평등을 증폭시킬 수 있습니다. 이러한 편견은 성별이나 인종과 같은 명시적인 변수뿐만 아니라 거주지나 고용 유형과 같은 요인과의 간접적인 상관관계에서도 발생합니다.
예를 들어, 등급 시스템은 여성이 재정적으로 남성과 동등한 상황에서도 여성에게 더 낮은 신용 한도를 할당할 수 있습니다. 우편번호, 취업 이력 등의 변수를 분석하다 보면 인종차별주의자, 불규칙 소득 근로자, 최근 이민자 등 소외 계층 구성원이 배제될 수도 있다.
미국의 교수이자 사회 정의 전문가인 버지니아 유뱅크스(Virginia Eubanks)는 편향된 데이터를 기반으로 한 자동화된 금융 결정으로 인해 역사적으로 불리한 지역에 살고 있거나 진로가 비정형적인 사람들이 어떻게 불이익을 받는지를 보여주며 이러한 현상을 잘 보여줍니다.
이는 중요한 질문을 제기합니다. 금융 결정의 자동화가 은행 서비스에 대한 접근성 격차를 줄이는 데 어떻게 도움이 되는지 확인할 수 있습니까?
이러한 차별 위험에 대응하여 과학 문헌에서 여러 가지 방법이 탐구되고 있습니다. 예를 들어 Nuka와 Ogunola는 금융 포용 접근 방식을 제안합니다. 여기에는 사회 집단 간의 대우 격차를 줄이기 위해 훈련 데이터의 편향을 식별하고 수정하여 통계 모델을 지속적으로 개선하는 것이 포함됩니다.
기술 솔루션 외에도 금융과 같은 민감한 부문에서 알고리즘의 투명성과 공정성을 보장하기 위해 최근 규제 프레임워크가 마련되었습니다. 캐나다의 인공지능 및 데이터법과 유럽의 EU 인공지능법이 이에 대한 예입니다. 2024년에 채택되어 점진적으로 구현되는 후자는 신용 부여에 사용되는 것과 같은 고위험 AI 시스템에 엄격한 요구 사항을 부과합니다.
제13조는 시스템을 감사할 수 있고 시스템의 결정을 모든 이해관계자가 이해할 수 있도록 하기 위한 투명성 요구 사항을 명시합니다. 목표는 알고리즘 차별을 방지하고 윤리적이고 공정한 사용을 보장하는 것입니다. 금융 규제 기관도 공정한 경쟁 규칙을 준수하고 금융 안정성과 고객 보호를 위해 신중하고 투명한 관행을 보장하는 데 중요한 역할을 합니다.
그러나 엄격한 표준 채택을 늦추려는 특정 기술 및 금융 로비의 압력은 심각한 위험을 초래합니다. 일부 국가에서는 규제가 부족하고 다른 국가에서는 시행이 어려워 불투명성을 조장하여 가장 취약한 시민에게 해를 끼칠 수 있습니다.