게티이미지뱅크


신용대출을 신청한 직장인 ㄱ씨는 ‘인공지능(AI) 심사 결과 대출 불가’라는 통지만 받고 이유를 듣지 못했다. 대출심사 담당자 ㄴ씨는 은행이 도입한 인공지능의 판단에 따라 기업 대출을 승인했다가, 해당 기업이 도산하면서 대출금을 회수하지 못했다. 이런 상황에서 누가, 어떤 기준으로 책임을 져야 할까.
이는 가상 사례이지만 인공지능이 금융 업무에 깊숙이 도입되면 벌어질 수 있는 일이다. 이처럼 판단 과정이 불투명한 인공지능을 대출·상품설계 등에 활용할 경우 책임 공백 우려 체리마스터pc용다운로드 탓에 인공지능의 판단 근거를 사람들에게 ‘설명할 수 있는 능력’이 금융권 인공지능 도입의 핵심 과제로 부상하고 있다.
8일 금융권 얘기를 들어보면, 금융위원회와 금융감독원은 이르면 내년 초 발표할 ‘금융권 인공지능 가이드라인’과 ‘표준 인공지능 위험관리 체계’에 ‘설명 가능성(explainability)’에 관한 원칙과 평가 항목을 포함하 릴게임추천 기로 했다. 금융위 관계자는 “법령처럼 세부 기술 요건을 규정하기는 어렵지만, 설명 가능성을 확보하기 위해 금융회사가 갖춰야 할 기본 원칙은 제시할 계획”이라고 말했다.
설명 가능성은 인공지능이 어떤 방식으로 결론에 도달했는지를 사용자가 이해할 수 있는 형태로 제시하는 능력이다. 설명 가능성이 확보되면 인공지능을 활용한 금융거래에서 문제가 야마토릴게임 생겼을 때 데이터 자체의 문제인지, 설계 오류인지 확인하고 책임 소재를 분명히 할 수 있다.
현재 챗지피티나 제미나이 같은 고성능 생성형 인공지능은 결괏값이 어떤 내부 연산을 통해 산출됐는지 외부에서 확인하기 어려운 ‘블랙박스’ 구조를 갖고 있다. 이런 특성 때문에 대출 승인, 금융상품 설계 등 소비자 권익과 은행의 위험관리에 직결되는 바다이야기2 업무에 인공지능을 활용할 경우, 투명성·책임 소재 등 핵심 영역에서 문제가 발생할 수 있다. 은행 감독 국제기구인 바젤은행감독위원회(BCBS)도 “은행 직원이 제대로 이해하지 못하는 블랙박스 모델은 신용등급 산정이나 기업의 부도확률 추정 결과에 신뢰를 부여할 수 없다”고 강조하고 있다.
문제는 ‘설명 가능성’과 ‘고성능’이 현재 기술 수준 게임몰릴게임 에서 양립하기 어려운 특성을 가지고 있다는 점이다. 추론 과정을 명확하게 보여줘 설명 가능성이 높은 모델일수록 구조가 단순해지고, 그만큼 복잡한 패턴을 포착하는 능력이 떨어져 성능이 낮아지는 한계 때문이다. 이런 모순을 극복하기 위해 추론 과정의 투명도를 끌어올린 ‘설명 가능한 인공지능’(XAI) 모델도 개발되고 있지만, 복잡한 금융 데이터에 적용하기에는 아직 어렵다는 평가가 많다.
이에 따라 은행들도 보완적인 방식으로 설명 가능성을 확보하려는 노력을 이어가고 있다. 국민은행은 학습데이터의 출처·편향 여부 등을 먼저 검증하면서 인공지능 산출 결과의 신뢰도를 높이고 있다. 국민은행 관계자는 “설명 가능성이 갖춰지면 신용평가나 대출 심사에서 결과의 근거를 고객과 직원이 함께 확인할 수 있어 상담 품질과 위험관리 정확도가 높아질 것”이라고 말했다. 우리은행은 기업 여신심사와 가계 연체 예측 등에 인공지능을 활용하면서, 변수별 기여도를 산출하는 알고리즘을 적용해 직원이 판단 근거를 확인할 수 있도록 한다.
김영도 한국금융연구원 선임연구위원은 “설명 가능한 고성능 인공지능 연구·개발은 꾸준히 이어가되, 당분간은 보완적 안전장치를 두고 제한적으로 쓰는 현실적 접근이 불가피하다”고 말했다.
안태호 기자 eco@hani.co.kr