“인공지능 기술 부작용 막는다”…KB증권, ‘AI 거버넌스 체계’ 추진

KB증권이 기술 급성장에 따른 부작용을 예방하고 체계적인 인공지능(AI) 금융 서비스 제공을 위해 ‘AI 거버넌스 체계’를 구축한다고 30일 밝혔다.

AI 기술이 급격하게 발전함에 따라 금융산업의 다양한 분야에서 로보어드바이저와 상담 챗봇 및 머신러닝 기반의 상품 추천 등 AI 기반 서비스가 확산하고 있지만, AI 알고리즘의 편향성과 고객 정보의 오남용, 부당한 차별 등 새로운 위험 요소가 발생하는 문제점이 있다.

이에 따라 삼성SDS, 김앤장 법률사무소, 삼정KPMG 등 전문업체의 컨설팅을 통해 AI 기술 활용 과정에서 발생할 수 있는 윤리적, 법적 문제와 AI 학습 데이터‧모델의 위험 요인을 사전에 식별해 방지하고, 고객에게 신뢰할 수 있는 AI 금융 서비스 제공하기로 했다고 KB증권은 설명했다.

이번에 추진하는 AI 거버넌스 체계는 AI 개발 및 활용 과정에서 인간의 존엄성과 공정성, 다양성 등을 존중하는 윤리 원칙 수립 및 준수체계를 마련하고, AI 시스템 개발을 위한 사내 규정 체계화를 목표로 한다.

실무 부서에서 AI 관련 시스템‧서비스 도입 검토 시 사전에 검토할 수 있도록 업무 매뉴얼을 제시한다. AI 서비스별 위험도를 측정해 산출된 위험수준별 관리 및 모니터링 정책을 수립한다.

KB증권은 AI 기술 남용으로 인한 고객 피해 예방을 통해 소비자들이 안심하고 금융 서비스를 이용하는 데 기여할 것으로 기대하고 있다. AI 활용에 대한 신뢰를 높여 국내 금융 시장의 경쟁력 강화에도 도움을 줄 것으로 예상한다.

하우성 KB증권 디지털사업총괄본부장은 “AI의 역할이 나날이 커져가고 있는 가운데 AI 거버넌스 체계를 올해까지 선제적으로 구축해 책임감있는 AI를 도입할 계획”이라며 “고객의 신뢰를 바탕으로 AI 기술을 선도하기 위해 최선의 노력을 다하겠다”라고 말했다.