일상화되고 있는 AI, 보험 산업의 과제는?

[테크월드뉴스=주가영 기자] 인공지능은 금융, 교통, 의료 등 다양한 분야에서 활용되며 관련 산업은 물론 개인의 삶에도 큰 변화를 가져오고 있다. 보험 산업도 이러한 변화에 발맞춰 상품, 채널, 보상 등 업무 전반에 인공지능을 적극 활용하는 한편, 인공지능에 의한 새로운 위험에 대비할 수 있는 보험 상품을 준비해 나가고 있다. 이와 함께 인공지능 활용을 둘러싼 법적 과제, 보험 산업의 인공지능 활용 활성화를 위한 제도 개선 방안 등이 논의되고 있다.

지난 8일 보험연구원은 ‘인공지능 활용 확대와 보험 산업의 과제’라는 주제로 세미나를 개최했다. 이날 세미나에서는 한양대학교 법학전문대학원 박혜진 교수와 보험연구원 황현아 연구위원이 각각 ‘인공지능 활용을 둘러싼 법적 과제’와 ‘보험 산업의 인공지능 활용을 둘러싼 법적 과제’라는 주제로 발표했다.

▶ 인공지능 의료기기, 책임 분배 문제 논의 필요

의료계의 AI 활용으로 이전에는 없던 새로운 유형의 리스크가 발생할 것으로 예상된다. 인공지능 의료기기가 고도화될수록 책임을 어떻게 배분할 것인지에 대한 논의가 필요하다는 지적이다.

한양대학교 법학전문대학원 박혜진 교수는 “인공지능 의료기기를 사용한 의사에게는 의료과오와 설명의무책임, 의료기관에는 적합한 시설과 설비 구축 등 관리감독의무 책임, 제조업자에게는 제조물에 대한 책임이 있다”며 “리스크 발생을 대비해 보험을 통한 위험의 분산이 필요하다”고 제언했다.

다만 아직까지는 소프트웨어를 제조물로 볼 수 있는지 해석의 문제가 있다는 지적이다. 제조물에 소프트웨어가 포함될 경우 인공지능 알고리즘을 개발한 회사와 완제품을 제조한 회사가 다르다면 부품(인공지능 알고리즘)에 결함이 있는 경우 두 회사가 부진정연대채무(연대채무자의 의사와 관계없이 우연히 발생한 채무)를 지게 된다.

제품뿐만 아니라 서비스에도 제조물 책임이 적용되면 제조물에 결합되거나 상호 연결되어 해당 프로그램의 1개 이상의 기능의 작동에 필수불가결한 디지털 서비스를 제공하는 업체도 책임을 진다. 필수적이지 않은 관련 서비스 개발자도 완제품 제조업자의 추천이나 영향력에 따라 제공되어 그의 통제 안에 있었다면 부품제조업자로서 제조물 책임을 진다.

박 교수는 “새로운 유형의 리스크를 대비해 의료기관은 의료 배상책임보험에 가입할 수 있고 의료기기 제조업자나 수입업자도 계약을 통해 책임을 이전하거나 면책을 요구하는 조항을 포함하는 방법도 있다”면서 “해외에서는 보험 외에도 의료기기로 인한 손해배상을 위해 공동 사업 책임 방식도 고려되고 있다”고 설명했다. 이어 “국내의 경우 한국의약품안전관리원의 피해구제 제도처럼 기금 방식으로 무과실 보상 같은 논의가 이뤄질 수 있을 것”이라고 덧붙였다.

또 한가지 우려되는 것은 설명가능 인공지능 기술의 한계다. 충실하지 못한 설명에 대한 판단과 평가 여부, 인간이 그 설명의 의미를 해석하는 과정에서의 오류 등이 그것이다.

그는 “향후 설명 가능한 기술이 연구되고 있기 때문에 더 발전해서 정확한 설명을 얻을 수 있게 된다고 한다면 설명 가능성이 매우 유용한 기술”이라며 “그것을 통해서 새로운 의학 지식을 발견하는 데 도움이 될 수 있을 것”이라고 말했다.

▶ 보험 산업, 인공지능 활용 분야별 적합한 보험 상품 개발해야

보험 산업도 타 산업과 마찬가지로 인공지능 기술의 도입과 활용이 중요한 이슈가 되고 있다. 다만 보험 산업은 인공지능을 통해 효용을 높이는 다른 산업분야와 달리 오히려 인공지능으로 인해 생기는 위험에 대한 보장도 제공해야 한다는 특수성을 가지고 있다.

보험 산업의 인공지능 활용 측면은 기존에도 인슈어테크 및 디지털 전환이라는 주제로 논의되어오고 있다. 위험보장 측면에선 주로 ‘모빌리티’ 분야와 관련해 논의되어 왔다. 인공지능이 적용되는 분야는 다양하지만 주요 쟁점은 상당부분 공통된다. 자율주행차 사고 책임 관련 쟁점은 AI의사(인공지능 의료기기), 로보어드바이저, AI설계사(AI텔러)에 대해서도 동일하게 발생한다.

황현아 보험연구위원(보험연구원 모빌리티연구센터장)은 “보험 산업의 인공지능 관련 법적 과제는 인공지능 ‘활용’의 측면과 ‘위험보장’의 측면으로 나뉘어 살펴보아야 한다”며 “활용 측면에선 보험회사의 인공지능 활용시 보험업법, 금융소비자보호법 등 보험회사에 적용되는 각종 법제에 어떠한 변화가 필요한지, 위험보장 측면에선 보험회사가 위험 보장을 제공하는 분야가 인공지능 도입으로 법제가 어떻게 변화하는지 살펴야 한다”고 설명했다.

실제로 해외에서는 인공지능 자체에 대한 규제를 마련하고 있다. 지난 6월 EU AI Act 초안이 의회를 통과해 위험 등급 구분에 의한 규제가 차등 적용됐다. 지난 10월에는 미국 AI 개발 및 사용에 관한 AI 안전‧보안 기준, 개인정보 보호, 평등‧시민권 향상, 소비자‧노동자 보호 등 행정명령 서명이 이뤄졌다.

국내에서도 2020년 인공지능 법제정비 로드맵이 발표되고 인공지능 기본법 제정이 추진 중이다. 안철수 의원이 대표발의한 인공지능 책임 및 규제법(안) 등 총 13건이 발의되어 있다.

황 연구위원은 “인공지능 활용이 일상화되는 단계에서는 보험업법, 금소법 등 기존 규제의 전면 개편이 필요할 수 있다”며 “현 단계 대응을 위해 금융 분야 AI 가이드라인을 제정해 AI윤리원칙, AI전담조직, 위험관리정책 수립의 3중 내부통제장치가 마련돼 있다”고 밝혔다.

이어 그는 “보험회사는 인공지능 활용 주체인 동시에 인공지능 위험에 대한 위험보장 주체로서의 지위를 가진다”며 “보험회사는 금융 및 보험 분야에 적용되는 인공지능 활용 관련 가이드라인을 준수함과 동시에 인공지능 개발사업자 및 이용사업자 전체에 대해 적용되는 일반법도 함께 준수해야 하기 때문에 인공지능 관련 책임법 및 규제법 동향을 선제적으로 파악하고 대응해 나갈 필요가 있다”고 말했다.

또한 “인공지능 관련 위험보장 제공자로서 보험회사는 자율주행차, 실외이동로봇, 인공지능 의료기기 등 인공지능 활용 분야별로 적합한 보험 상품을 개발해 제공해야 한다”며 “각 분야별 규제법 동향을 모니터링 해 개별 인공지능 위험수준을 파악하고 필요시 사고 위험을 낮추기 위한 규제법적 개선방안, 일반법 및 분야별 책임법 제‧개정시 보험의 요소가 고려될 수 있도록 선제적으로 참여할 필요가 있다”고 조언했다.