변화를 기회로, 민관이 제시한 ‘AI 생태계’ 활성화 방안

[테크월드뉴스=양승갑 기자] 한국인공지능법학회는 20일 강남구 베스트웨스턴 강남호텔에서 국제 컨퍼런스를 갖고 ‘인공지능 생태계 활성화’을 주제로 강연을 진행했다. 특히 인공지능 생태계에 대한 업계의 다양한 관점에 대해 이야기했다.

▶ 민관이 협력하는 초거대 AI 생태계

“우리 기업도 초거대 AI 경쟁에 본격 합류하면서 가시적 성과를 창출하기 시작했다. 환경적 측면에서 규제적 요소를 담당하는 정부도 생태계를 구성하는 중요한 요소다.”

과학기술정보통신부 엄열 인공지능기반정책관(국장)은 이처럼 말하며 초거대 AI 생태계 구축을 위한 정부의 추진 전략을 발표했다. 구체적으로 ▲기술·산업 핵심 인프라 확충 ▲혁신 생태계 조성 ▲제도·문화 정착 등이다.

우선 정부는 AI 육성 측면에서 지원 정책을 보완할 예정이다. 텍스트·라벨링 중심의 학습용 데이터가 중심이 된다. 또한 AI 학습 능력을 강화하고 환각 현상 등 신뢰성 문제 해결을 위해 차세대 기술 개발을 추진한다. 현재는 반도체, 클라우드를 중심으로 ‘K-클라우드’ 정책을 운영하고 있다.

특히 민간이 주도하고 정부가 지원하는 초거대 AI 생태계를 구축할 계획이다. 이를 위해 의료·법률·심리상담·콘텐츠·학술 등 5대 민간 분야에서 플래그십 프로젝트를 추진한다. 장기적인 관점에서 AI 인력 양성 방안도 마련한다. 초거대 AI 관련 커리큘럼을 강화하며 산학 협력 프로젝트를 시행한다. 일반 국민 100만 명 대상으로는 5년간 AI 활용 역량 교육을 실시할 예정이다.

엄 인공지능기반정책관은 “5개의 초거대 AI 기업들을 중심으로 협의체가 구성됐다. 그렇다 하더라도 전문 분야에서 보여지는 부분은 약하기 때문에 플래그십 프로젝트를 추진할 계획”이라며 “앞으로의 AI 경쟁력은 신뢰성을 갖춘 AI다. 민간 자율적으로 이런 부분에 대해서 신뢰성을 확보할 수 있는 체계를 만들어야 하며 정부는 이런 부분을 마련하는 방안을 지원하겠다”고 말했다.

아울러 AI가 일상화돼야 생태계 활성화가 이루어질 것으로 바라봤다. 일상생활, 산업현장, 공공행정 등 다양한 영역에서 국민들이 AI를 실제로 경험하고 이를 기반으로 삶의 질이 향상됐을 때 대규모 AI 수요를 창출할 뿐만 아니라 산업 경쟁력을 기대할 수 있다는 시각이다.

엄 인공지능기반정책관은 “정부는 전 국민의 AI 일상화를 추진하고 있다. 수요 창출과 관련해 연결고리점을 찾아서 AI를 초기에 출시하고 확산하면서 선제적으로 생태계를 조성해 나갈 계획”이라며 “산업적으로도 우리나라는 강점이 있고 생태계 기반 초기 단계에 들어섰다고 보여진다”고 말했다.

▶ 분야별 가이드라인 마련으로 발전 선도

개인정보위원회 양청삼 개인정보정책국장은 ‘인공지능 생태계의 개인정보보호 정책 방향’에 대해 발표를 진행하며 AI 인식 문제와 앞으로의 발전 과제에 대해 소개했다.

전 세계적으로 AI에 대해 관심이 고조되고 있지만 개인정보 관련한 문제가 새롭게 떠오르고 있다. 데이터 오류, 왜곡, 거짓 정보 등 개인의 정체성을 위협할 뿐만 아니라 얼굴 이미지와 같은 생체 정보를 활용한 딥페이크는 범죄에 악용될 우려도 존재한다.

이에 세계 주요국은 AI를 최대한 활용하면서 보안성은 유지하기 위해 다양한 정책적 전략을 마련하는 추세다. 일례로 미국은 신뢰할 수 있고 책임감 있는 AI 운영을 위한 ‘AI Risk Management Framework’를 지난 1월 발표했다. 유럽연합의 경우 ‘AI 법’을 채택하며 규제 방안을 마련 중이다.

국내에서는 개인정보위원회가 AI 관련 데이터 정책 방향을 만들면서 신뢰 가능한 AI 데이터 규범으로 산업 발전을 선도하겠다는 목표를 밝혔다. 구체적으로 ▲원칙 기반 규율 추진체계 정립 ▲AI 단계별 개인정보 처리기준 구체화 ▲민관 협력을 통한 분야별 가이드라인 마련 등이 이루어진다.

양 개인정보정책국장은 규정 중심에서 원칙 기반으로 AI 전환이 필요하다고 내다봤다. 법령 해석상의 모호함 및 제도와 기술 간격 등 데이터 처리 복잡성이 증가함에 따라 사안별 특성에 맞는 법령 해석이 필요하다는 설명이다. 이를 위해 ‘AI 프라이버시 팀’을 오는 10월 중 신설한다. 사전 적정성 검토제를 도입하고 시범 운영해 내년 정식 운영된다.

또한 개인정보 처리기준을 구체화함으로써 AI 관련한 각종 의문사항과 불확실성을 해소시킬 계획이다. 구체적으로 기획·설계, 데이터 수집, AI 학습, 서비스 제공 등 단계로 이뤄진다. 민관 협력과 관련해서는 ‘AI 프라이버시 민관 정책협의회’를 발족할 예정이다. 데이터 처리 기준, 리스크 평가, 투명성 확보 등 3개 분과를 중심으로 구체적 사항을 논의한다.

양 개인정보정책국장은 “위원회는 원칙 기반 규율 체계를 위해 조직적으로 AI를 전담하는 팀을 신설하기로 했다. AI에서의 데이터 처리와 관련된 의문 사항과 보호 조치에 대해 해소할 것”이라며 “민관 합동 체계에서는 데이터 처리, 리스크, 투명성 확보에 대한 분과를 두어 추가적인 규제 방향들과 정책 방향들을 정리할 예정이다”라고 말했다.

▶ AI 활성화, 이해 관계자들의 협력이 중요

아마존웹서비스(AWS) 아키라 요시다 북아시아 AI 정책 책임자는 여러 이해 관계자들의 논의가 AI 활성화의 핵심이라고 강조했다. 생성형 AI는 고객 요구사항이 전부 다르고 다양한 이해 당사자가 관여되기 때문에 효과적인 AI 규제를 만들기 위해서서는 당사자 간의 이해가 중요하다는 설명이다.

요시다 책임자는 “모든 이해 관계자를 테이블로 끌어들이기 위해서는 다양한 이해 관계자의 논의와 자유로운 흐름의 데이터가 매우 중요하다”고 말했다.

이어 “AI는 몇 가지 위험이 있지만 사회에 많은 잠재력을 가져다 주고 있다. 따라서 위험을 최소화하면서 이점을 극대화하는 것이 중요하다”며 “고위험 사용 사례를 AI 규제로 해결해야 한다. 생성형 AI는 다양한 용도로 사용될 수 있기 때문에 특정 유즈케이스에 초점을 맞춰야 AI 잠재력을 좋은 방식으로 활용할 수 있다”고 덧붙였다.

특히 AI에 대한 책임 배분과 국제 정책과 관련해 상호 운용성이 매우 중요하다고 밝혔다. AI 사용은 한 국가에 국한되지 않고 전 세계적으로 활용되는 추세다. 고객들 역시 전 세계적에 걸쳐 AI 서비스를 배포하기를 원하기 때문에 국가 간 협력이 필요하다는 시각이다.

요시다 책임자는 “AI 성장에 대한 명확한 정의와 다양한 이해 관계자 간의 책임 배분이 필요하다”며 “AI 생태계에는 데이터셋 제공자, 개발자, 최종 사용자들이 포함된다. 따라서 좋은 규제 설계를 위해서는 이런 이해 관계자들의 책임을 명확하게 배분해야 한다”고 말했다.

이어 “국가 간 파편화가 부정적으로 나타날 경우 기업은 규제 문제에 직면하게 된다”며 “국가마다 다른 규제 요건에 대응할 자원이 부족한 스타트업과 중소기업의 경우 더욱 그렇다. AI 혁신을 촉진하기 위해서는 상호 운용성 또는 국제 정책 혁신이 매우 중요하다”고 덧붙였다.