SNS가 AI를 활용하는 방법
[테크월드=선연수 기자] 트위터와 인스타그램의 이용자 수는 각각 3억 3000만 명(2019. 05. 기준), 10억 명(2018. 06. 기준)을 넘어섰다. 전 세계 78억 인구수의 약 1/8에 해당하는 이 숫자는 몇십몇백 명의 직원만으로는 사용자들의 불편 신고를 접수할 수 없음을 의미하기도 한다. 운영자의 물리적 역량을 벗어날 수밖에 없는 온라인 상의 댓글, 쪽지, 태그 등을 통한 폭력을 막기 위해, SNS 기업들은 다양한 인공지능(AI) 기능을 도입하고 있다.
SNS의 사용자 검열 기준
7월 16일 미국 버락 오바마 전 대통령을 비롯한 대규모 유명인사의 동시 해킹 사건에 연루된 트위터는 어떤 기준으로 SNS를 운영하고 있을까? 트위터는 대표적으로 ▲표현의 자유 ▲편향성 지양 ▲모든 사용자를 동등하게 대우 ▲트위터 운영원칙 내에서는 자유롭게 의견을 표현할 수 있도록 권리 보장의 4가지 원칙을 기반으로 SNS를 건전하게 운영하기 위해 노력하고 있다. 그러나 해커가 1000달러(한화 약 120만 원)의 비트코인을 요구하며 실제로 금융 피해까지 발생하자, 트위터는 특별히 운영자의 권한으로 해킹당한 계정의 게시 기능을 일시 정지하는 조치를 취했다.
이번 트위터의 조치는 명확하다. 해킹당한 것을 감지하고 해당 계정을 일시적으로 정지한 것이다. 그러나 SNS를 이용하다 보면 특별히 문제가 될 행동을 하지 않아도 내 계정이 비활성화되거나 정지되는 현상을 겪는다. 트위터는 이용자의 신고가 들어오지 않아도 인종차별, 성폭력, 테러, 혐오 표현, 학대, 자살 등과 관련한 악성 트윗(트위터에 올라가는 게시물 형태)을 AI 기술을 적용해 삭제한다. 작년 3분기 실적 보고서를 통해 밝힌 성능은 이용자 신고 전, AI가 삭제한 악성 트윗의 비율이 50%가 넘는 것으로 집계됐다.
인스타그램의 경우에도 온라인 폭력을 방지하고자 AI가 댓글을 판독해주는 기능을 도입했다. 이용자가 악성 댓글을 게시할 때 해당 댓글의 폭력성을 판단해 댓글 게시자에게 경고를 보낸다. 댓글 게시자는 ‘게시’ 버튼을 다시 누르기 전 작성하려던 댓글을 재차 확인하고 수정할 수 있다. 이외에도 인스타그램의 AI 알고리즘이 불쾌하다고 판단하는 댓글이 게시될 경우, 머신러닝 기술을 통해 게시글 주인과 해당 계정의 팔로워들에게 문제의 댓글을 자동으로 숨겨주는 기능도 적용하고 있다.
나를 위한 광고, 나를 위한 소식
인스타그램의 ‘검색’ 메뉴, 트위터의 ‘나를 위한 트렌드’ 등은 그야말로 SNS 기업의 AI 기술이 제 능력을 발휘하는 공간이다. AI 알고리즘이 꾸린 맞춤형 피드를 통해 사용자의 체류 시간과 교류 활동이 늘어나면 광고의 노출, 클릭 횟수와 직결되기 때문이다. 트위터는 블로그를 통해 코어텍스(Cortex)가 구축한 모델링 기능과 AI 플랫폼을 활용해 심층 신경망을 적용함으로써, 사용자가 더욱 관심을 가질 수 있는 피드를 꾸미고 있다고 밝혔다.
사용자는 흥미있어 할 만한 글뿐 아니라 광고도 원하는 유형을 선택적으로 받아볼 수 있다. 인스타그램은 ‘설정’의 세부 메뉴인 ‘광고’에서 본인의 피드 상에 노출되는 특정 분야의 광고 횟수를 줄일 수 있다. 트위터의 경우 ‘설정 및 개인정보 – 개인정보 및 보안 – 맞춤형 서비스 및 데이터’ 경로를 통해 트위터가 추정한 나의 신원 정보, 내가 있었던 장소, 나의 웹 이용 기록 등을 활용해 맞춤형 광고를 볼 것인지 선택할 수 있는 기능을 제공한다.
SNS 운영 원칙과 사용자의 자발적 운영 권한
6월 23일(현지시간) 트위터는 미국 트럼프 대통령이 미국 내 인종차별 철폐 시위대를 향한 무력 사용 가능성을 언급한 트윗을 ‘가학적인 행위’에 관한 트위터 운영원칙을 위반했다는 이유로 해당 게시물을 ‘숨김’으로 처리했다. 이와 함께 ‘공익 측면에서 해당 트윗을 볼 수 있도록 설정해, ‘보기’ 버튼을 누르면 확인할 수 있으나 공유와 같은 2차적인 활동은 제한했다.
이처럼 SNS상에서의 검열 기준은 기업이 추구하는 가치나 CEO의 운영 방향이 반영될 여지가 높다. SNS 플랫폼들은 게시물을 검열하는 세부적인 규칙을 공개하고 있지 않아, 사용자는 결과를 추정해 받아들이게 된다.
트위터 잭 도시(Jack Dorsey) CEO는 지난 7월 17일(현지시간) 패스트컴퍼니(Fast Company)와의 인터뷰를 통해 “혐오, 괴롭힘, 학대와 같은 문제를 해결하기 위해 알고리즘을 통한 신고를 시행하고 있지만, 사용자의 트윗에 댓글을 다는 사람을 지정할 수 있는 기능과 같이 사용자가 자발적으로 트위터의 운영 정책에 따라 플랫폼을 자발적으로 제어할 수 있도록 새로운 기능을 계속 도입하고 있다”고 밝혔다.
그래도 삭제하시겠습니까?