“프라이버시가 흘러들어간다” 슬롯 꽁 머니 챗봇의 그림자

슬롯 꽁 머니와의 대화는 재밌다. 그런데 때때로 너무 과하다. 메타(Meta)의 계약직 인력에 따르면, 이용자들이 메타의 슬롯 꽁 머니 챗봇과 대화하며 실명, 전화번호, 이메일 등 민감한 개인정보를 너무 쉽게 공유하고 있다.

비즈니스 인사이더는 메타와 계약한 리뷰 플랫폼 ‘어라이너(Alignerr)’와 ‘스케일슬롯 꽁 머니’ 산하 아웃라이어(Outlier)를 통해 일하는 리뷰어 4명을 인터뷰했다. 이들은 메타 슬롯 꽁 머니 훈련용 데이터 품질 개선을 위해 실제 사용자 대화를 검토하는 역할을 맡고 있다. 그리고 실명 등 가려지지 않은 개인정보가 메타 프로젝트에서 자주 등장했다고 증언했다.

이용자들은 페이스북이나 인스타그램에서 메타의 슬롯 꽁 머니에게 친구 혹은 연인에게 하듯 대화하는 경우가 많았다고 한다. 셀카를 보내거나, 때로는 노골적인 사진을 전송하기도 했다.

슬롯 꽁 머니와의 친밀한 대화가 위험해질 수 있다는 사실은 이전에도 알려진 바 있다. 메타의 방식 즉, 향후 슬롯 꽁 머니 상호작용의 질을 높이기 위해 인간 리뷰어를 활용하는 전략 역시 업계에선 새로운 일이 아니다. 예컨대 2019년 가디언은 애플 계약직 리뷰어들이 시리(Siri) 사용자로부터 매우 민감한 대화를 자주 듣게 된다고 보도한 바 있다. 당시 애플은 민감한 녹음 데이터를 처리할 명확한 내부 절차조차 없었다.

블룸버그는 아마존이 수천 명의 직원을 동원해 알렉사 사용자들의 음성 클립을 검토하고 전사하는 사례를 전한 바 있다. 이 밖에도 마이크로소프트가 엑스박스에서 녹음된 어린이 목소리까지도 외부 계약직을 통해 분석했다는 사실이 보도됐다.

하지만 메타의 사례는 조금 다르다. 지난 10년간 반복돼 온 개인정보 유출과 위탁 구조 관리 실패 때문이다.

대표적 사례가 2018년 ‘케임브리지 애널리티카(Cambridge Analytica)’ 사건이다. 당시 뉴욕타임스와 가디언은 공화당 대형 후원자인 로버트 머서가 후원한 이 정치 컨설팅 업체가 페이스북을 통해 수천만 명의 데이터를 무단 수집하고, 이 정보를 2016년 미국 대선에서 트럼프 후보 타깃 마케팅에 활용했다고 폭로했다. 문제가 된 건 성격유형 테스트 앱이었다. 이 앱은 사용자뿐 아니라 사용자 친구들의 정보까지 추출할 수 있는 권한을 갖고 있었다.

이 사건은 페이스북에 미국 연방거래위원회(FTC)로부터 사상 최대 수준인 50억 달러의 벌금을 안겼다. 페이스북 개발자 플랫폼의 과도한 데이터 접근 권한, 그리고 허술한 감시 체계를 드러낸 사건이었다.

2021년 내부고발자 프랜시스 하우겐이 공개한 문서에 따르면, 메타는 사용자 안전이나 개인정보 보호보다 성장과 참여 지표를 우선시해온 경향이 짙었다.

2019년 블룸버그는 페이스북이 사용자 음성 채팅을 외부 계약직을 통해 전사하게 하면서도, 이 음성이 어떻게 수집됐는지는 모른 채 작업이 이뤄졌다고 보도했다. 페이스북은 “해당 이용자들이 전사 서비스에 동의한 경우에만 음성이 사용됐으며, 이후 관련 프로그램은 중단됐다”고 해명했다.

이후 페이스북은 이런 이미지를 바꾸기 위해 노력해왔다. 2021년 10월, 회사명을 ‘메타’로 변경하며 '메타버스' 중심 전략을 선언했다. 하지만 그 결정이 허위정보, 개인정보, 플랫폼 안전성 논란에 따른 회피성 조치였다는 시선도 여전히 존재한다.

현재 인간 리뷰어를 통해 슬롯 꽁 머니 학습 품질을 개선하는 건 업계 전반에서 통용되는 관행이다. 하지만 메타처럼, 세계에서 가장 인기 있는 소셜 플랫폼을 운영하는 기업이 여전히 외부 계약직에게 민감 정보를 노출시키고 있다는 증언은 또 다른 질문을 낳는다. 데이터는 어떻게, 누구에 의해 다뤄지고 있는가.

이에 메타는 포춘에 보낸 공식 입장에서 이렇게 밝혔다. “메타는 모든 직원과 계약직을 대상으로 개인정보 접근에 대한 엄격한 정책을 운영 중입니다. 슬롯 꽁 머니 훈련 데이터 품질을 높이기 위해 계약직과 협업하고 있지만, 이들이 접근할 수 있는 개인정보는 철저히 제한돼 있으며, 관련 지침과 보호 장치를 갖추고 있습니다. 슬롯 꽁 머니 맞춤형 프로젝트에서는 공개된 개인정보 정책과 슬롯 꽁 머니 관련 약관에 따라 일부 정보 접근이 허용되지만, 어떤 경우든 무단 공유 또는 오용은 데이터 정책 위반이며, 즉각적인 조치를 취할 것입니다.”

/ 글 Dave Smith & 편집 김다린 기자 quill@fortunekorea.co.kr