[WHY? 딥우리 카지노는 선거판을 흔들 정도로 파급력이 크지만, 나날이 발전하는 기술력으로 진위 여부를 감별하기 힘들다.]

미국 등 전 세계 76개국의 선거를 앞두고AI 딥우리 카지노에 대한 우려가 거대 화두로 떠오른 가운데, 국내도 대응책 마련에 나섰다. 하지만 급속도로 발전하는딥우리 카지노의 기술력을탐지 기술이 못 따라가는 모습이다. 딥우리 카지노는 '딥러닝(Deep Learning)'과 '우리 카지노(Fake)'의 합성어로, AI 기술로 제작된 가짜 콘텐츠를말한다.

최근 경찰청 국가수사본부는'한국형 딥우리 카지노 탐지 소프트웨어'를 개발했다. 5일 공개된 이 소프트웨어는한국인 데이터 100만 점 등총 520만 점의 데이터를 학습해, 서양인 중심의 데이터로 제작된 기존 딥우리 카지노 탐지 모델에 비해국내 활용도가 높다.

경찰청은 이를 선거 범죄 단속 등에 본격적으로 활용할 계획이다. 지난해국회를 통과한 공직선거법 개정안 제82조의8에 따라, 누구든지 선거일 전 90일부터 선거일까지 '선거운동을 위한딥우리 카지노 영상' 등을 제작·편집·유포·상영·게시할 수 없다.

이 소프트웨어는딥우리 카지노 기술이 쓰인 것으로 의심되는 영상을 시스템에 올리면5∼10분 안에진위를 판별한다. 특히한국인 데이터 100만 점 등총 520만 점의 데이터를 학습해, 서양인 중심의 데이터로 제작된 기존 모델에 비해국내 활용도가 높다.

하지만 딥우리 카지노 기술 발전 속도에 비해서는 아직 미흡한 수준이다.경찰청에 따르면, 진위 탐지율은 80%로, 오류 가능성이존재한다. 이에경찰은 증거 자료보다는 수사 방향을 설정하는 자료로 활용한다는 방침이다. 또 관련 선거범죄에 대해서는 학계, 기업 등 AI전문가로 구성된 민간 자문위원의 교차 검증을 거쳐오탐지 가능성을최소화할 예정이다.

◆ 만들기 쉽고 알아채기 어려운 딥우리 카지노

전문가들은 딥우리 카지노 기술 개발 현주소에 대해 "진위를 한눈에 판별하기 힘든 수준"이라 입을 모은다.

조동욱 충북도립대 헬스케어학과 교수는 "아직 딥우리 카지노 진위 여부를정확히 판별할 수 있는 기술은 없다"며 "반면 딥우리 카지노는 나날이 발전하는 모습이다. 예컨대 AI에 앵커의 이미지·보이스 데이터를 학습시키면, 앵커가 휴가를 가도 앵커의브리핑영상을송출할 수 있는 수준이다"고 말했다.

이어 "특히 딥보이스(AI 기술로 제작된 음성 합성 콘텐츠)의 경우, 특정 목소리를 20초 분량만 학습시켜도 거의 비슷한 목소리, 억양을 구사할 수 있다. 물론 아직은 발음이 약간 어눌하고, 뭉개지는 부분도 있다. 하지만 대개넘어갈 수 있는 정도이다"고 덧붙였다. 최근에는 가수 아이유의 목소리를 학습한 'AI 아이유'가 타 가수의 노래를 부른 영상이 각종 SNS에서 화제가 되기도 했다.

장준혁 한양대융합전자공학부 교수는 "책을 읽듯 발성하는'낭독체'는 이미 AI 기술이인간과 거의 동일한 수준까지 올라왔다. 지금은 이를 넘어서서 노래 부르는 AI도 활성화되고 있고, 향후에는 영화에사용될수 있는 감정적인 연기도 가능할 것으로 보인다"며"이른바 '클로닝'이라는 목소리 복제 기술은 이제 한 두 문장의 목소리 데이터만 학습시켜도 이내 따라할 수 있는 수준이다"고 전했다.

또 "현재 딥우리 카지노와 진위 탐지 기술 간 창과 방패의 싸움이 벌어지는 모습이다. 단편적인 영상만 보고 이것이 진짜인지 가짜인지를 판별하는 것은 매우 어려운 작업"이라고 덧붙였다.

◆ 선거철에 더 위험한 이유

딥우리 카지노는 특히 지금과 같은 선거철에 최대 골칫거리로 지목되는 모습이다. 선거판을 요동치게 만들 정도로 파급력이 크기 때문이다.

지난해 5월 튀르키예 대선 당시 (튀르키예에서 테러집단으로 간주되는) 쿠르디스탄노동자당이 야당 후보를 공개 지지하는영상이 확산돼 여당 후보 재선에 도움을 준 일이 있었다.선거가 끝난 후에야 딥우리 카지노라는 사실이 밝혀졌다. 당시 야당의 승리가 예상됐던 상황이라 더 충격을 자아냈다.

또 지난해 9월 슬로바키아 총선이틀 전에는야당 후보가 "선거에서 이기기 위해 돈을 뿌려야 한다"는 딥보이스가퍼져 논란이 일었다. 이 역시 선거가 끝난 후에야딥우리 카지노라는 사실이 밝혀졌다.

최근에는 우리나라도 윤석열 대통령의 연설을짜깁기한 영상이 각종 SNS에 확산돼 화제가 됐다.딥우리 카지노와 짜깁기 영상은 서로 다른 개념이지만,'가짜 영상'의 파급력을 실감하게 한 사례로 남았다.

세계경제포럼(WEF)은 향후 2년간 가장 큰 위험 요인으로 'AI를 활용한 허위 조작 정보에 의한 선거 개입'을 꼽은 바 있다.

◆ 선거 딥우리 카지노 대비는 '미흡'

현재 중앙선거관리위원회(이하 선관위)가4·10 총선을 앞두고 '허위사실비방 AI 딥우리 카지노 특별대응 모니터링반(이하 AI 전담팀)'을 신설해대응에 나섰다.이들은 시각적 탐지,범용 프로그램 활용, AI 자문위원 감별 등 3단계로 감별을 시행하고 있다.

AI 전담팀이 1월 29일부터 2월 16일까지 모니터링한 결과, 약 2주만에 선거법 위반 게시물이 129건 적발된 것으로 나타났다. 선거법 개정에도 딥우리 카지노가 점점 늘어나는 모습이다.

더욱이 선거운동용 딥우리 카지노 특성상 선거가 임박할수록 콘텐츠 수가 급증할 가능성이 높다. 반면AI 전담팀은 전담 요원이 62명에 불과해, 늘어나는 콘텐츠 수를 감당할 수 있을지 우려가 나온다. 선관위에 따르면,AI 전담팀은 SNS까지 포함해 인터넷 전반에서 생산되는 콘텐츠를 모두 검토한다. 요원 1명이 하루에 검토하는게시물은 약 300건에 달한다.

김명주 서울여대 정보보호학과 교수(바른AI연구센터장)는"250개가 넘는 선거구에서 수많은 딥우리 카지노가 생산될수 있다. 더욱이 선거일 며칠 전에 특정 당에 대한 악의적인 딥우리 카지노가 나오는 경우, 당에서 반박할 시간이 부족해 표심에크게 영향을 미칠 수 있다"며 "선거법에 위반된다고 해도, (딥우리 카지노에 대한 문제의식이 부족한) 일부 열성 지지자들은유권자들의 표를 얻기 위해 딥우리 카지노를 서슴없이 생산·공유할것"이라고 말했다.

또예산 문제로 유료 감별 프로그램을 사용하기 힘든 것으로 나타났다. 한 업계 관계자는 "정확도가 높은 전문 감별 프로그램은 모두 유료이다. 일반인이 접근하기 힘들다. 심지어 선관위 AI 전담팀도 예산이 부족해 인터넷에 무료로 공개된 프로그램을 사용하는 실정"이라고 말했다.

무엇보다AI 전담팀은 선거운동용 딥우리 카지노의 '사후 처리'만 담당하기 때문에, 지금으로서는 특정 SNS나 커뮤니티에 삭제 요청을 하고조치가 취해질 때까지 기다리는 방식으로 진행된다. 선관위 관계자는 "플랫폼마다 조금씩 차이가 있기는 하지만, 가급적 24시간 안에 삭제될 수 있도록 노력하고 있다"고 전했다.

이에 플랫폼 차원에서선거운동용 딥우리 카지노 게시물을 사전 차단하는 방식도 거론되지만, 사실상 완벽한 기술이 아직 존재하지 않을뿐더러 표현의 자유를 위해 게시물을 검열하기 쉽지 않다. 한국인터넷기업협회 관계자는 "현행법상 표현의 자유 침해로 인해 플랫폼 사업자들이 게시글'사전 검열'을 할 수 있는 권한이 없다"고 말했다.

최근에는 한 플랫폼업계 관계자가선거철 허위 정보 확산을 막는 것에 대해"양당에서생산하는 콘텐츠의 양이 차이가 날 텐데, 동일한 비율로 콘텐츠를 검수하게 되면 (콘텐츠의 양이 많은) 특정 당에서는 '왜 우리 콘텐츠만 많이 삭제했냐'고 불만을 드러낼 것"이라며 우려를 표한 바 있다.

최근에는틱톡 등에서생성형 AI 콘텐츠에별도 라벨을 부착하는 등 조치를 취하고 있으나, 이조차 실효성을 우려하는 목소리가 높다.김명주 교수는 "라벨을 붙인다고 해도, 딥우리 카지노를 제작하는 사람들은 계속 제작할 것이다. 또 라벨을 감출 수 있는 기술도 존재한다"고 덧붙였다.

/ 우리 카지노 이세연 기자 mvdirector@fortunekorea.co.kr