신기술들이 연이어 쏟아지고 있는 요즘,기술을 대충 훑고 지나가기 쉽다. 그런데 어떤 기술은 더 깊은 주의가 필요하다. 대표적인 사례가 바로 AI 딥페이크다.

해커들은 이제 생성형 AI 도구를 이용해 특정 인물의 목소리나 얼굴을 흉내 낸 영상을 실시간으로 만들어낼 수 있고, 이를 이용해 금전 이체를 요구할 수 있다. 마이애미 소재 핀테크 스타트업 '노보(Novo)'의 CEO 에밀리 추(Emily Chiu)는 “우리 경제 전체가 의존하는 신뢰와 신원 시스템을 무너뜨릴 수 있는 중대한 위험”이라고 경고했다.

최근 사우디 리야드에서 열린 슬롯 사이트 ‘세계에서 가장 영향력 있는 여성 리더(MPW)’ 서밋에 참석한 추 CEO는 지난해 홍콩에서 발생한 사례를 언급했다. 당시 한 금융회사 직원이 2500만 달러(약 340억 원) 이상을 사기범들에게 이체했다. 그는 이메일로 자금 요청을 받은 뒤 의심을 품었지만, 곧 이어진 줌(Zoom) 영상회의에 등장한 이사들과 CFO가 모두 실제 인물처럼 보여 안심하고 돈을 보냈다.

사건을 수사한 현지 경찰은 “기존 영상 사기는 1:1 통화에 그쳤지만, 이번에는 다자간 회의였고 보이는 모든 인물이 가짜였다”고 설명했다. 이처럼 정교한 AI 기술이 사용됐지만, 접근성과 사용 난이도는 매우 낮다.

사이버보안 기업 넷스코프(Netskope)의 최고보안책임자(CSO) 데이비드 페어먼은 CNBC에 “이제는 사이버범죄자들이 고도의 기술 없이도 누구나 이 서비스를 사용할 수 있게 됐다”고 말했다.

이 사건의 피해 기업은 영국의 엔지니어링 기업 아럽(Arup)으로 밝혀졌다. 아럽의 최고정보책임자(CIO) 롭 그레이그는 성명에서 “전 세계 대부분의 기업과 마찬가지로 우리도 청구서 사기, 피싱, 음성 위조, 딥페이크 등 다양한 공격에 지속적으로 노출돼 있다”고 밝혔다. 그는 “이 문제는 단지 기업의 리스크가 아니라 산업과 사회 전반의 문제이며, 더 많은 인식이 필요하다”고 덧붙였다.

딜로이트의 금융서비스센터는 최근 보고서에서 “생성형 AI는 사기 위협을 급격히 증폭시킬 것이며, 이에 따라 2027년까지 전 세계 은행과 고객들이 입을 피해가 400억 달러에 이를 수 있다”고 전망했다.

추 CEO는 홍콩 사례를 두고 “앞으로 우리는 무엇이 진짜인지 확인하고 신뢰하는 능력 자체가 시험대에 오르는 세상을 맞이하게 될 것”이라며 “상거래와 핀테크의 기반인 신뢰 시스템 전체가 흔들릴 수 있다”고 말했다.

물론 이 문제를 해결할 수 있는 보안 솔루션을 제공하는 기업에는 기회가 될 수도 있다. 하지만 그녀는 “아직 해답이 명확히 나온 것은 아니다”라며 “핀테크 분야에 종사하지 않더라도 경계해야 할 문제”라고 강조했다.

/ 글 Steve Mollman & 편집 김다린 기자 quill@fortunekorea.co.kr