캔바, ‘딥페이크 포르노 생성 논란’ 프라그마틱 슬롯사이트 스타트업 인수? [EYE ON 프라그마틱 슬롯사이트]

호주의 그래픽 디자인 플랫폼 캔바(Canva)가 호주 이미지 생성 스타트업 레오나르도프라그마틱 슬롯사이트(Leonardo.프라그마틱 슬롯사이트)를 인수할 계획이라고 29일(현지시간)발표했다. 레오나르도프라그마틱 슬롯사이트는 약3900만 달러의 누적 투자금을 유치한 바 있다. 캔바는 레오나르도프라그마틱 슬롯사이트의 모델을 자사의 생성형 프라그마틱 슬롯사이트 도구에 통합할 예정이다.

이 소식을 듣자마자 지난 3월 레오나르도프라그마틱 슬롯사이트가 원치 않는 주목을 받았던 일이 떠올랐다. 당시 (미국의 기술 전문매체) 404 미디어는 레오나르도프라그마틱 슬롯사이트가 동의 없는 딥페이크 포르노 생성을 막는 안전장치가 부족하다고 보도했다.

어제 캔바의 공동 창업자 캐머런 애덤스(Cameron Adams)와 인터뷰를 하면서 이 문제에 대해 물어봤다. 그는 "레오나르도프라그마틱 슬롯사이트가 확실히 시스템을 강화하기 위해 많은 노력을 기울였고 신뢰와 안전에 더 중점을 두고 있다"고 답변했다.

그의 말이 맞는 것 같다. 실제로 레딧게시판에는 필터가 너무 제한적이라고 불평하는 레오나르도프라그마틱 슬롯사이트 사용자들의 글로 가득하다. 한 레딧 사용자는 지난주 "콘텐츠 필터가 말도 안 되게 엄격하다!"라고 글을 올리며 "입술과 코에 검은 반점 무늬가 있다"와 같은 무해해 보이는 문구조차 차단된다고 한탄했다.

애덤스는 창의성과 안전성의 균형을 맞추는 것은 계속 진화하는 문제라고 말했다. 그는 "사람들이 만들려고 하는 모든 종류의 콘텐츠를 따라잡아야 하고, 지속적으로 모니터링하고 조정하며 우리의 가치에 부합하는지 확인해야 한다"고 설명했다.

그러나 레오나르도프라그마틱 슬롯사이트의 이러한 진화가 과거의 무분별한 행태를 잊기에 충분할까? 그리고 모델 학습 방식과 관련된 저작권 소송과 같은 향후 논란을 피할 수 있을까?

이러한 질문들은 레오나르도프라그마틱 슬롯사이트에만 해당되는 것이 아니다. 구글 출신의 저명한 연구원이 설립한 캐릭터프라그마틱 슬롯사이트나 스테이블 디퓨전모델을 만든 스태빌리티프라그마틱 슬롯사이트등 인수 희망자를 찾고 있다고 알려진 다른 이미지 생성 스타트업들에도 적용된다. 스태빌리티프라그마틱 슬롯사이트는 여러 건의 저작권 관련 소송에 직면해 있다.

그럼에도 불구하고 레오나르도프라그마틱 슬롯사이트가 점점 더 기업간 거래에 초점을 맞추고 있는 캔바의 인수를 통해 전환을 모색하는 것은 흥미롭다. 캔바는 브랜드들이 마케팅 및 광고 캠페인용 자산을 만들 수 있는 기회를 제공한다. 2013년에 설립된 캔바는 생성형 프라그마틱 슬롯사이트 분야에도 일찍 뛰어들어 오픈프라그마틱 슬롯사이트의 챗GPT출시 몇 주 후인 2022년 12월에 프라그마틱 슬롯사이트 생성 도구인 매직 라이트(Magic Write)를 선보였다.

여러 면에서 이 두 호주 기업의 조합은 잘 맞아 보인다. 1900만 명 이상의 사용자를 자랑하는 레오나르도프라그마틱 슬롯사이트는 그래픽 디자인, 컨셉 아트, 마케팅 및 패션 이미지를 만들고자 하는 창작 전문가와 팀들을 대상으로 한다. 레오나르도프라그마틱 슬롯사이트의 주요 기능 중 하나는 플랫폼에서 특정 데이터(예: 사진 세트)를 사용해 작은 모델을 학습시켜 동일한 캐릭터가 포함된 이미지를 생성할 수 있다는 점이다.

애덤스는 레오나르도프라그마틱 슬롯사이트의 과거 논란에 대한 우려를 대부분 일축했다. 그는 레오나르도프라그마틱 슬롯사이트가 최근 출시한 피닉스 모델이 "공개적으로 이용 가능한" 데이터와 크리에이티브 커먼즈(Creative Commons)의 공개 데이터로 학습되었다고 말했다. 하지만 이것이 웹에서 무단으로 수집된 저작권이 있는 데이터를 포함하지 않는다는 증거는 없다.

어쨌든 캔바의 기업 고객들은 이러한 문제에 대해 걱정할 필요가 없다. 캔바는 오래전부터 이들 고객에게 면책을 제공해왔기 때문이다. 한편 캔바의 엄격한 서비스 약관은 이미지 출력 문제에 대한 책임을 고객에게 전가한다. 그리고 일반적으로 더 많은 대기업들이 프라그마틱 슬롯사이트 모델을 자사의 플랫폼과 도구에 통합함에 따라, 저작권과 같은 문제들은 원래의 학습 데이터에서 점점 더 멀어지고 있다. 이는 향후 법적 판결과 규제만이 해결할 수 있을 것이다.

하지만 텍스트 및 이미지 모델은 적절한 프롬프트만 있으면 쉽게 해킹될 수 있다는 점은 분명하다. 완벽하게 보호하기는 계속 어려울 것이다.

예를 들어 X(구 트위터)에서 '플리니 더 프롬프터(Pliny the Prompter)'라는 이름으로 활동하는 한 유명 해커는 미드저니와 스태빌리티프라그마틱 슬롯사이트 같은 이미지 생성기에서 딥페이크와 성인물(NSFW) 콘텐츠를 빠르게 생성할 수 있다고 게시했다. 그는 포춘과의 인터뷰에서 피닉스가 다른 모델들과 비슷하다면 딥페이크와 포르노 이미지를 출력하게 만드는 것이 어렵지 않을 것이라고 말했다. 다만 이미지 모델은 텍스트보다 '탈옥'시키기 더 어려울 수 있다고 인정했다. "많은 무작위성이 있어서 운도 좋아야 하고 여러 번 시도해야 할 수 있다"고 그는 말했다.

하지만 그는 강력한 필터로 해커들이 안전장치를 우회하지 못하게 할 수 있다는 레오나르도프라그마틱 슬롯사이트의 주장을 믿지 않았다. "그런 말을 들을 때마다 5센트씩 받았다면 좋았을 텐데"라고 그는 말했다.

●메타가 사용자들이 맞춤형 프라그마틱 슬롯사이트 챗봇을 만들고 공유하고 디자인할 수 있는 도구를 출시할 예정이다. 로이터 통신에 따르면 메타는 '프라그마틱 슬롯사이트 스튜디오(프라그마틱 슬롯사이트 Studio)'라는 도구를 출시할 예정이다. 이를 통해 사용자들은 맞춤형 프라그마틱 슬롯사이트 캐릭터를 만들 수 있고, 인스타그램 크리에이터들은 이 프라그마틱 슬롯사이트 캐릭터를 "자신의 연장선"으로 사용하여 일반적인 DM 질문과 스토리 답글을 처리할 수 있다. 사용자들은 페이스북, 인스타그램, 왓츠앱에서 프라그마틱 슬롯사이트 캐릭터를 공유할 수 있다. 이 새로운 도구는 지난주 출시된 메타의 오픈소스 프라그마틱 슬롯사이트 모델 제품군 중 가장 큰 버전인 라마 3.1을 기반으로 만들어졌다.

●셔터스톡이 기업들에게 생성형 3D 모델을 만들 수 있는 프라그마틱 슬롯사이트 도구를 제공한다. 스톡 사진 서비스에서 더욱 멀어지고 있는 셔터스톡은 엔비디아 에디파이(Edify)의 다중 모달 아키텍처를 기반으로 한 3D 모델 프라그마틱 슬롯사이트 생성기를 출시한다고 발표했다. 이 도구는 50만 개 이상의 윤리적으로 확보한 3D 모델, 6억5000만 개 이상의 이미지, 그리고 상세한 셔터스톡 메타데이터를 포함한 셔터스톡 콘텐츠로만 학습됐다.

셔터스톡의 혁신 부문 부사장인 데이드 오르게론은 보도자료를 통해 "새로운 생성형 3D 기능으로 스튜디오와 개발자들은 작업 과정을 혁신할 수 있다"며 "라이선스가 있는 데이터로만 완전히 학습된 유일한 생성형 3D 서비스를 활용하여 원작자들에게 공정한 보상을 보장하고, 이들에게 옵트아웃 옵션도 제공한다"고 말했다.

●가트너(Gartner)의 새로운 연구에 따르면 2025년 말까지 생성형 프라그마틱 슬롯사이트 프로젝트의 최소 30%가 개념 증명 단계 이후 중단될 것으로 예상된다. 가트너는 이러한 결과가 "열악한 데이터 품질, 부적절한 위험 통제, 비용 증가 또는 불분명한 비즈니스 가치" 때문이라고 설명했다. 이는 생산성을 향상시키고 새로운 비즈니스 기회를 창출하기 위해 생성형 프라그마틱 슬롯사이트에 상당한 투자(500만 달러에서 2000만 달러 범위)를 정당화하려는 조직들이 직면한 많은 과제를 보여준다.

이번 주 시드니에서 열린 가트너 데이터 & 애널리틱스 서밋에서 가트너의 분석가 리타 살람은 지난 1년간의 생성형 프라그마틱 슬롯사이트 과대 선전 이후 "경영진들이 생성형 프라그마틱 슬롯사이트 투자 수익을 보고 싶어 하지만, 조직들은 여전히 가치를 입증하고 실현하는 데 어려움을 겪고 있다"고 말했다. 기업들이 투자 범위를 확대하고 있는 한편, 생성형 프라그마틱 슬롯사이트 모델 개발과 배포에 따른 재정적 부담도 점점 커지고 있다고 덧붙였다.

'복합' 프라그마틱 슬롯사이트 시스템이 대규모 언어 모델의 정확성과 신뢰성 문제를 해결하는 데 주목받고 있다. 지난 1년 동안 검색 증강 생성(RAG)이라는 기술이 크게 각광받았다. RAG는 모델과 데이터 검색 시스템을 결합하여 기존 프라그마틱 슬롯사이트 모델에 훈련받지 않은 새로운 정보를 제공함으로써 특정 작업을 수행할 수 있게 한다. 이후 "복합" 프라그마틱 슬롯사이트 시스템이라는 개념이 힘을 얻고 있는데, 버클리 프라그마틱 슬롯사이트 연구소(Berkeley 프라그마틱 슬롯사이트 Research)의 블로그 게시물에서 이러한 추세를 언급하며 "최첨단 프라그마틱 슬롯사이트 결과가 점점 더 단일 모델이 아닌 여러 구성 요소를 가진 복합 시스템에 의해 얻어지고 있다"고 밝혔다.

최근 데이터브릭스(Databricks)의 공동 창업자 두 명을 포함한 연구진이 흥미로운 논문을 발표했다. 이들은 네트워크의 네트워크(Networks of Networks, NoNs)라고 부르는 시스템을 구축했으며, 이 시스템이 GPT-4의 성능을 "큰 폭으로 뛰어넘었다"고 입증했다. 논문의 저자 중 한 명인 자레드 퀸시 데이비스(Jared Quincy Davis)는 "가장 좋은 점은 새로운 것을 훈련시킬 필요가 없었다는 것이며 모든 연구에 단 몇만 달러밖에 들지 않았다"고 말했다. 그는 "어떤 면에서 이러한 복합 시스템은 프라그마틱 슬롯사이트 연구 커뮤니티에 GPT-5나 6에 준하는 능력을 제공하고 있다"고 덧붙였다.

글SHARON GOLDMAN 번역 문상덕 기자 mosadu@fortunekorea.co.kr