AI가 창작한 허구의 자료가 법정에서 등장했다. 현재 AI 기업 앤스로픽(Anthropic)은 음악 출판사 유니버설뮤직그룹(Universal Music Group), 콩코드(Concord), ABKCO 뮤직앤레코즈 간 소송을 진행 중인데, 앤스로픽 변호사는 자사 AI 챗봇 ‘클로드(Claude)’가 만들어낸 잘못된 인용을 전문 보고서에 포함시킨 사실을 법원에 시인했다.

이 오류로 인해 앤스로픽의 데이터 과학자 올리비아 첸(Olivia Chen)이 주장을 뒷받침하기 위해 존재하지 않는 학술 보고서를 인용한 것으로 지목됐다. 앤스로픽 대리인 이바나 두카노비치(Ivana Dukanovic)는 수작업 검토 과정에서 이 부정확한 인용을 걸러내지 못한 것은 “정직한 인용 실수”라며 책임을 인정했다.

지난 4월 첸 박사가 제출한 전문가 보고서에는앤스로픽의 대형 언어 모델 클로드를 저작권이 있는 가사로 학습시켰다는 주장에 반박하기 위해 학술지를 인용한 인용문이 포함됐다. 링크·권·페이지·발행 연도는 실제 존재하는 형식이었으나, 저자명과 논문 제목은 AI가 ‘환각(hallucination)’처럼 지어낸 가짜였다.

두카노비치 변호사는 “존재하는 슬롯 무료 사이트에 대한 올바른 법적 서지 정보를 요청했으나, 클로드가 틀린 정보를 생성했고 수동 검토에서 놓친 것”이라고 해명했다.

미국 서기 판사 수잔 밴 퀴렌(Susan van Keulen)은 원고 측이 첸 박사를 직접 심문하자는 요청은 기각하면서도 “단순 인용 누락과 AI 환각은 전혀 다른 심각한 문제”라고 지적한 바 있다. 앤스로픽과 담당 로펌 레이덤앤드워킨스(Latham & Watkins)는 추가 논평을 거부했다.

이번 소송은 AI 기업이 창작물이 아닌 저작권 보호 자료를 불법 활용했다는 혐의로 제기된 여러 사례 중 하나다. 톰슨로이터, 뉴욕타임스, 월스트리트저널 등 주요 언론사도 AI 회사를 상대로 저작권 침해 소송을 이어가고 있다.

/ 글 Stuart Dyos & 편집 문상덕 기자 mosadu@fortunekorea.co.kr