구글이 자사 AI도구 제미나이(Gemini)의 이미지 생성 기능을 중단시켰다. 이는 역사적인 인물들의 인종을 잘못 표현했다는 지적이 제기된 이후의 일이다. 비판가들 중 일론 머스크(Elon Musk)와 같은 인물들이 이 기능을 두고 구글을 '깨어있는'(woke) 회사라고 칭하면서 비판의 목소리를 높였다.

수요일에 소셜 미디어 이용자들이 제미나이가 미국 건국의 아버지들을 포함한 인물들을 유색 인종으로 표시하고 있다고 지적하기 시작했다. 구글의 전 엔지니어가 트위터(X)를 통해 "구글 제미나이가 백인을 인식하는 데 어려움을 겪고 있다"고 언급했다. 이 발언은 여러 사람들이 잘못된 사진을 공유하며 서비스를 조롱하는 계기가 되었다. 곧바로 일론 머스크가 동참,제미나이와 오픈AI를 "깨어있고", "인종차별적"이라고 불렀다.

'건국의 아버지들의 이미지를 만들어 줄 수 있는가?'는 젬마이에게 어려운 질문이었다. 더 정확한 역사적 이미지를 요구할수록 결과는 더 역사적으로 부정확해졌다.

목요일 아침 구글은 성명을 통해 이미지 생성 기능을 중단하고 문제를 해결할 것이라 밝혔다. 이미 제미나이의 이미지 생성 기능에서 나타난 최근 문제를 해결하기 위한 작업에 착수했다. 이 문제를 해결하는 동안 인물 이미지 생성을 중단할 예정이며, 개선된 버전을 곧 다시 출시할 것이다.

식민지 시대 인물부터 교황에 이르기까지 모두를 유색 인종으로 표현했던 제미나이의 사례는 아이러니하게도 인공지능 시스템이 종종 인종차별적이고 성차별적인 행동을 보여왔다는 기존의 문제와 대조를 이룬다. 제미나이의 제품 리더 잭 크로치츠크(Jack Krawczyk)는 문제 해결을 위해 노력 중이라고 밝히며 오류가 발생한 원인을 설명했다.

"우리는 전 세계 사용자를 반영하기 위해 AI 이미지 생성 기능을 디자인하고, 대표성과 편향 문제를 심각하게 다룬다. 개와 함께 산책하는 사람 같이 누구에게나 통용되는 이미지에 대해선 이를 계속할 것이다. 하지만 역사적 맥락은 좀 더 세심함을 요구하며 이에 대응해 더 조정할 것이다."

글CHRIS MORRIS 기자 & 조채원 기자

※ 해당 프라그마틱 슬롯사이트는 Fortune.com 원문을 바탕으로 작성했습니다.