세계보건기구(WHO)가 인간과 같은 아바타를 이용하여 기본적인 건강 정보를 제공하는 인공지능(슬롯 머신 사이트) 분야에 진출했다. 하지만 이 로봇은 사용자의 얼굴 표정에 동조하는 반응을 보이면서 때때로 정확하지 않은 정보를 전달하기도 한다.

스마트 슬롯 머신 사이트 리소스 어시스턴트 포 헬스(SARAH)라는 이름의 이 가상 건강 상담원은 정신 건강, 담배 사용, 건강한 식습관과 같은 주제에 대한 설명을 8개 국어로 24시간 제공한다. 이는 세계 곳곳에서 의료 인력이 부족한 상황에 대응하여 사람들에게 교육을 제공하고 인력 사이의 공백을 메우려는 WHO의 캠페인 일환으로 진행되고 있다.

WHO는 자사 웹사이트를 통해 이 초기 버전이 '항상 정확한 대답을 제공하는 것은 아니'라고 경고한다. SARAH의 슬롯 머신 사이트 교육은 최신 데이터에 비해 몇 년 뒤처져 있다. 때로 이 로봇은 슬롯 머신 사이트 모델에서 일컬어지는 '환각'처럼, 공중 보건과 관련된 잘못된 정보를 퍼트리는 이상한 답변을 제공하기도 한다.

SARAH는 웹엠디(WebMD)나 구글(Google)처럼 진단 기능이 없다. 실제로 이 로봇은 WHO의 업무 범위 밖에 있는 주제에 대해서는 대화를 하지 않도록 설정되어 있어, 특정 약물에 대한 질문에는 WHO 웹사이트로 안내하거나 '건강 관리 전문가와 상담하라'고 조언한다.

조지워싱턴 대학교의 방사선 전문의이자 연구원인 라민 자반은 '내용이 부족한 듯하다. 하지만 그들이 경계를 넘지 않으려 하는 것 같고 이것이 첫발을 내딛는 단계라고 생각한다'고 말했다.

WHO는 SARAH가 정확한 공중 보건 통계를 제공하고, 더 건강한 생활 방식을 위한 기본 방향을 제안할 수 있도록 연구자들과 정부 기관들과 파트너십을 맺기를 기대한다고 한다. 기구는 이 로봇을 개선하고 재난 상황에서 활용하는 방법에 대한 조언을 구하고 있으나, 이 슬롯 머신 사이트 조수가 여전히 개발 중임을 강조하고 있다.

'이 기술들은 아직 전문가와의 상호 작용이나 훈련된 클리니션으로부터의 의료 조언을 대체할 정도가 아니다'라고 WHO의 디지털 건강 및 혁신 부서 디렉터 알랑 라브리크가 설명했다.

SARAH는 오픈슬롯 머신 사이트의 챗지피티(ChatGPT) 3.5로 훈련을 받았으며, 2021년 9월까지의 데이터를 활용했다. 따라서 최신 의료 정보나 뉴스 사건들에 대한 정보는 갖추고 있지 않다. 예를 들어, 미국 식품의약국(FDA)이 알츠하이머 약물 레카네맙을 승인했는지에 대한 질문에, 실제로 2023년 1월에 조기 치료용으로 승인되었다는 것을 모르고 '아직 임상 시험 중이다'라는 잘못된 답변을 한 적이 있다.

심지어 WHO의 자료조차도 SARAH를 혼란스럽게 만들 수 있었다. 간염 사망률의 증가에 대한 질문을 받고 최근 WHO 보고서로부터 바로 자세한 정보를 제공하지 못했다가, 두 번째로 WHO 웹사이트에서 최신 통계자료를 확인하도록 요청받고 나서야 드디어 답변할 수 있었다. 기구는 이를 챗지피티 3.5로 훈련받은 로봇의 결과라고 설명한다.

가끔 인공지능 로봇은 아무런 대답도 내놓지 못하기도 한다. 자반은 워싱턴 DC에서 어디에서 유방 촬영을 받을 수 있는지 SARAH에게 물었지만, 로봇은 아무런 대답도 제공하지 못했다.

이러한 슬롯 머신 사이트 개발 초기 단계에서는 이런 문제들이 발생하는 것이 흔하다. 벤더빌트 대학교 의료 센터의 연구자들이 작년에 실시한 연구에서 챗지피티가 284개 의료 질문들에 대해 대부분 올바른 대답을 했지만, 때때로 '놀랍고도 명백하게 잘못된 대답'을 하는 경우가 있었다고 밝혔다.

질문에 공감을 표현하기 위해 SARAH는 사용자의 얼굴 표정을 30초 동안 저장한 후 삭제한다고 WHO의 커뮤니케이션 담당자 자이미 게레라가 말했다. 각 세션은 익명으로 진행되며 사용자는 자신의 질문을 WHO와 공유할 수 있도록 선택할 수 있는데, 이는 경험을 개선하기 위한 설문조사의 일부다. 게레라는 수집된 데이터가 무작위화되어 있으며 IP 주소나 개인 정보에 연결되지 않도록 한다고 설명한다.

그럼에도 GPT와 같은 공개 소스 데이터를 사용하는 것은 사이버 범죄자의 주요 표적이 되기 때문에 자체적인 위험을 안고 있다. 호프스트라 대학교의 공중 보건 및 IT 연구원 징콴 리는 SARAH에 접속하는 일부 사람들이 맬웨어 공격이나 비디오 카메라 해킹에 취약할 수 있다고 한다. 하지만 게레라는 익명의 세션 덕분에 데이터에 접근을 시도하는 공격은 문제가 되지 않을 것이라고 말한다.

정부 기관이나 연구자도 정기적으로 데이터에 접근할 수 없으며, 건강 패턴을 추적하는 데 도움이 되는 질문 데이터 역시 요청하지 않는 이상 얻을 수 없다. 게레라는 이로 인해 SARAH가 예를 들어 다음 독감 유행을 예측하는 데 가장 정확한 도구가 되기 어려울 것이라고 언급했다.

SARAH는 코비드-19와 담배에 대한 기본 정보를 제공하는 2021년 WHO의 가상 건강 상담원 프로젝트인 플로렌스의 연장선이며, 뉴질랜드 기반의 소울 머신스가 두 프로젝트의 아바타 구축을 담당했다. 소울 머신스는 SARAH 데이터에 접근하지 못하지만, 그레그 크로스 CEO는 회사가 GPT 데이터를 활용해 결과와 경험을 개선하는 데 사용하고 있다고 했다. 세계보건기구는 올해 초 정부 기관 파트너들에게 건강 관련 슬롯 머신 사이트 모델에 대한 윤리 지침을 발표했는데, 이는 데이터 투명성을 촉구하고 안전을 보호하기 위한 것이다.

플로렌스는 젊은 비백인 여성으로 나타났던 것에 반해, SARAH는 백인으로 보인다. 라브리크는 아바타의 모습을 바꾸고 업데이트하는 것이 어렵지 않으며, 향후 사용자가 아바타를 선택할 수 있게 될 것이라고 말했다.

SARAH의 성별에 관해서는 '저는 챗봇 디지털 건강 증진자이므로 성별을 가지지 않습니다. 저의 목적은 여러분의 건강한 생활을 지원하는 것입니다. 담배를 끊는 방법, 음주를 줄이는 데 대한 질문 혹은 전반적인 웰빙 상태를 개선하는 데 도움이 필요하신가요?' 라고 답한다.

※이 기사는 Fortune.com 원문을 바탕으로 작성됐으며, 번역은 슬롯 머신 사이트 소속 AI기자(GPT-4 활용)가 도왔습니다.

/ JESSICA NIX & 이세연 기자