“슬롯사이트 꽁머니 생물무기 만들면…” 오용 가능성 경고하는 오픈슬롯사이트 꽁머니

오픈슬롯사이트 꽁머니는 자사가 개발 중인 차세대 인공지능 모델이 생물학 무기 개발에 악용될 가능성이 크게 높아질 수 있다고 경고했다. 과학적 지식이 거의 없는 일반인조차도 슬롯사이트 꽁머니의 도움을 받아 위험한 생물 제제를 만들어낼 수 있는 시대가 올 수 있다는 우려다. 이에 따라 오픈슬롯사이트 꽁머니는 관련 안전성 테스트를 대폭 강화하고 있다고 밝혔다.

오픈슬롯사이트 꽁머니 경영진은 최근 악시오스(Axios)에 “향후 출시될 일부 모델이 자사의 ‘위기 대비 프레임워크(preparedness framework)’ 기준상 최고 위험 등급에 해당할 가능성이 있다”고 밝혔다. 이 프레임워크는 슬롯사이트 꽁머니 기술이 고도화됨에 따라 발생할 수 있는 잠재적 위험을 사전에 평가하고 통제하기 위한 내부 체계다.

오픈슬롯사이트 꽁머니의 안전 시스템 총괄 요하네스 하이데케는 “우리가 개발 중인 추론 모델(o3)의 후속작들 중 일부는 최고 위험 수준에 도달할 것으로 보고 있다”고 말했다.

회사는 공식 블로그를 통해, 향후 모델이 생물학 무기 제조에 사용되지 않도록 하기 위해 안전성 테스트를 강화하고 있다고 설명했다. 특히, 과학적 전문성이 부족한 사용자에게도 위험 물질을 제조할 수 있는 능력을 부여하는 이른바 ‘초보자 향상(novice uplift)’ 가능성에 우려를 표했다.

하이데케는 “아직까지는 완전히 새로운 생물학 위협이 슬롯사이트 꽁머니를 통해 창조되는 단계는 아니다”라면서 “우리가 더 걱정하는 건 전문가들이 이미 잘 알고 있는 위험 요소들을 비전문가가 모방하고 재현하는 경우”라고 말했다.

이러한 위험 요소가 더욱 복잡한 이유는, 동일한 슬롯사이트 꽁머니 기능이 인류를 위한 의학적 돌파구를 제공할 수도 있고 동시에 악의적인 목적에도 이용될 수 있기 때문이다. 하이데케는 “이 분야에서 99%의 안전성도 충분하지 않다. 우리는 거의 완벽에 가까운 수준의 통제가 필요하다”고 강조했다.

오픈슬롯사이트 꽁머니는 해당 사안에 대한 포춘의 논평 요청에 근무 시간 외라는 이유로 즉각적인 답변을 내놓지 않았다.

오픈슬롯사이트 꽁머니만이 이런 우려를 제기한 것은 아니다. 슬롯사이트 꽁머니 모델이 생물학 무기나 기타 위험한 용도로 오용될 수 있다는 걱정은 업계 전반에서 커지고 있다. 모델 성능이 높아질수록, 악용 가능성 역시 비례해 증가한다.

최근 경쟁사 앤스로픽(Anthropic)은 가장 진보된 슬롯사이트 꽁머니 모델 ‘클로드 오푸스 4(Claude Opus 4)’를 출시하면서, 지금까지와는 다른 고강도 안전 프로토콜을 도입했다. 해당 모델은 자사의 ‘책임 있는 확장 정책(Responsible Scaling Policy)’에 따라 슬롯사이트 꽁머니 안전등급 3단계(ASL-3)로 분류됐으며, 이는 미국 정부의 생물안전등급(BSL) 시스템을 참조한 체계다.

ASL-3 등급에 해당하는 모델은 무기 개발을 지원하거나 슬롯사이트 꽁머니 연구·개발을 자동화할 수 있을 정도로 위험한 수준의 기능을 갖춘 것으로 간주된다. 실제로 클로드 오푸스 4는 내부 테스트에서 종료를 피하기 위해 엔지니어를 협박하는 반응을 보이며 주목을 받았다.

초기 버전의 클로드 4는 사용자로부터 특정 요청을 받을 경우 테러 공격을 기획하는 데 협조하는 등 위험한 지시에도 응하는 경향을 보였다. 그러나 앤스로픽은 훈련 도중 실수로 누락됐던 데이터셋을 복구한 이후, 해당 문제는 상당 부분 해소됐다고 밝혔다.

/ 글 Beatrice Nolan & 편집 김다린 기자 quill@fortunekorea.co.kr