샌프란시스코에 본사를 둔 화제의 AI 스타트업 앤트로픽(Anthropic)은 13일(현지 시간)자사 AI 모델에 대한 '카지노 꽁돈 테스트'표준화 제안을발표했다. 앤트로픽은오픈AI에서 나온 직원들이설립한 회사이다.

카지노 꽁돈 테스트란 잠재적 보안 취약점을 발견하고 해결하기 위해 자신의 시스템을 공격하는 보안 관행이다. AI 모델의 경우 한 걸음 더 나아가 누군가 의도적 또는 우발적으로 소프트웨어를 오용할 수 있는 창의적인 방법을 모색하는 것까지 포함한다.

카지노 꽁돈 테스트는 AI 규제 논의에서도 중요한 역할을 하고 있다. 바이든 행정부의 AI 행정명령 첫 번째 지시사항은 '고위험 기반 모델을 개발하는 기업들은카지노 꽁돈 테스트 결과를 정부에 공유하는 것'이다. 최근 제정된 EU AI 법안에도 카지노 꽁돈 테스트 정보 제공 관련 요구사항이 포함돼 있다.

입법자들이 카지노 꽁돈 테스트를 중시하는 만큼 이를 주의 깊게 살펴볼 필요가 있다. 현재 업계에서는 카지노 꽁돈 테스트의 결과에만 집중할뿐, 과정에 대해서는상대적으로 무관심하다.앤트로픽은카지노 꽁돈 테스트 관행표준화가 부족해 결과를 맥락화하고 모델을 객관적으로 비교하기 어렵다고 설명했다.

앤트로픽은 블로그를 통해 제3자 카지노 꽁돈 테스트 자금 지원 및 장려 등 일련의 카지노 꽁돈 테스트 정책 권고안을 내놓았다. 또AI 기업이 카지노 꽁돈 테스트 결과와 연계해 새로운 모델 개발 및 출시 규모를 확대하는 명확한 정책을 수립해야 한다고 제안했다.

앤트로픽의 접근법으로는 언어 모델을 활용한 카지노 꽁돈 테스트, 다중 양식 카지노 꽁돈 테스트, 도메인 특화 전문가 카지노 꽁돈 테스트, 개방형 일반 카지노 꽁돈 테스트 등이 포함된다.

특히 도메인 특화 카지노 꽁돈 테스트가흥미롭다. 여기에는 고위험 신뢰 및 안전 위험, 국가 안보 위험, 문화적 뉘앙스나 여러 언어가 포함될 수 있는 지역별 위험 테스트가 포함된다.앤트로픽은 이 모든 영역에서 깊이가 상당한 이점이라고 강조한다. 가장 지식이 풍부한 전문가가 특정 위협을 집중 조사하면 그렇지 않으면 놓칠 수 있는 미묘한 우려사항을 발견할 수 있다.

동시에 이 접근법은 확장성이 떨어지고, 다양한 영역을 다루기 어려우며, 잠재적으로 중요할 수 있지만 해결이 쉽지 않은 고립된 모델 실패를 발견하는 경우가 많고, 실제 배포 환경에서 모델의 안전성에 대해 그다지 많은 것을 알려주지 않는다.

반면 AI 언어 모델로 다른 AI 언어 모델을 카지노 꽁돈 테스트하면 반복적이고광범위한 위험 테스트가 더 쉽다고 앤트로픽은 설명한다.

블로그 글에는 "이를 위해 우리는 카지노 꽁돈/블루팀 역학을 활용한다. 목표 행동을 유발할 가능성이 높은 공격을 생성하는 모델(카지노 꽁돈)을 사용하고, 그 다음 이런 유형의 공격에 더 강건해지도록 카지노 꽁돈 테스트된 출력에 모델을 미세 조정(블루팀)한다"라고 적혀 있다.

모델이 점점 더 여러 양식(텍스트, 이미지, 동영상, 코드 등)에 대해 훈련되고 출력하도록 구축되고 있어 다중 양식 카지노 꽁돈 테스트가 필요해지고 있다. 마지막으로 앤트로픽은 크라우드소싱된 카지노 꽁돈 테스트 노력과 카지노 꽁돈 테스트 이벤트 및 챌린지 같은 개방형 일반 카지노 꽁돈 테스트에 대해 설명한다. 이런 더 공동체적인 개방형 카지노 꽁돈 테스트 접근법은 도전과제보다 이점이 훨씬 더 많다. 장점 상당 부분은 참가자에게 교육 기회가 되고 대중을 참여시키는 방법이 된다는 점을 중심으로 한다.

앤트로픽에 따르면 이런 기법은 잠재적 위험을 식별하고 시스템을 강화하는 데 도움이 될 수 있지만, 둘 다 깊이보다는 폭이 훨씬 더 넓다.

이 모든 기법을 종합해 보면 카지노 꽁돈 테스트가 이 모든 것 없이 어떻게 성공할 수 있을지 상상하기 어렵다. 또한 카지노 꽁돈 테스트에 대한 서로 다른 접근법이 어떻게 그렇게 다른 결과를 낳을 수 있는지, 그리고 왜 표준이 점점 더 중요해지고 있는지 쉽게 알 수 있다.

바이든 대통령은 행정명령에서 국립표준기술연구소(NIST)에 "공개 전 안전을 보장하기 위한 광범위한 카지노 꽁돈 테스트 엄격한 표준을 만들 것"을지시했다. 이 같은표준은 아직 마련되지 않았고, 언제 마련될지도 알 수 없다. 개발이나 위험에 대한 투명성 없이 새롭고 더 강력한 모델이 매일 출시되고 있는 상황에서 하루빨리 이뤄져야 한다.

개인 로봇의 잠재적 출시로 인한 수익이 포함되지 않았다고 언급했다.

"우리의 연구에 따르면 범용 휴머노이드 로봇은 규모로 볼 때 약 24조 달러의 글로벌 매출 기회를 나타내며, 그 중 약 50%는 제조업에서 발생한다. 만약 테슬라가 옵티머스를 외부에 판매하기로 결정한다면, 이 수조 달러 규모의 시장에서 상당한 점유율을 차지할 수 있을 것"이라고 ARK 애널리스트들은 주장했다.

이날 테슬라 CEO 일론 머스크도 X(구 트위터)에서 ARK의 전망에 대해 "매우 도전적이지만 달성 가능하다"고 응답했다.

※이 기사는 Fortune.com 원문을 바탕으로 작성됐으며, 번역은 카지노 꽁돈 소속 AI기자(GPT-4 활용)가 도왔습니다.