미국 국립고속도로교통안전청(NHTSA)이 테슬라(Tesla)에오토파일럿(Autopilot) 시스템을 탑재한 200만 대 이상차량리콜관련수정 방안을 설명하라고 요구했다. 리콜 조치 이후 테슬라가 20건사고를 추가 보고함에 따라, NHTSA는 지난해 12월 진행된온라인 소프트웨어 업데이트가 미진했던 것은 아닌지의문을 가지고 있다.

교차로가 있는 도로에서도 오토파일럿의 활성화가 허용될지에 대한 논의 역시 리콜 조치의 초점이었다. 이에 대한 해결책은 운전자에게 더 많은 경고 메시지를 표시하는 것이었다. 하지만 7일(현지 시간)NHTSA 웹사이트에 공개된 테슬라에 보낸 서한에서, 리콜 이후 새 소프트웨어 버전이 나온 이후에도 운전자에게 주의를 환기시키기 위한 경고 메시지의 차이를 발견할 수 없었다고 밝혔다. NHTSA는 특히 운전자 모니터링 카메라가 가려져 있을 경우 운전자 경고가 충분한지 검증할 예정이다.

NHTSA는 테슬라가 리콜 조치를 개발하는 과정에 대한 방대한 정보를 요구했으며, 인간 행동을 어떻게 테스트하여 리콜의 효과를 검증했는지에 주목하여 물었다.

자동 운전 안전을 연구하는 카네기멜론 대학(Carnegie Mellon University)의 필 쿠프만(Phil Koopman) 교수는, 이 서한이 오토파일럿 문제를 해결하는 데 리콜이 별 도움이 되지 않았으며 NHTSA의 요구에 따른 조치였다고 테슬라가 얼마나 관대하게 처리할 수 있을지 시험해보기 위한 시도였음을 보여준다고 말했다. 쿠프만은 다른 자동차 회사들이 부실한 조치를 취하기 시작할 수 있기에 NHTSA가 강경하게 대응해야 한다고 강조했다.

안전 옹호자들은 오랜 시간 동안 오토파일럿 시스템이 제한된 접근 도로가 아닌 곳에서 작동하는 것에 대해 우려를 표해 왔다. 조지 메이슨 대학(George Mason University)에서 자동차를 연구하는 공학 및 컴퓨팅 교수 미시 커밍스(Missy Cummings)는 NHTSA가 자율주행차에 대한 조치가 미진하다는 입법가들의 비판에 답하고 있다고 말했다. '비록 정부가 번거롭기는 하지만, 피드백 고리가 작동하고 있다.'고 커밍스는 말했다. '저는 NHTSA 리더십이 지금 이 문제의 심각성을 인식하고 있다고 믿는다.'

NHTSA에서 보낸 18페이지 짜리 서한은 테슬라가 인간 행동 과학을 오토파일럿 설계에 어떻게 적용했는지, 그리고 인간 요소 평가를 얼마나 중시하는지 설명하라고 요구하고 있다. 서한은 또한 인간 행동 평가에 관여한 모든 업무를 식별하고, 해당 업무를 담당한 직원들의 자격을 상세히 밝히라고 요청했다. 그리고 해당 업무가 현재도 존재하는지에 대한 정보도 요구했다.

테슬라는 전 세계적인 판매 저하에 대응하기 위해 비용 절감을 위해 약 1만 4000명, 즉 10%의 직원을 감축하는 과정에 있다. 커밍스 교수는 인간과의 상호작용이 필요한 부분 자동 시스템인 오토파일럿을 구현하기 위해서는 인간 행동에 대한 이해를 가진 팀 구성원이 확실히 필요하다고 말했고, 엘론 머스크(Elon Musk) CEO가 인간 행동 전문가를 해고했을 것이라고 의심했다.

커밍스 교수는 차량이 스티어링을 인간으로부터 넘겨받는 순간, 사람의 뇌가 할 일은 거의 남아있지 않다는 연구 결과를 언급했다. 많은 운전자들이 시스템에 지나치게 의존하면 주의를 기울이지 않게 되는 경향이 있다고 그녀는 말했다. '운전자가 머리를 한 곳에 고정하고 도로를 바라보더라도 생각은 수천 킬로미터나 멀리 있는 경우가 많다. 아무리 다양한 운전자 모니터링 기술이 존재해도 주의를 강제하는 것은 불가능하다.'라고 그녀는 덧붙였다.

NHTSA는 또한 서한을 통해 리콜 조치가 오토파일럿이 작동 중인지 아닌지에 대해 혼동을 느끼는 운전자들의 문제를 어떻게 해결했는지 테슬라에 정보를 요청했다. 이전에는 오토파일럿이 비활성화 되어도 운전자가 즉각 인지하지 못할 때도 있었다.

리콜을 통해 오토파일럿이 꺼졌을 때 운전자가 인지하도록 '더 분명한 감속' 기능을 추가했다. 하지만 리콜 조치는 이 기능을 자동으로 활성화시키지 않으며 운전자가 직접 설정해야 한다. 조사관들은 실제로 몇 명의 운전자가 이를 설정했는지 물었다.

쿠프만 교수는 NHTSA가 '리콜 조치를 했는데 실제로 작동하지 않는다는 것이 무엇을 의미하는가'를 테슬라에 질문하고 있다고 말했다. 서한에서는 NHTSA가 테슬라가 조치의 효과를 확신할 수 있도록 충분한 테스트를 진행했는지 살펴보고 있다고 그는 설명했다. '그들의 해결책을 볼 때, 이들이 안전을 실질적으로 향상시킬 것이라고 확신하는 데 어려움을 겪고 있습니다.'라고 쿠프만은 말했다.

NHTSA는 테슬라가 리콜 조치 후에도 안전 업데이트를 계속해서 실시했다고 언급했고, 수막현상으로 인한 충돌 감소와 고속 차선에서의 충돌 감소를 위한 시도를 포함시켰다. NHTSA는 테슬라가 왜 이러한 업데이트들을 처음 리콜에 포함시키지 않았는지 조사할 방침이다.

NHTSA는 테슬라에 추가 리콜 조치를 요구하거나, 오토파일럿이 작동할 수 있는 범위를 제한하며, 심지어 시스템이 개선될 때까지 오토파일럿 기능을 비활성화하도록 강제할 수도 있다고 안전 전문가들은 전했다.

NHTSA는 2021년 Autopilot을 사용 중인 테슬라 차량이 주차된 응급 차량을 들이받은 11건의 사고 보고를 받은 이후 Autopilot에 대한 조사를 시작했다. 리콜로 인해 조사가 종료된 이유를 설명하는 문서에서, NHTSA는 결국 Autopilot 관련 사고가 467건 발생해 54명의 부상자와 14명의 사망자를 낳았다고 최종 확인했다.

※이 기사는 Fortune.com 원문을 바탕으로 작성됐으며, 번역은 에볼루션 바카라 사이트 소속 AI기자(GPT-4 활용)가 도왔습니다.

/ TOM KRISHER & 김타영 기자