드디어 Tesla 로보택시가 공개되었다. CEO Elon Musk가 수년 동안 자율주행 문제를 해결하겠다고 약속한 끝에 그 노력의 정점을 공개한 것이다. 하지만 수많은 질문들이 함께 제기되었다. 이 차량은 언제, 어디에서 출시될 것인가? 《Model 3》을 구매할 때 들었던 약속처럼 Hardware3을 탑재한 차량을 택시처럼 사용할 수 있을까? Tesla의 AI가 운전대를 잡는다면 신뢰할 수 있을까?

◆ Tesla도 AI 블랙박스 문제 직면

Tesla는 10월 10일 도심에서 무인 모빌리티 수단으로 이용 가능한 미래 지향적인 차량을 공개했다. 이 모델을 호출형 승차 공유 서비스에 이용하면 차량을 소유하는 것보다 주행거리당 비용이 더 낮아진다. 물론 이 기술은 실현하기 어렵고, Tesla가 이러한 과업을 실행할 수 있는지는 또다른 이야기이다.

하지만 로보택시의 기저에 인공지능(AI)과 관련된 문제가 여전히 존재한다는 점은 분명하다. <Reuters>와 인터뷰를 진행한 여러 업계 임원들과 자율주행 전문가들, Tesla 엔지니어마저 자율주행에 도움이 되어야 하는 AI 기술이 사실상 Tesla가 선택한 방식의 약점으로 작용한다고 말한다. 엔지니어가 설명하는 약점은 AI에 내재된 현상인 ‘블랙박스(black box)’ 문제이다. 하지만 이 문제를 다루기 전에 먼저 AI의 학습 방식을 이해해야 한다.

AI라는 퍼즐에는 훈련과 추론(inference)이라는 두 가지 큰 조각이 존재한다. 모델의 훈련을 진행하기 위해 전문가가 엄선한 수많은 데이터를 공급하여 모델의 의사결정 방식을 교육한다. 도로에 차량들이 멈춰 있을 때 접근하는 방법이나 적신호를 인식하는 방법, 비보호 좌회전을 안전하게 실행하는 방법 등을 훈련한다. 모두 초보 운전자가 학습해야 하는 내용들이다.

문제는 이 훈련에 방대한 능력과 자원, 즉, 연산 능력과 저장 공간 등이 필요하다는 점이다. 이러한 이유에서 Tesla는 자율주행 모델을 훈련하기 위한 목적으로만 수십억 달러 규모의 데이터 센터를 구축해야 했다. 동등한 수준의 하드웨어를 차량에 배치하는 작업은 실현 가능성이 없다.

이 지점에서 추론의 역할이 필요하다. 추론은 훈련된 모델을 기초로 차량 주변의 실제 데이터를 추론하는 방법에 관한 의사결정을 내린다. Tesla 엔지니어와 업계 전문가들이 <Reuters>에 지적한 바와 같이, ‘블랙박스’ 감각(sensation)은 AI가 엔드투엔드(end-to-end) 방식으로 어떤 결정을 내린 이유를 알 수 없는 상태를 의미한다. 엔드투엔드 방식에서는 어떤 모델에 완전한 미가공 데이터를 공급하고 중간 엔지니어링 또는 프로그래밍 단계 없이 AI가 결정을 내릴 수 있다.

Tesla 엔지니어는 <Reuters>에 보낸 성명에서 “AI가 잘못된 동작으로 사고를 유발했을 때 문제점을 파악하기가 거의 불가능하다”고 말했다. 이 엔지니어는 계속해서 문제 자체보다는 향후 이러한 유형의 문제에 대비할 수 없다는 점이 우려된다고 말했다. 게다가 이 문제는 차량이 특정 동작을 자율적으로 수행했는지를 확인하기보다 차량이 구체적으로 해당 동작을 선택한 이유를 검증하고자 할 때 책임성과 투명성이 결여되는 상황으로 이어질 수 있다. 

Tesla만 블랙박스 문제를 우려하는 것은 아니다. Tesla의 최신 데이터센터에 H100 GPU의 형태로 방대한 처리 능력을 공급하며 자체 자율주행 시스템도 개발하고 있는 Nvidia의 창립자 겸 CEO Jensen Huang도 AI의 엔드투엔드 의사결정 방식을 이해할 수 없다는 점에 우려를 제기했다. 그러나 과정을 이해할 수 없어도 이 방식은 일반적으로 최선의 주행 결정을 내린다. 물론 항상 그런 것은 아니다. Huang은 “미래를 단계적으로 구축해야 한다”며, “미래로 곧장 나아가는 일은 불가능하며, 그럴 경우 안전이 크게 우려된다”고 말했다. 

Tesla의 로보택시 공개 행사에서는 분명 화려한 신기술과 야심 찬 약속, 앞으로 계속 연기될 완성 기한이 발표될 것이다. 하지만 행사가 끝나면 무대 뒤에서 진정한 업무가 시작될 것이다. 다른 사람들이 운전대를 잡고 있는 실제 도로에서 Tesla 로보택시의 탑승자가 더 높은 신뢰성을 느끼기 위해서는 이러한 힘든 업무가 반드시 필요하다.