테슬라는 왜 코드보다 데이터를 개선해 자율주행을 학습시킬까?

TL;DR

AI 시스템의 성패는 모델의 최신성보다 데이터 품질이 좌우한다. 앤드류 응 교수는 머신러닝의 80%가 데이터 정리이고 모델은 20%에 불과하다고 말하며, 코드를 수정하기보다 고품질·일관된 라벨링의 데이터를 확보하라고 강조한다. 테슬라는 실제 주행 데이터를 컴퓨터 비전·예측·경로 계획 세 영역에서 이 데이터 중심 방식으로 다룬다.

Transcript

ar 시스템은 코드와 데이터 로 구동됩니다 과거에는 시스템에 오류가 생겼을 경우 코드를 개선에 문제를 해결하려고 했지만 애들은 교수는 많은 디너 님 구축 의 문제들에 대해 코드를 계산하기 보다 체계적인 방식으로 데이터를 개선하는 쪽으로 사고방식을 바꾸어야 한다고 말했습니다 머신 러닝 의 발전은 벤치마크 데이터 셋의 성능을 개선시키는 노력에 의해 주도 될 것이라는 말입니다 기존의 관행을 지나치게 코드의 매물 되어 있어서 시스템이 잘 못 들어가면 본능적으로 뭐 싱 느낌은 코드를 손 보려고 해왔습니다 하지만 실제 대다수는 데이터 기선 에 집중하는 것이 효과적이었다 는 것이죠 앤드류 그는 놀랍게도 머신 러닝 에 80퍼센트가 데... Read More

Key Insights

• 머신러닝의 80%는 데이터 정리에 해당하며, GPT-3 같은 모델 자체는 전체 작업의 약 20%만 차지한다고 앤드류 응 교수가 말했다.
• 설명란에 따르면 코드를 개선하는 모델 중심 방식은 0~0.04% 개선에 그쳤으나, 데이터 중심 방식은 최대 16.9%까지 개선되었다.
• 라벨링은 사람이 학습 데이터에 직접 정답을 입력하는 작업이며, 라벨러마다 방식이 달라지지 않도록 일관성을 유지해야 결과가 좋아진다.
• 저품질 데이터에 최신 모델을 적용하기보다, 모델이 구식이어도 데이터 품질을 개선하는 편이 더 우수한 결과를 낸다.
• 테슬라는 자율주행 중 사람이 개입하는 이상 상황을 스냅샷으로 찍어 서버로 보내 사람이 직접 라벨링해 컴퓨터 비전 인식을 개선한다.
• 테슬라는 예측·경로 계획 부문에서 자동 라벨링을 사용해 일관성을 확보하고 대량의 실제 주행 데이터를 신경망 훈련에 투입한다.
• 카파시는 빠르고 격렬한 접근이 고통을 초래한다며, 코드를 건드리기 전 데이터를 철저히 검사하고 편집증적으로 시각화하라고 강조했다.
• 안드레이 카파시는 2015년 스탠퍼드 박사학위 후 오픈AI를 거쳐 2017년 일론 머스크에게 발탁돼 32세에 테슬라 AI 책임자가 되었다.

Questions & Answers

Q: AI 프로젝트에서 모델과 데이터 중 무엇이 더 중요한가?

앤드류 응 교수에 따르면 데이터가 더 중요하다. 머신러닝의 80%는 데이터 정리이고 GPT-3 같은 모델은 약 20%에 불과하며, 모델이 얼마나 최신인가보다 데이터 품질이 프로젝트의 성패를 결정한다. 설명란 수치로는 모델 중심 개선이 0~0.04%에 그친 반면 데이터 중심 개선은 최대 16.9%에 달했다.

Q: 라벨링에서 일관성이 왜 중요한가?

라벨링은 AI 학습을 위해 사람이 데이터에 직접 정답을 입력하는 작업인데, 라벨러마다 방식이 다르면 결과가 악화된다. 예를 들어 한 라벨러는 결함을 세밀하게, 다른 라벨러는 크게 묶어 라벨링하면 일관성이 훼손된다. 여러 좋은 방법이 있어도 일관성이 없으면 성능이 나빠진다고 앤드류 응 교수는 강조했다.

Q: 테슬라는 자율주행 데이터를 어떻게 개선하는가?

테슬라는 실제 도로 주행 중 사람이 개입하는 등 이상 상황이 감지되면 그 장면을 스냅샷으로 찍어 서버로 전송하고, 사람이 직접 라벨링하는 과정을 거쳐 컴퓨터 비전 인식을 개선한다. 예측과 경로 계획 부문에서는 상황을 기록해 자동으로 라벨링하고, 신경망으로 비디오를 압축해 대량의 실제 주행 데이터를 훈련에 투입한다.

Q: 테슬라 AI 책임자 안드레이 카파시는 어떤 인물인가?

안드레이 카파시는 자연어 처리와 컴퓨터 비전, 딥러닝 모델에 전념해 2015년 스탠퍼드에서 박사학위를 받고 오픈AI를 거쳐 2017년 일론 머스크에게 발탁돼 32세에 테슬라 인공지능 책임자가 되었다. 그는 코드를 건드리기 전 데이터를 철저히 검사하고, 영웅이 되려 하지 말고 관련 논문의 아키텍처를 복사해 쓰며 인내심을 가지라고 강조한다.

Summary & Key Takeaways

• AI 시스템은 코드와 데이터로 구동되는데, 과거에는 오류가 생기면 코드를 고치려 했지만 앤드류 응 교수는 체계적으로 데이터를 개선하는 쪽으로 사고를 바꿔야 한다고 말한다. 머신러닝의 80%가 데이터 정리이고 GPT-3 같은 모델은 약 20%에 불과하며, AI 프로젝트의 성패는 데이터 품질이 결정한다는 것이다.

• 좋은 데이터를 다루려면 고품질 데이터를 확보하고, 라벨러가 달라도 라벨링 방식이 변하지 않도록 일관성을 유지하며, 최신 모델보다 데이터 품질을 우선해야 한다. GPT-2가 15억, GPT-3가 1750억 파라미터로 큰 차이가 나도, 머리 좋은 사람이 저품질 정보를 배우는 것보다 고품질 데이터를 배우는 편이 낫다는 논리다.

• 테슬라는 컴퓨터 비전 인식, 예측, 경로 계획 및 제어 세 영역에서 데이터로 차이를 만든다. 비전은 사람이 직접 라벨링하고, 예측과 경로 계획은 자동 라벨링과 모방 학습으로 실제 주행 데이터를 대량 투입한다. 웨이모가 가상 시뮬레이션 데이터에 의존한 것이 근본적 한계였다는 점과 대비된다.