4. 자율주행 개발 프로세스와 AI 품질 확보의 현실적 과제

2026년 QA 컨퍼런스 네 번째 발표, 자율주행 AI 품질 관리에 대한 발표 내용을 정리해 보겠습니다.

자율주행 기술 현황과 AI 개발 프로세스를 구축할 때 기존 개발과 품질 관리 방식의 차이점에 대해 설명해 주셨습니다.

공식적으로 정리하는 것이 아닌 개인적으로 정리할 겸 작성하는 포스팅이라서 주관적인 의견이 담겨있을 수 있습니다. 해당 포스팅은 컨퍼런스가 어떤 식으로 진행됐었는지 참고하는 용으로만 확인해 주세요

발표 내용의 일부분을 활용해서 포스팅이 가능하다는 사전 협의를 받았고, QA 컨퍼런스에 참여하시면 더 많은 자료를 보실 수 있으니, 내용을 참고하시어 다음 회차에 참여하고 많은 정보를 받아가시는 것을 추천드립니다!

 

 

최준열님의 자율주행 AI의 기술 동향 및 자율주행 AI 품질 확보를 위한 과정 발표를 정리해 보겠습니다.

차량도메인은 다뤄보지 못해서 이해보다는 감상으로 들었던 발표라 설명이 부족할 수 있습니다...🥲  

 

 

발표는 자율주행 기술 내용과 기존 개발과 AI 개발 프로세스의 품질 관리의 차이를 설명해 주셨습니다.

 

 

자율주행 AI는 텍스트 언어를 이해하는 LLM에서 텍스트와 시각적인 부분도 이해하는 VLM, 시각적인 것을 보고 이해해서 행동으로 수행하는 VLA로 확장되었고, 여러 센서의 입력을 이해하고 행동으로 만드는 파이프라인이라고 설명해 주셨습니다.

 

자율주행 AI는 사전학습 단계와 미세 조정단계로 구분되어 개발되고, 사전 학습 단계에서 이미지, 텍스트, 센서도구 등 여러 데이터를 통해 눈과 귀를 배우고 미세 조정 단계에서 학습한 능력을 실제 주행에서 활용할 수 있도록 다듬는 과정이라고 설명해 주셨습니다. 

 

 

자율주행과 VLA 통합했을 때 사전에 학습한 데이터를 활용하여 익숙하지 않은 센서나 도로에서 발생할 수 있는 수많은 변수들을 대응하고 유연하게 대처할 수 있으며, AI의 행동을 사람이 이해할 수 있도록 텍스트로 설명해 주며, 새로운 규정이 생기면 입력을 통해 학습할 수 있기에 VLA를 통한 자율주행 시스템을 구성한다고 설명해 주셨습니다.

 

 

AI 개발 프로세스가 자율주행 시스템에 도입되며 품질관리의 필요성과 품질관리를 진행하며 어려운 점을 정리해 주셨습니다. 

 

AI 법률과 규제, 신뢰와 안정성 등 잘 되는 것을 확인하는 것에서 안전하게 잘 되는지까지 바라봐야 하는 시각으로 확대되고, 그에 따른 품질 프로세스 구축 시 방대한 데이터 관리, 기존 개발 프로세스에서 인공지능 개발 프로세스의 관점 차이 등 필요하지만 어려운 문제들을 하나씩 정리해 주셨습니다.

 

 

AI 시스템을 구축할 때 기존 개발 방식과 다른 점은 개발된 시스템을 확인하는 위주에서 AI가 가지고 있는 수많은 데이터의 보안성이 중요시되고 반복적이고 지속적인 유지보수를 진행하며 국제 표준을 기준으로 프로세스가 구축되어야 하는 어려움이 있다는 것을 설명해 주셨습니다.

 

 

앞서 설명된 것처럼 자율주행의 기존 개발은 로직의 규칙이 정확한지를 주요 관점으로 검증했다면, AI 개발 프로세스에서는 AI의 행동이 적절한지에 대한 검증이 주요 관점으로 진행되며 입력된 데이터가 어떤 결과를 가져오는지에 대한 관점으로 판단해야 한다고 설명해 주셨습니다.

 

 

기존 개발에서는 기능 별 독립적인 개발이 가능하여 검증도 가능했지만, AI는 입력부터 출력까지 하나의 신경망을 구성하여 프로세스가 진행되기 때문에 중간 분할이 어렵고, 통합 테스트가 주로 진행되고, 블랙박스 테스트 방식으로 진행되기에 실차 시험이나 대규모의 시뮬레이션으로 검증해야 하는 어려움도 알려주셨고, 일반적인 플랫폼 QA의 역할과는 또 다른 전문성을 가지고 검증에 임해야 한다는 것을 느끼게 되며 발표가 마무리되었습니다.

 

---

 

웹 플랫폼 QA 위주로 업무를 진행하다 보니 전혀 다른 도메인의 QA 사고방식을 접해볼 기회가 없었는데, 도메인이 달라서 내용을 이해하기에는 어려움이 있었지만, 같은 품질 검증이지만 바라봐야 하는 시각이 다르다는 것을 느끼게 되었습니다.

 

 

사용자의 관점에서 생각하고 불편한 요소를 미리 찾고 결함을 예방하는 사고를 가졌었다면, 자율주행은 작은 결함이 현실의 큰 사고로 이뤄질 수 있기 때문에 더 많은 규제와 법률, 검증 시스템으로 확인하는 것 같았습니다.

 

 

이해도가 부족해서 많이 미흡한 내용 정리지만 새로운 분야에 검증 기준을 배울 수 있었고, 더 디테일한 설명이나 자료들은 QA 컨퍼런스에 참여해서 얻어가실 수 있을 것이라 생각되며, 이번 포스팅을 마무리하겠습니다 🫡