그림 2: OpenVLA 모델 구조. 이미지 관측과 언어 지시가 주어지면, 모델은 7차원 로봇 제어 행동을 예측한다. 구조는 세 가지 핵심 요소로 이루어진다. (1) Dino V2 [25]와 SigLIP [79] 특징을 이어 붙이는 비전 인코더, (2) 시각 특징을 언어 임베딩 공간으로 옮기는 프로젝터, (3) 70억 매개변수 대규모 언어 모델 Llama 2로 된 LLM 백본 [10]이다.
…백본에 더 풍부한 로봇 사전학습 데이터셋을 더해, OpenVLA는 10분의 1 크기로도 우리 실험에서 RT-2-X를 앞선다. (2) RT-2-X는 미세조정을 다루지 않지만, 우리는 OpenVLA를 새로운 목표 환경에 미세조정하는 방법을 철저히 살펴본다. (3) 최신 매개변수 효율적 미세조정과 양자화 기법이 VLA에서도 효과적임을 처음으로 보인다. (4) OpenVLA는 오픈소스로 공개된 최초의 범용 VLA로, VLA의 학습, 데이터 구성, 학습 목표, 추론에 관한 후속 연구를 뒷받침한다.
3 OpenVLA 모델
우리는 Open X-Embodiment 데이터셋 [1]의 로봇 시연 97만 개로 학습한 70억 매개변수 비전-언어-행동 모델(VLA), OpenVLA를 소개한다. VLA 모델 개발의 모범 사례에는 아직 거의 탐구되지 않은 질문이 많다. 예를 들어 학습에 쓸 가장 좋은 모델 백본, 데이터셋, 하이퍼파라미터는 무엇인가? 아래에서는 OpenVLA를 개발한 방법을 자세히 설명하고, 그 과정에서 얻은 핵심 교훈을 정리한다. 구체적으로, 먼저 OpenVLA의 백본인 최신 VLM을 간단히 살펴보고(3.1절), 기본 학습 방법과 데이터셋을 설명한 뒤(3.2절, 3.3절), 핵심 설계 결정을 논의하고(3.4절), 학습과 추론에 쓴 인프라를 자세히 소개한다(3.5절).
3.1 사전 지식: 비전-언어 모델
최근 VLM 대부분 [20, 42–44]은 세 부분으로 이루어진다(그림 2 참고). (1) 이미지 입력을 여러 개의 ‘이미지 패치 임베딩’으로 바꾸는 비전 인코더, (2) 비전 인코더의 출력 임베딩을 받아 언어 모델의 입력 공간으로 옮기는 프로젝터, (3) 대규모 언어 모델(LLM) 백본이다. VLM 학습에서는 여러 인터넷 출처에서 모은 이미지·텍스트 짝 데이터나 둘이 섞인 데이터로, 다음 텍스트 토큰을 맞히도록 모델 전체를 한 번에 학습한다.
PDFKOR
