VLAモデルとは何か——ロボット基盤モデルが実現する「見て・理解して・動く」の仕組み:OpenVLA・π0・GR00Tまで徹底解説
はじめに:VLAモデル(Vision-Language-Action)とは何か——VLM・従来ロボット制御との違い
VLAモデル(Vision-Language-Action model)とは、視覚と言語の入力からロボットの行動(アクション)までを出力するロボット基盤モデル(Robot Foundation Model:多様なタスクやロボットに横断して使える事前学習済みモデル)です。多くの実装では入力から行動までを一括学習した単一のニューラルネットワークで構成されますが、モジュール構成はモデルによって異なります。Google DeepMindも、VLAモデルを「視覚と言語の入力をモーター制御へ変換し、ロボットに行動させる」モデルと公式に定義しています(Gemini Robotics)。
※本記事の製品名・バージョン・スペック・公開状況は、特に断りのない限り2026年10月1日時点で公式資料(論文・公式ページ・GitHub・モデルカード)から確認した値です。製品構成は変動するため、最新情報は各公式ページをご確認ください。
用語の由来:RT-2が「行動を言葉のように扱う」発想を提唱
「VLA」というカテゴリー名は、Google DeepMindとGoogle Researchが2023年7月に発表したRT-2論文が提唱したものです。RT-2は、Web規模のデータで訓練されたVLM(Vision-Language Model:画像とテキストを入力してテキストを出力するモデル)を、ロボット軌道データとインターネット規模の視覚言語タスクで共同微調整(co-fine-tuning)し、ロボットのアクションをテキストトークンと同じ形式で出力させました。この「行動を言葉のように扱う」発想が、VLAという新しいモデルカテゴリーの出発点です(DeepMind公式ブログ)。
VLMとの違い:「答える」モデルから「動く」モデルへ
VLMとVLAの違いは、出力に集約されます。一般的なVLMは画像+テキストを入力し、出力はテキストです。典型タスクはVQA(視覚質問応答:画像についての質問に文章で答える)や画像キャプショニングです。対してVLAは出力に「行動」が加わり、モーター制御の命令としてロボットを実際に動かします。VLMが「見て・理解して・答える」モデルであるのに対し、VLAは「見て・理解して・動く」モデル——これが本質的な違いです。
従来ロボット制御との違い:1タスク1モデルからの脱却
従来のロボット学習では、アプリケーションごと・ロボットごと・環境ごとに個別のモデルを訓練するのが通例でした(Open X-Embodiment論文)。ヒューマノイド開発のFigure社も「新しいスキルを1つ教え込むには、PhDレベルの専門家による手作業プログラミングか数千回のデモンストレーションが必要で、どちらも法外に高コスト」と指摘しています(Helix発表記事)。VLAは、この「1タスク1モデル」の世界から、自然言語で指示できる汎用モデルへの移行を目指すアプローチです。
推論と制御の分担:Gemini Roboticsの3系列
この整理を理解する好例が、DeepMindのGemini Robotics製品構成です。Gemini Robotics 2(VLA:視覚+言語→モーター制御)、Gemini Robotics ER 2(embodied reasoning:物理空間の中で推論し詳細な計画を立てる能力)、Gemini Robotics On-Device 2(ロボット上でローカル実行する軽量VLA)の3系列が展開されており、「考える」推論と「動く」制御を分担・連携させる設計が実用段階に入っています。
この記事のロードマップ
本記事ではこのあと、VLAのアーキテクチャ(画像を特徴量へ変換するビジョンエンコーダ、意味の推論を担うLLMバックボーン、行動を生成するアクションヘッドの3層構造)を図解し、RT-2・OpenVLA・π0・GR00Tら主要モデルを比較します。さらに学習手法(Open X-Embodimentデータセットや模倣学習:人間のデモを真似て行動を学ぶ手法)、ローカルGPUで試す実践手順、産業応用、課題とFAQへと進みます。「VLAモデルとは何か」から「どうやって試すか」まで、この1本で全体像を掴んでください。
VLAモデルの仕組み:ビジョンエンコーダ+LLMバックボーン+アクションヘッドのアーキテクチャ図解
代表的なVLAモデルの内部は、一言でいえば「画像を見る」ビジョンエンコーダ、「意味を理解する」LLMバックボーン、「体を動かす」アクションヘッドの3層に集約されます(構成の詳細はモデルごとに異なります)。このセクションでは、共通アーキテクチャを図解したうえで、OpenVLA・π0・GR00T N1の具体構成と、出力方式の対比(離散トークン vs 連続制御)、そして高速化の動向を解説します。
代表的なアーキテクチャ:見る→理解する→動くの3層パイプライン
代表的なVLAモデルは、次の流れで「見て・理解して・動く」を実現します。
- ビジョンエンコーダ: カメラ画像をパッチ埋め込み(画像を小さな領域に切り分けたベクトル表現)に変換します
- プロジェクタ: その埋め込みをLLMが解釈できる入力空間へ射影する、橋渡しの層です
- LLMバックボーン: 大規模言語モデル(LLM)を骨格とする推論部。画像特徴と言語命令を統合し「何を・どこへ・どう動かすか」を判断します
- アクションヘッド: 判断を、関節角度やグリッパー開閉などの制御指令へ変換する出力部です
flowchart LR
A["📷 カメラ画像"] --> B["ビジョンエンコーダ<br/>例:SigLIP+DinoV2融合<OpenVLA>"]
B --> C["プロジェクタ<br/>LLMの入力空間へ射影"]
C --> E["LLMバックボーン<br/>例:Llama 2 7B/PaliGemma<br/>言語命令と画像を統合し意味推論"]
D["💬 言語命令<br/>例:赤いカップを取って"] --> E
E --> F{"アクションヘッド<br/>行動生成"}
F -->|"離散トークン<br/>RT-2・OpenVLA"| G["アクションを<br/>トークン列として出力"]
F -->|"連続制御:flow matching/diffusion<br/>π0・GR00T"| H["連続値アクションを<br/>直接生成"]
G --> I["🤖 ロボットの動作"]
H --> I
図のとおり、言語命令はLLMバックボーンに入力され、画像特徴と合わせて処理されます。アクションヘッドだけが出力方式として2系統(離散/連続)に分かれるのがポイントです。なおこの図は代表構成の単純化であり、π0のようにVLMとは別個のaction expertを2段構えにする実装や、GR00T N1のdual-system構成など、モデルによって差異があります。
代表モデルの具体構成:OpenVLA・π0・GR00T N1
- OpenVLA(7B): SigLIPとDinoV2を融合した視覚エンコーダ → プロジェクタ → Llama 2 7Bバックボーンがトークン化されたアクションを予測し、実機で実行可能な連続アクションにデコードします。Prismatic-7B VLMをfine-tuning(事前学習済みモデルの再訓練)して構築(OpenVLA公式)
- π0: PaliGemmaで初期化したVLMバックボーン+ロボット状態とアクションを扱う小規模な「action expert」の2段構え。アクションはflow matchingで連続生成され、洗濯物の折りたたみなどの器用タスクで最大50Hzの制御周波数を達成したと報告されています(π0論文)
- GR00T N1: System 2(VLMが視覚と言語で環境を解釈)+System 1(拡散モデルベースの生成ネットワークであるdiffusion transformerがリアルタイムで滑らかな動作を生成)からなるdual-system VLA。両モジュールをend-to-end(入力から出力まで一括訓練する方式)で共同訓練します(GR00T N1論文)
離散アクショントークン vs 連続制御(flow matching/diffusion)
離散方式は、アクションをテキストと同じ「トークン」(モデルが扱う単位記号)として出力します。RT-2がこの方式を提唱し(RT-2論文)、OpenVLAも基本形としてアクションを256段階(256-bin)に離散化したトークン列を生成します。LLMの「次トークン予測」の仕組みを行動生成にそのまま流用できるのが利点です。
連続方式は、ノイズを正解の行動へ引き戻すように学習する生成手法——π0のflow matchingやGR00T N1のdiffusion transformer——で連続値アクションを直接生成します。自己回帰デコードに頼らないため高周波制御と相性が良く、小型モデルのSmolVLAも、総450Mパラメータ中約100Mのflow matching action expertがアクションチャンク(未来の行動列)を生成する構成です(SmolVLAブログ)。
高速化の流れ:FASTとOpenVLA-OFT
離散方式には推論が遅いという弱点があり、高速化手法が相次ぎました。FAST(Physical Intelligence)はアクションチャンクをより少ないトークンへ圧縮するトークナイザで、離散アクション推論を最大15×高速化したと報告されています(OpenVLA GitHub/FAST)。続くOpenVLA-OFTは、従来のOpenVLA fine-tuning比で25〜50×の推論高速化とより高いタスク成功率を、FASTと違い連続アクションで実現したと報告されています(OpenVLA-OFT)。
dual-system設計の意義:「考える系」と「動く系」の分担
GR00T N1のdual-systemは、時間スケールの異なる2つの仕事を分担する設計です。重いVLM推論(System 2)は低頻度で「意味を解釈」し、軽量な生成系(System 1)は高頻度で「動き続ける」。π0の「大きいVLM+小さいaction expert」という構成も同じ発想で、言語理解の汎用性とリアルタイム制御の両立こそ、VLAアーキテクチャ設計の肝といえます。
主要VLAモデル比較:RT-2・OpenVLA・π0・GR00Tの特徴・パラメータ数・公開状況
主要VLAモデルは、RT-2(VLA概念の実証)→ OpenVLA(オープンソースの7Bモデル)→ π0(最大50Hzの連続制御)→ GR00T(ヒューマノイド向け基盤)と発展し、2025年以降はSmolVLA・Helix・Gemini Roboticsが続いています。パラメータ数は55B級から450Mの小型まで幅があり、モデル重みが公開されているか否かが実務上最大の分かれ目です。まず比較表で全体像を確認しましょう。
| モデル | 開発元 | 公開年 | パラメータ数 | アーキテクチャ概要 | アクション出力方式 | 学習データ | ライセンス・公開状況 | 主な実装例 |
|---|---|---|---|---|---|---|---|---|
| RT-2 | Google DeepMind+Google Research | 2023 | 最大55B | PaLI-X/PaLM-EベースのVLM | 離散アクショントークン | ロボット軌道+Web規模の視覚言語タスク | 非公開(論文のみ公開) | 実機評価6,000回(創発能力の検証) |
| OpenVLA | Stanford・UC Berkeley・TRI等 | 2024 | 7B | SigLIP+DinoV2融合エンコーダ→Llama 2 7B | 離散アクショントークン(256-bin離散化) | OXE 97万エピソード | コードMIT/重みをHugging Faceで公開(ベースモデル制約継承の可能性) | WidowX・Google Robot(ゼロショット)、Franka(fine-tuning) |
| π0 | Physical Intelligence | 2024 | 未公開 | PaliGemma VLM+action expert | 連続(flow matching、最大50Hz・論文報告値) | 単腕・双腕・モバイルマニピュレータの大規模データ | 論文・ブログで手法公開(RSS 2025採録) | 洗濯物折りたたみ・テーブル清掃・箱組立 |
| GR00T N1系 | NVIDIA | 2025〜 | 未公開(N1.7重みを公開) | System 2(VLM)+System 1(diffusion transformer)のdual-system | 連続(diffusion) | 実機軌道+人間動画+合成データ | 重みをHugging Faceで公開、N1.7まで継続更新 | Fourier GR-1(言語条件付き双腕操作) |
| SmolVLA | Hugging Face | 2025 | 450M | 小型VLM+約100Mのflow matching action expert | 連続(flow matching) | オープンなコミュニティデータセットのみ | オープンソース | LIBERO・Meta-World、SO-100/SO-101実機 |
| Helix | Figure | 2025 | 未公開 | 汎用VLA(詳細は公式ブログで発表) | 連続(高レート) | 約500時間のテレオペデータ | モデルは公開せず公式ブログで発表 | Figureヒューマノイド上半身・2台協調 |
| Gemini Robotics 2系列 | Google DeepMind | (2026年10月時点) | 未公開 | Geminiベース(ER 2=推論/On-Device 2=軽量VLAの系列あり) | 未公開 | 未公開 | クローズド(パートナー展開) | パートナー企業のロボット |
各モデルのハイライト
RT-2(Google DeepMind+Google Research、2023)——VLAの起点 VLAというカテゴリー名を提唱した、広く知られる最初期のモデルです。Web規模のデータで訓練済みのVLM(視覚言語モデル)をロボット軌道データと視覚言語タスクでco-fine-tuning(複数データを混ぜた微調整)し、アクションをテキストと同じトークン(単語に相当する記号単位)として出力します。最大55B版で論文報告による6,000回の実機評価を行い、訓練外の命令解釈やchain-of-thought(段階を踏む推論)——「即席ハンマーには岩」といった連想——の創発が報告されました(RT-2論文/DeepMindブログ)。モデル・コードは非公開です。
OpenVLA(Stanford・UC Berkeley・TRI・Google DeepMind等、2024)——オープンソースの代表格 7BパラメータのVLAで、OXE(Open X-Embodiment:21機関・22種ロボットのデータを標準化した公開データセット群)から97万エピソード(一連の操作試行のまとまり)を事前学習し、64基のA100 GPUで15日かけて訓練しました。チェックポイントと訓練パイプラインをHugging Faceで全面公開しており、WidowXとGoogle Robotではゼロショット(追加学習なしで実行すること)で動作します。コードはMITでも、重みはベースモデル(Llama 2)の制約継承に注意です(GitHub)。
π0(Physical Intelligence、2024年10月)——flow matchingによる高速連続制御 PaliGemmaベースのVLMバックボーンに行動生成専用の小規模なaction expertを組み合わせ、flow matching(ノイズを正解の行動へ引き戻す連続値生成手法)で最大50Hzの制御を実現しました。洗濯物の折りたたみやテーブル清掃などの器用操作を得意とし、RSS 2025に採録されています。続報のπ0.5はWebデータなどを混ぜた学習により、end-to-end学習システムとして、初見の家庭でのキッチン・寝室の清掃を初めて達成したと報告されています。
GR00T N1系(NVIDIA、2025〜)——ヒューマノイド向け基盤とエコシステム 2025年3月のN1論文公開以降、N1.5→N1.6→N1.7へ継続更新されています。dual-system(遅い「考える」VLMと速い「動く」diffusion transformerの2層構造)で、実ロボット軌道+人間動画+合成データの混合で学習し、Fourier GR-1での言語条件付き双腕操作を実機展開しています。N1.7の重みはHugging Faceで公開されており、推論は16GB以上のVRAMを持つGPU 1枚で可能です。Omniverse/CosmosのシミュレーションからJetson Thorでのエッジ推論まで束ねたプラットフォーム構築も特徴です。
2025〜2026年の新展開:SmolVLA・Helix・Gemini Robotics
- SmolVLA(Hugging Face): 総450Mパラメータの小型VLA。オープンなコミュニティデータセットのみで事前学習し、シミュレーション(LIBERO・Meta-World)と実機で大型VLAやACTなどのベースラインを上回る性能を報告しています。CPUでも実行でき、単一のコンシューマGPUやMacBookでも訓練できます。
- Helix(Figure、2025年2月): ヒューマノイド上半身全体(手首・胴・頭・各指)の高レートな連続制御を出力した初のVLAとされ、2台のロボットによる協調作業も実演しました。約500時間の高品質テレオペ(遠隔操作)データで訓練し、VLMが遡及的な命令ラベルを自動生成しています。
- Gemini Robotics(Google DeepMind): Gemini Robotics 2(VLA)/ER 2(embodied reasoning:身体を伴う空間内推論)/On-Device 2(ロボット上で動く軽量VLA)の3系列を展開中です。
試すなら重み公開済みのOpenVLA・GR00T・SmolVLAが候補です。
VLAモデルはどう学習するのか:Open X-Embodiment・模倣学習・ファインチューニング
VLAモデル——視覚と言語の入力からロボットの行動を出力する基盤モデル——は、LLMと同じ「大規模データでの事前学習 → 対象タスクでのfine-tuning(追加学習)」という2段階の流儀で学習されるのが現在の標準です。まず事前学習の土台となるデータセットから順に見ていきましょう。
Open X-Embodiment:「ロボット版ImageNet」とpositive transfer
事前学習の源泉が、21機関の協力で22種類のロボットから収集したデータセット Open X-Embodiment(OXE) です。527スキル(160,266タスク)の操作データを標準化フォーマットで収録し、いわば「ロボット版ImageNet」の役割を担います。このデータで訓練されたRT-Xモデルは、あるロボットで学んだ経験が別のロボットの性能を高める positive transfer を複数ロボットで実証しました(プロジェクトページ)。
オープンソースのOpenVLAも、OXEからタスク・シーン・エンボディメント(ロボットの身体仕様)の多様性を考慮してキュレーションした97万エピソードの操作軌道で事前学習し、その訓練に64基のA100 GPUと15日を要したと公式に報告されています(OpenVLA公式)。
学習データは4種類:実機軌道・人間動画・合成データ・Webデータ
- 実機軌道: 実ロボットの操作ログ。多くはテレオペレーション(人間が遠隔操作でロボットを動かし記録する方式)で収集
- 人間動画: 人間の手先の動きを撮影した映像
- 合成データ: シミュレータ等で生成した軌道
- Webデータ: インターネット上のテキスト・画像データ
GR00T N1は実機軌道+人間動画+合成データの不均一な混合で訓練され(GR00T N1論文)、π0.5はさらにWebデータを異種データとともにco-training(性質の異なる複数データを同時に訓練に使うこと)し、「知識移転こそ汎化に不可欠」を実験で示しました(π0.5論文)。
模倣学習の実際:Teleoperate → Record → Train → Deploy
タスク習得の中核が模倣学習(人間のデモを真似るように学習させる手法)で、特に行動クローニング(「状態→行動」の対を教師あり学習でそのまま写像する模倣学習の基本形)が広く使われます。
Hugging Faceの LeRobot は「Teleoperate(遠隔操作)→ Record(記録)→ Train(訓練)→ Deploy(展開)」の4ステップでこの一連の流れを実現し、ACTのような軽量模倣学習モデルからSmolVLAやπ0のようなVLAまで、同じCLIで訓練・共有・展開できます。またFigureのHelixは、マルチロボット・マルチオペレータによる約500時間のテレオペデータに加え、VLMが事後に命令ラベルを自動生成する hindsight instructions でラベリングコストを抑えました(Figure公式)。
fine-tuning:LoRA・部分更新・フル更新
最後の仕上げがfine-tuningです。OpenVLAはフル更新・部分更新・LoRA(重みの大部分を凍結し、小さな追加パラメータだけを学習する低コストなfine-tuning手法)の3方式を公式サポートします。データはOXEと同じRLDS形式で任意のミクスチャを指定でき、PyTorch FSDPとFlash-Attentionによる分散訓練で1B〜34Bクラスのモデルにスケール可能です(OpenVLA GitHub)。なお、事前学習済みOpenVLAはWidowXやGoogle Robotをゼロショットで制御できる一方、Franka Pandaではfine-tuningで対応します。
この2段階パラダイムは、SmolVLA(450Mパラメータ)が「一般操作データでの事前学習 → 下游タスクのfine-tuning」というLLMの訓練パラダイムを明示的に採用しているように、VLA全体に共有される設計思想になっています。
【実践】OpenVLA・SmolVLAをローカルGPU・シミュレータで試す手順
結論から言うと、オープンソースVLAを「試す」ハードルは意外と低いです。OpenVLAの事前学習を最初から再現するには64基のA100 GPUで15日間という大規模計算が必要ですが、Hugging Faceで公開されているチェックポイントの推論は数行のコードで実行でき、fine-tuning(追加学習)もLoRA方式なら1枚のGPUでまかなえます。まずハードウェア要件を確認し、その後番号付きステップで進めます。なお下表の値は各公式ドキュメント・モデルカードの記載に基づく目安であり、実際の必要VRAMはGPUモデル・計算精度(量子化)・ソフトウェアバージョン・タスクによって変わります。
ハードウェア要件の目安
| モデル | 推論VRAM | fine-tuning VRAM | 備考 |
|---|---|---|---|
| OpenVLA(7B) | 公表値なし(transformersから数行で実行可) | LoRA:約27GB以上(公式手順はA100 80GB 1枚で実演) | 事前学習の再現には64×A100×15日 |
| GR00T N1.7 | 16GB以上(公式README記載の目安) | 40GB以上推奨(公式README記載) | 事前学習済み重みをHugging Faceで公開 |
| SmolVLA(450M) | CPUでも実行可 | 単一コンシューマGPUやMacBookで訓練可 | SO-100/SO-101等の低価格アームでテスト・展開可 |
手順:環境構築からSmolVLA体験まで
- 環境構築: condaでPython 3.10の仮想環境を作り、PyTorchをインストールします。バージョンの組み合わせはOpenVLA公式READMEの指定に従うのが確実です。
- LIBEROシミュレータでfine-tuning評価: 公式READMEはLIBEROシミュレーションベンチマークでのfine-tuning実験の再現手順を提供しています。実機なしで「学習→評価」を一巡できる最初の関門です。fine-tuningはフル/部分/LoRAの各方式をサポートし、データはRLDS形式、PyTorch FSDPとFlash-Attentionで大規模化できます。
- データの準備: 実機評価に使うBridgeData V2はフルダウンロードで124GBです。ディスク容量の確保を忘れずに。
- 実機がない場合/ある場合: 実機がなければLeRobotで既存データセットの訓練・評価が可能です(ACTのような軽量模倣学習からVLAまで同じCLIで扱えます)。実機を用意するならSO-100/SO-101等の低価格アームが候補で、「Teleoperate(遠隔操作)→ Record(記録)→ Train(訓練)→ Deploy(展開)」の4ステップでデータ収集から展開まで進められます。
- SmolVLAで2段階学習を体験: 総450MパラメータのSmolVLAは、LLMと同じ「一般操作データでの事前学習→下游タスクのfine-tuning」という2段階パラダイムを採用しています。CPUでの実行や、単一コンシューマGPU・MacBookでの訓練に対応しており、高価なGPUがなくてもVLA開発の全体像を掴めます。
モデルのロード: Hugging Face transformersのAutoClasses経由で、openvla-7bを数行・最小依存でロードできます(READMEではBridgeData V2環境のWidowXロボットによるゼロショット命令追従が例示されています)。
import torch
from transformers import AutoModelForVision2Seq, AutoProcessor
# AutoClassesで最小依存ロード(OpenVLA READMEの手順)
vla = AutoModelForVision2Seq.from_pretrained(
"openvla/openvla-7b", torch_dtype=torch.bfloat16
)
processor = AutoProcessor.from_pretrained(
"openvla/openvla-7b", trust_remote_code=True
)
注意点:ライセンス継承
OpenVLAはリポジトリのコードがMITライセンスであっても、事前学習済みモデルの重みはベースモデル(Llama 2等)のライセンス制約を継承し得る、と公式に明記されています。商用利用を検討する場合は、モデルカードとベースモデルの利用規約を必ず確認してください。また、手順でつまずいたら、環境構築から評価・fine-tuningまでの手順がまとまっているOpenVLA・LeRobot・Isaac GR00Tの各公式ドキュメントを参照するのが確実です。
VLAモデルの産業応用:ヒューマノイド・家庭・物流での現在地
VLAモデル(Vision-Language-Action。視覚と言語の入力からロボットの行動を単一モデルで出力するロボット基盤モデル)の産業応用は、ヒューマノイド実機、家庭での家事実証、データ生成からエッジ推論までの基盤整備の3本柱で動いています。
ヒューマノイド実機:GR00T N1+Fourier GR-1
NVIDIAのGR00T N1(2025年3月)はヒューマノイド向けオープン基盤モデルで、System 2(画像と言語で環境を解釈するVLM:視覚言語モデル)とSystem 1(リアルタイムに動作を生成するdiffusion transformer)を共同訓練したdual-system構造のVLAです。実機軌道・人間動画・合成データで訓練され、Fourier社のヒューマノイドGR-1に展開され、言語条件付き(命令文で動作が変わること)の双腕マニピュレーション(両腕による把持・搬送操作)を高いデータ効率で実現したと報告されています(GR00T N1論文)。
家庭・サービス:π0.5による未知の家庭での清掃
Physical Intelligenceのπ0.5(2025年4月)は、複数ロボットの軌道・高レベルの意味予測・Webデータをco-training(異種データの共同訓練)したVLAです。end-to-end学習システム(観測から行動まで一括学習する方式)として、未知の家庭でキッチン・寝室の清掃という長期・器用タスクを初めて達成したと報告されています(π0.5論文)。
汎用ヒューマノイド:Figure Helix
Figure社のHelix(2025年2月発表)は物流・作業支援向けの汎用ヒューマノイド用VLAです。同社の発表によれば、上半身全体の高レートな連続制御を出力した初のVLAで、2台協調による共有長期タスク実行も初とされます。訓練には約500時間のテレオペレーション(遠隔操作で軌道を記録する手法)データを用い、VLMが遡及的命令ラベル(後から命令文を自動付与するhindsight instructions)を生成しました。同社は家庭へのスケーリングを主張します(Figure公式)。
プラットフォーム戦略:Isaac GR00TとGemini Robotics
NVIDIAのIsaac GR00Tはモデル単体でなくフルスタックのオープン参照プラットフォームです。オープンなデータパイプライン、基盤モデル、Omniverse/Cosmosのシミュレーション、ミドルウェア、CUDA-Xランタイムで構成され、Jetson Thorでのリアルタイム推論・制御に対応します(NVIDIA公式)。最新版のGR00T N1.7(2026年10月1日時点、公式GitHub READMEで確認)はクロスエンボディメント(機体の種類を横断して汎用に動くこと)のオープンVLAで、学習済み重みをHugging Faceで公開しています(GitHub)。
一方、Google DeepMindのGemini Roboticsは、VLAの「Gemini Robotics 2」、embodied reasoning(物理空間での推論と計画)を担う「ER 2」、軽量VLAの「On-Device 2」の3系列をパートナー制度と責任(Responsibility)の観点とともに展開します(公式ページ)。
製造・物流での位置づけ:特化型産業ロボットとの補完関係
最後に、既存の産業ロボットとの関係を整理します。Open X-Embodiment論文によれば、従来のロボット学習はタスク・ロボット・環境ごとの個別モデル訓練が通例でした(OXE論文)。Figure社も、新スキル1つにPhDレベルの専門家の手作業プログラミングか数千回のデモが必要で法外に高コストだと指摘します。VLAは言語指示と汎化で答えますが、π0.5論文は「野外でどこまで汎化できるかは未解決の問い」と明言し、課題も残ります。現時点は、定型作業ではタスク特化の制御が担い続け、言語指示・タスク変更・未知環境対応を要する領域をVLAが補完する、という整理が出典ある事実から導ける位置づけです。
VLAモデルの課題:汎化・データ収集コスト・推論速度・安全性
VLAモデル(視覚と言語の入力からロボットの行動を生成するロボット基盤モデル)が直面する課題は、汎化の限界/データ収集コスト/推論速度/安全性・ライセンスの4点に整理できます。ここまで見てきた華やかな成果の裏側を、批判的な視点で確認しておきましょう。
1. 汎化——野外での汎用性は「未解決の問い」
π0.5を発表したPhysical Intelligence自身が、「VLAモデルが野外(実環境)でどこまで汎化できるかは未解決の問い」と論文で明言しています(π0.5論文)。先行するπ0論文も、ロボット学習を実用システムに必要な汎用性へ引き上げるには「データ・汎化・頑健性」に主要な障害が残ると指摘しました(π0論文)。公開されるデモ映像は制御された環境での成功例であり、見知らぬ家庭や工場で安定動作することの証拠ではない——この視点を持って評価することが重要です。
2. データ収集コスト——数百時間のテレオペと大規模計算
「新しいスキル1つに、専門家の手作業プログラミングか数千回のデモが必要」という従来ロボットの問題(Figure)を緩和するのがVLAですが、それでも学習コストは決して小さくありません。Figure Helixは約500時間の高品質テレオペデータで訓練され、OpenVLAの事前学習にはOpen X-Embodiment由来の97万エピソードと、64基のA100 GPUで15日間という計算資源が必要でした(OpenVLA)。オープンソースとはいえ、事前学習の再現には組織的な投資が要ります。なお推論やLoRA fine-tuningなら約27GB以上のVRAMの単一GPUで可能であり、参入障壁が相対的に下がっている点は公平に見ておきましょう(OpenVLA GitHub)。
3. 推論速度——離散トークン方式のボトルネック
RT-2やOpenVLAが採用する「アクションをテキストトークンとして自己回帰生成する」方式は、7B級LLMバックボーンを制御周期ごとに動かすため低速になりがちです。実際、アクションチャンクを圧縮して最大15倍高速化したと報告されるFASTトークナイザ(Physical Intelligence)や、連続アクション出力へ切り替えて25〜50倍の高速化とより高い成功率を達成したと報告されるOpenVLA-OFT(プロジェクトページ)が相次いで登場した事実自体が、素のVLA推論の速度が実用上のボトルネックであったことの何よりの証拠です(OpenVLA GitHub)。
4. 安全性とライセンス——物理世界を動かす責任
テキストを生成するLLMと異なり、VLAは物理世界で物体を動かします。Google DeepMindはGemini Roboticsの公式ページで「責任(Responsibility)」の観点とパートナー制度を明示し、実環境での制御には慎重な設計・検証が必要という姿勢を示しています(Gemini Robotics)。また実務で見落としがちなのがライセンスです。OpenVLAはコードがMITでも、事前学習済みモデルの重みはベースモデル(Llama 2等)の制約を継承し得ると明記されており、商用利用前には重みのライセンス確認が必須です(OpenVLA GitHub)。
これらの課題はいずれも活発な研究対象であり、FAST・OFTのような高速化や知識移転の検証(π0.5)はその回答の一部です。ただし「未解決の問い」が残る以上、VLAの導入判断は性能主張だけでなく、汎化範囲・データ投資・推論基盤・ガバナンスの4軸で総合的に行うべきでしょう。
VLAモデルよくある質問(FAQ)とまとめ
ここまでの解説を受けて、VLAモデルの導入や学習を検討する方が特につまずきやすいポイントを、Q&A形式でまとめました。各回答は2〜4文で完結しているので、気になる質問だけを読み進めていただいても構いません。
VLAモデルとVLMの違いは何ですか?
VLM(Vision-Language Model)は一般的に画像とテキストを入力としてテキストを出力するモデルで、視覚質問応答(VQA)や画像キャプショニングが典型タスクです。これに対しVLAモデルは出力にロボットの行動(モーター制御)が加わり、Google DeepMindも「視覚と言語の入力をモーター制御へ変換するモデル」と定義しています(RT-2論文/Gemini Robotics公式)。同社が、空間内の推論と計画を担うGemini Robotics ER 2(embodied reasoning)と、制御を担うVLAのGemini Robotics 2・On-Device 2を製品として分担している点も、「VLM的な理解」と「VLA的な制御」の役割の違いを示す好例です。
ロボットにVLAモデルは必須ですか?
必須ではありません。Open X-Embodiment論文が指摘するように、従来のロボット学習はアプリケーション・ロボット・環境ごとに個別モデルを訓練するのが通例で、決まりきった作業ではタスク特化の制御が今も有効です(Open X-Embodiment論文)。一方、新スキル1つの追加にPhDレベルの専門家による手作業プログラミングか数千回のデモンストレーションが必要になるという課題(Figure Helix発表)が示すように、言語指示への追従や未知の物体・環境への汎化が求められる場面でVLAの価値が大きくなります。
VLAモデルの学習には何が必要ですか?
大きく分けて、(1) オープンなロボットデータ、(2) テレオペレーションによる模倣学習データ、(3) GPUの3つです。OpenVLAはOpen X-Embodimentからキュレーションした97万エピソードで事前学習し、その再現には64基のA100 GPUで15日を要しましたが、fine-tuningはLoRA方式なら約27GB以上のVRAMで可能です(OpenVLA公式/OpenVLA GitHub)。自前データの収集では、Hugging FaceのLeRobotが「Teleoperate → Record → Train → Deploy」の4ステップ・ワークフローを提供しており、FigureのHelixも約500時間のテレオペデータで訓練しています(LeRobot/Helix)。
手元のGPU(ゲーミングPC)でVLAを試せますか?
試せます。総450MパラメータのSmolVLAはCPUでも実行でき、単一コンシューマGPUやMacBookでも訓練できます。NVIDIAのGR00T N1.7は推論を16GB以上VRAMのGPU 1枚(例: RTX 4090)で実行できます(公式README記載の目安)(Isaac GR00T)。OpenVLAのLoRA fine-tuningは約27GB以上のVRAMでも可能とされますが、公式手順はA100 80GB 1枚で実演されているため、手元のGPUのVRAMに合わせてモデルを選ぶのがポイントです(OpenVLA GitHub)。
離散アクショントークンと連続制御(flow matching/diffusion)はどう違いますか?
どちらも、アクションヘッドがロボットの行動をどういう形式で出力するかという方式の違いです。離散アクショントークン方式(RT-2・OpenVLA)はアクションを「単語」と同じ形式のトークンとして生成し、OpenVLAでは256段階(256-bin)の離散化が基本形です。連続制御方式はアクションを連続値として直接生成し、π0はflow matchingで最大50Hzの制御を、GR00T N1はdiffusion transformerでリアルタイムの滑らかな動作を実現しています(π0論文/GR00T N1論文)。素のVLA推論の速度ボトルネックに対しては、FASTが最大15倍、OpenVLA-OFTが25〜50倍の高速化を達成したと報告されるなど、高速化の取り組みが続いています(OpenVLA GitHub)。
まとめ
VLAモデルとは、視覚と言語の入力からロボットの行動までを単一のニューラルネットワークで出力する、「見て・理解して・動く」を統合したロボット基盤モデルです。RT-2の提唱からOpenVLA・π0・GR00T N1のオープン化・高速化を経て、Helix・Gemini Robotics・π0.5へと進展しました。汎化・データ収集コスト・推論速度・安全性の課題は残るものの、SmolVLAのような小型モデルの登場で試すハードルは大きく下がっています。まずはOpenVLAの推論やSmolVLAのfine-tuningを手元のGPUで試して、「言葉で動くロボット」を体感してみてください。
関連記事
- AMDがWorld Labsを82億ドルで買収:空間知能と世界モデルが挑むAI半導体新時代
- ロボティクスと生成AIの融合:基盤モデルが拓く、物理世界とデジタル世界の新たな境界線
- Multimodal Foundation Models for Robotics: From Perception to Action
参考文献
- RT-2: Vision-Language-Action Models Transfer Web Knowledge to Robotic Control(arXiv)
- RT-2: New model translates vision and language into action(Google DeepMind公式ブログ)
- Gemini Robotics(Google DeepMind公式)
- Open X-Embodiment: Robotic Learning Datasets and RT-X Models(arXiv)
- Open X-Embodiment / RT-X プロジェクトページ
- Introducing Helix(Figure公式)
- OpenVLAプロジェクトページ
- OpenVLA GitHubリポジトリ
- OpenVLA-OFTプロジェクトページ
- FAST(Physical Intelligence Research)
- π0: A Vision-Language-Action Flow Model for General Robot Control(arXiv HTML版)
- π0論文(arXiv)
- π0.5: a Vision-Language-Action Model with Open-World Generalization(arXiv)
- GR00T N1: An Open Foundation Model for Generalist Humanoid Robots(arXiv)
- NVIDIA Isaac GR00T GitHubリポジトリ
- NVIDIA Isaac GR00T(公式製品ページ)
- SmolVLA公式ブログ(Hugging Face)
- LeRobotドキュメント(Hugging Face)
- BridgeData V2(UC Berkeley)