Simulations-gestützte Pipelines passen Trainingsdaten für dexteröse Roboter an

Motion Design INSIDER

PhysicsGen kann ein paar Dutzend Virtual-Reality-Demonstrationen in fast 3.000 Simulationen pro Maschine für mechanische Begleiter wie Roboterarme und -hände vervielfachen.

Datenhunger von Foundation Models

Wenn ChatGPT oder Gemini eine scheinbar expertenhafte Antwort auf Ihre brennenden Fragen geben, realisieren Sie vielleicht nicht, wie viel Information sie dafür benötigen. Wie andere populäre generative KI-Modelle basieren diese Chatbots auf Backbone-Systemen, sogenannten Foundation Models, die auf Milliarden oder sogar Trillionen von Datenpunkten trainieren.

In ähnlicher Weise hoffen Ingenieure, Foundation Models zu bauen, die eine Reihe von Robotern auf neue Skills trainieren – wie Aufnehmen, Bewegen und Ablegen von Objekten in Häusern und Fabriken. Das Problem: Es ist schwierig, Instruktionsdaten über Robotersysteme zu sammeln und zu transferieren. Man könnte sein System durch Teleoperation der Hardware Schritt für Schritt mit Technologien wie Virtual Reality (VR) lehren, aber das kann zeitaufwändig sein. Training auf Internet-Videos ist weniger instruktiv, da die Clips keine schrittweisen, spezialisierten Task-Walkthroughs für bestimmte Roboter bieten.

PhysicsGen: Simulations-getriebener Ansatz

Ein simulationsgetriebener Ansatz namens „PhysicsGen“ von MITs Computer Science and Artificial Intelligence Laboratory (CSAIL) und dem Robotics and AI Institute passt Roboter-Trainingsdaten an, um Robotern zu helfen, die effizientesten Bewegungen für eine Aufgabe zu finden. Das System kann ein paar Dutzend VR-Demonstrationen in fast 3.000 Simulationen pro Maschine vervielfachen. Diese hochwertigen Instruktionen werden dann auf die präzisen Konfigurationen mechanischer Begleiter wie Roboterarme und -hände gemappt.

Drei-Schritt-Pipeline

PhysicsGen erstellt Daten, die auf spezifische Roboter und Bedingungen verallgemeinert werden, über einen dreistufigen Prozess:

1. Ein VR-Headset trackt, wie Menschen Objekte wie Blöcke mit ihren Händen manipulieren. Diese Interaktionen werden gleichzeitig in einem 3D-Physiksimulator gemappt, der die Schlüsselpunkte unserer Hände als kleine Sphären visualisiert, die unsere Gesten spiegeln. Wenn Sie z. B. ein Spielzeug umdrehen, sehen Sie 3D-Formen, die verschiedene Teile Ihrer Hände darstellen, ein virtuelles Objekt rotieren.
2. Die Pipeline mapt diese Punkte dann auf ein 3D-Modell des Setups einer spezifischen Maschine (wie einen Roboterarm), indem sie sie zu den präzisen „Gelenken“ bewegt, wo ein System sich dreht und wendet.
3. Schließlich nutzt PhysicsGen Trajektorienoptimierung – im Wesentlichen Simulation der effizientesten Bewegungen zur Aufgabenbewältigung –, damit der Roboter die besten Wege kennt, Dinge wie das Umpositionieren einer Box zu tun.

Jede Simulation ist ein detaillierter Trainingsdatenpunkt, der einen Roboter durch potenzielle Wege führt, Objekte zu handhaben. In eine Policy (den Aktionsplan, dem der Roboter folgt) implementiert, hat die Maschine eine Vielzahl von Wegen, eine Aufgabe anzugehen, und kann verschiedene Bewegungen ausprobieren, wenn eine nicht funktioniert.

„Wir erstellen roboterspezifische Daten, ohne dass Menschen spezialisierte Demonstrationen für jede Maschine neu aufnehmen müssen“, sagt Lujie Yang, MIT-Ph.D.-Student in Electrical Engineering and Computer Science und CSAIL-Affiliate, Lead-Autor eines neuen Papers zum Projekt. „Wir skalieren die Daten autonom und effizient, machen Task-Instruktionen für eine breitere Palette von Maschinen nützlich.“

Das Generieren so vieler Instruktionstrajektorien für Roboter könnte Ingenieuren eventualmente helfen, einen massiven Datensatz aufzubauen, der Maschinen wie Roboterarme und dexteröse Hände leitet. Zum Beispiel könnte die Pipeline zwei Roboterarme dabei helfen, bei Lagerartikeln zusammenzuarbeiten und sie in die richtigen Boxen für Lieferungen zu legen. Das System könnte auch zwei Roboter im Haushalt bei Aufgaben wie Wegräumen von Tassen leiten.

PhysicsGens Potenzial erstreckt sich auch auf die Konvertierung von Daten, die für ältere Roboter oder andere Umgebungen designed wurden, in nützliche Instruktionen für neue Maschinen. „Trotz Sammlung für einen spezifischen Roboter-Typ können wir diese Prior-Datensets wiederbeleben, um sie allgemein nützlicher zu machen“, sagt Yang. PhysicsGen verwandelte nur 24 menschliche Demonstrationen in tausende simulierte, was sowohl digitalen als auch realen Robotern half, Objekte zu reorientieren.

Ergebnisse: Signifikante Verbesserungen

Yang und Kollegen testeten ihre Pipeline zuerst in einem virtuellen Experiment, wo eine schwebende Roboterhand einen Block in eine Zielposition rotieren musste. Der digitale Roboter führte die Aufgabe mit 81% Genauigkeit aus, trainiert auf PhysicsGens massivem Datensatz – eine 60%-Verbesserung gegenüber einem Baseline, der nur von menschlichen Demonstrationen lernte.

Die Forscher fanden auch, dass PhysicsGen verbessern konnte, wie virtuelle Roboterarme kollaborieren, Objekte zu manipulieren. Ihr System erstellte zusätzliche Trainingsdaten, die zwei Roboterpaaren halfen, Aufgaben bis zu 30% häufiger erfolgreich abzuschließen als ein rein menschlich gelehrter Baseline.

In einem Experiment mit echten Roboterarmen beobachteten die Forscher ähnliche Verbesserungen, als die Maschinen zusammenarbeiteten, eine große Box in ihre vorgesehene Position zu kippen. Wenn die Roboter von der beabsichtigten Trajektorie abwichen oder das Objekt falsch handhabten, konnten sie mid-task durch Referenzieren alternativer Trajektorien aus ihrer Bibliothek an Instruktionsdaten wiederherstellen.

Senior-Autor Russ Tedrake, Toyota Professor of Electrical Engineering and Computer Science, Aeronautics and Astronautics, und Mechanical Engineering an MIT, sagte, dass diese imitationsgeführte Datengenerierungstechnik die Stärken menschlicher Demonstration mit der Kraft von Roboter-Motion-Planning-Algorithmen kombiniert.

„Selbst eine einzelne Demonstration eines Menschen kann das Motion-Planning-Problem viel einfacher machen“, sagte Tedrake, der auch Senior Vice President of Large Behavior Models am Toyota Research Institute und CSAIL Principal Investigator ist. „In der Zukunft könnten Foundation Models vielleicht diese Information liefern, und diese Art von Datengenerierungstechnik wird ein Post-Training-Rezept für dieses Modell bereitstellen.“

Zukunft: Diversifizierung von Tasks

Bald könnte PhysicsGen auf eine neue Front erweitert werden: Diversifizierung der Tasks, die eine Maschine ausführen kann. „Wir möchten PhysicsGen nutzen, um einem Roboter beizubringen, Wasser einzuschenken, wenn er nur trainiert wurde, Geschirr wegzuräumen“, sagt Yang. „Unsere Pipeline generiert nicht nur dynamisch machbare Bewegungen für bekannte Tasks; sie hat auch das Potenzial, eine diverse Bibliothek physikalischer Interaktionen zu erstellen, die wir als Bausteine für gänzlich neue Tasks glauben, die kein Mensch demonstriert hat.“

Das Erstellen von viel breit anwendbaren Trainingsdaten könnte eventualmente helfen, ein Foundation Model für Roboter zu bauen, wobei MIT-Forscher warnen, dass dies ein etwas fernes Ziel ist. Das CSAIL-geführte Team untersucht, wie PhysicsGen riesige, unstrukturierte Ressourcen – wie Internet-Videos – als Seeds für Simulation nutzen kann. Ziel: Alltägliche visuelle Inhalte in reiche, roboterfertige Daten transformieren, die Maschinen Tasks beibringen könnten, die niemand explizit zeigte.

Yang und Kollegen zielen auch darauf ab, PhysicsGen für Roboter mit diversen Formen und Konfigurationen nützlicher zu machen. Dafür planen sie, Datensätze mit Demonstrationen echter Roboter zu nutzen, die erfassen, wie Roboter-Gelenke sich bewegen statt menschlicher. Sie planen auch, Reinforcement Learning einzubinden, wo ein KI-System durch Trial-and-Error lernt, um PhysicsGen zu befähigen, seinen Datensatz über menschliche Beispiele hinaus zu erweitern. Sie könnten ihre Pipeline mit fortschrittlichen Perzeptionstechniken erweitern, um einem Roboter zu helfen, seine Umgebung visuell wahrzunehmen und zu interpretieren, was der Maschine erlaubt, die Komplexität der physischen Welt zu analysieren und sich anzupassen.

Für jetzt zeigt PhysicsGen, wie KI uns helfen kann, verschiedene Roboter beizubringen, Objekte innerhalb derselben Kategorie zu manipulieren – besonders starre. Die Pipeline könnte bald helfen, die besten Wege für weiche Items (wie Früchte) und deformierbare (wie Ton) zu finden, aber diese Interaktionen sind noch nicht einfach zu simulieren.

Quelle: MIT CSAIL