Wie generative KI das Robotertraining mit realistischen virtuellen Welten revolutioniert

Chatbots wie ChatGPT und Claude haben sich aufgrund ihrer unglaublichen Vielseitigkeit – sie sind in der Lage, Aufgaben vom Debuggen von Code bis zum Verfassen von Gedichten zu bewältigen – fest in unser digitales Leben integriert. Ihre Raffinesse verdanken sie den riesigen Mengen an Textdaten, die aus dem Internet gesammelt und für ihr Training verwendet wurden. Das Training von Robotern, die in physischen Umgebungen agieren, erfordert jedoch weit mehr als nur Textdaten. Diese Roboter leben von visuellen und physischen Kontexten, die es ihnen ermöglichen, nahtlos mit ihrer Umgebung zu interagieren – sei es, eine Kaffeetasse auf den Tisch zu stellen oder Geschirr zu stapeln, ohne dabei Lärm zu verursachen. Das Erlernen dieser Vorgänge ist keine Kleinigkeit – es erfordert Demonstrationen, die Anleitungen für jede einzelne Aufgabe ähneln. Der Haken daran? Das Sammeln dieser Demonstrationen aus der realen Welt ist nicht nur mühsam, sondern kann auch uneinheitlich und kostspielig sein.

An dieser Stelle kommt die bahnbrechende Arbeit des Computer Science and Artificial Intelligence Laboratory (CSAIL) des MIT und des Toyota Research Institute ins Spiel. Diese Forscher entwickelten eine paradigmenverändernde Methode mit dem Namen steuerbare Szenengenerierung: eine Methode zur Erstellung virtueller 3D-Umgebungen – beispielsweise Küchen oder Restaurants –, mit denen sich eine Vielzahl von Roboteraufgaben simulieren lässt. Diese Methode basiert auf einem Diffusionsmodell, einem Teilgebiet der KI, das mit zufälligem Rauschen beginnt und dieses schrittweise zu einem strukturierten Bild formt. Das Modell hält sich an die Gesetze der Physik und erzeugt so glaubwürdige Szenen und Objekte. So sorgt es beispielsweise dafür, dass eine Gabel nicht unheimlich durch eine Suppenschüssel schwebt, was dem Ganzen einen Hauch von Realismus verleiht.

Das herausragende Merkmal dieser Methode ist die Integration der Monte-Carlo-Baumsuche (MCTS) – einer Strategie, die von KI-Spielsystemen wie AlphaGo inspiriert ist. MCTS bietet dem Modell eine Perspektive, um mehrere mögliche Wege zur Konstruktion einer Szene zu erkunden und sich dabei je nach dem jeweiligen Ziel für die realistischste oder wertvollste Version zu entscheiden. Ob es darum geht, die Vielfalt der in einer Küche gelagerten Lebensmittel zu maximieren oder um etwas anderes – MCTS ist dieser Aufgabe gewachsen. Nicholas Pfaff, ein Doktorand am MIT EECS, der das Projekt leitet, erklärt weiter, dass dies das erste Mal ist, dass MCTS auf die Szenengenerierung angewendet wird, wo es als sequenzieller Entscheidungsprozess konzipiert ist, der die Erstellung komplexer Szenen ermöglicht, die über den ursprünglichen Trainingsdatensatz hinausgehen.

Ein weiteres bemerkenswertes Merkmal ist der Lernansatz des Modells. Es nutzt verstärktes Lernen, bei dem es eine “Belohnung” dafür erhält, wenn es Szenen entwirft, die bestimmte Vorgaben erfüllen. Mit der Zeit lernt das Modell, Umgebungen zu erschaffen, die den gewünschten Ergebnissen sehr nahe kommen. Nutzer können das System mithilfe maßgeschneiderter visueller Anweisungen steuern, etwa: “Erstelle eine Küchenszene mit vier Äpfeln und einer Schüssel auf dem Tisch.” Die Ergebnisse sind geradezu beeindruckend, da dieses Modell seine Konkurrenten bei den Aufgaben um mindestens 10% übertrifft. Doch das ist noch nicht alles – das Modell kann auf Befehl auch bestehende Szenen verändern. Es kann Objekte umstellen oder neue hinzufügen, wobei die Integrität der Umgebung stets gewahrt bleibt. Es ist, als hätte man einen persönlichen virtuellen Set-Manager, der über ein Verständnis für Ästhetik und Physik verfügt.

Die wahre Stärke dieses Systems liegt in seiner Fähigkeit, für Robotiker unschätzbare Trainingsdaten zu generieren. Die virtuellen Umgebungen werden zu einem Trainingsparcours, auf dem Roboter Aufgaben wie das Anordnen von Besteck oder das Anrichten von Speisen auf Tellern erlernen. Die realitätsnahen Simulationen schaffen eine ideale Testumgebung, um Roboter für Aufgaben in der realen Welt zu trainieren. Zukünftige Versionen dieses Systems sollen interaktive Elemente wie Schränke oder Gläser enthalten, die von Robotern entnommen werden können, was für noch mehr Realismus sorgt. Nicholas Pfaff weist zudem darauf hin, dass die Szenen im Vortraining von den tatsächlichen Situationen abweichen können. “Mit unseren Steuerungsmethoden können wir über diese breite Verteilung hinausgehen und aus einer ‘besseren’ Verteilung Stichproben ziehen.”

Auf längere Sicht strebt das Team an, Bilder aus der realen Welt in die Trainingsdaten zu integrieren, und zwar mithilfe einer Technik, die als Skalierbares Real2Sim. Dadurch könnte das System Umgebungen erstellen, die denen, denen Roboter in der Realität begegnen, näher kommen. Die Branchenexperten sehen dieser Entwicklung recht optimistisch entgegen. Jeremy Binagia, angewandter Wissenschaftler bei Amazon Robotics, erklärte, dass die steuerbare Szenengenerierung physikalische Machbarkeit und vollständige 3D-Übersetzung gewährleistet und somit wesentlich fesselndere Szenen hervorbringt. Diese Forschung wurde von Amazon und dem Toyota Research Institute unterstützt und auf der „Conference on Robot Learning“ vorgestellt. Weitere Details finden Sie im Originalartikel auf MIT News.