All Stories
Follow
Subscribe to Technische Universität München

Technische Universität München

ChatGPT in der Robotik: Denkmaschine mit Regulierungsbedarf

TECHNISCHE UNIVERSITÄT MÜNCHEN

PRESSEMITTEILUNG

Robotik muss sicher sein

ChatGPT: Denkmaschine mit Regulierungsbedarf

  • Anforderungen der klassischen Robotik an generative KI sind komplexer als Sprache.
  • Im sicherheitsrelevanten Umfeld ist Regulation wichtig.
  • TUM-Ethikprofessorin Alena Buyx: Gesellschaften dürfen die Nutzung und Regulierung von Technologien aktiv gestalten.
  • Prof. Klaus Diepold hat Zweifel an der Intelligenz von ChatGPT.

ChatGPT kann das Programmieren effizienter machen, Texte verfassen, als Brainstorming-Partner dienen oder Designvorschläge kreieren. Sobald die so genannte generative künstliche Intelligenz allerdings in die physische Welt der Robotik gelangt, sind Forschende der Technischen Universität München (TUM) zurückhaltend.

Für OpenAI-Chef Sam Altman ist das von ihm als Denkmaschine bezeichnete generative KI-Modell ChatGPT der Beginn eines Paradigmenwechsels vergleichbar mit dem Launch des iPhones oder gar des Internets. „Das nützlichste, bedeutendste und begeisterndste Tool, dass die Menschheit je geschaffen hat“, so sagt es Sam Altman bei seinem Besuch an der TUM in München Ende Mai. Gilt das auch für die Robotik?

„Ich muss Codes oft nicht mehr selbst schreiben“

Reinhard Heckel ist ein Fan von ChatGPT. Der Professor für maschinelles Lernen an der TUM nutzt das OpenAI-Produkt Copilot selbst zum Programmieren. „Ich muss Teile von Code oft nicht mehr selbst ausschreiben, das übernimmt das Tool automatisch“, erläutert Heckel. Besonders bei leichten Aufgaben spart er so Zeit und kann sich mit dem Teil vom Programmieren beschäftigen, „der wirklich spannend ist“. Im Brainstorming mit ChatGPT sucht er nach geeigneten Titeln für ein Paper oder lässt es schon mal anschreiben. „ChatGPT ist ein guter Assistent für kleinere nervige Aufgaben“, meint Heckel. Sogar die Bilderkennung der Tools ist schon so gut, dass Blinde sich erklären lassen können, wie die Welt aussieht. Eine Grenze ist allerdings dann erreicht, wenn es um Roboter geht. „Als Roboter beispielsweise eine Zwiebel zu schneiden, ist komplex und im Moment schwieriger als der Umgang mit Text.“ Dennoch resümiert Heckel: „Die Vorteile überwiegen, ChatGPT und Tools wie Copilot erleichtern die Arbeit und machen sie effizienter.“

Trainingsdaten für neuronale Netze müssten da sein

Auch Klaus Diepold experimentiert mit generativer künstlicher Intelligenz. Schon vor einigen Jahren gab der Professor für Datenverarbeitung an der TUM in seinem Bachelor-Kurs „Computer und Kreativität“ Studenten die Aufgabe, Ideen zu entwickeln, wie Computer kreativ werden können. Heraus kam mit Vorläufern von ChatGPT 3 eine Glückwunschkarte „für Tante Erna“ – grafisch gestaltet und getextet von der KI. „Die Software hat ein Gedicht geschrieben und die Ranunkeln – Tante Ernas Lieblingsblumen – durch das Tool mit einbauen lassen“, erinnert sich Diepold.

Praktisch Anwendungen in der Robotik gab es allerdings nicht. Heute arbeitet Doktorand Lucca Sacchetto im Rahmen des Leuchtturmprojekts KI.Fabrik beim Robotik- und KI-Institut MIRMI an einem Designgenerator auf Basis von Dalle_E, dem Bildtransformator von Altmans Unternehmen OpenAI. „Das Wissen für generative Modelle, einen Stuhl zu kreieren, ist gut, weil viele Bilder für das Training von neuronalen Netzen vorliegen.“ Soll allerdings ein Robotergreifer designt werden, ist das schwieriger, denn es gibt zu wenig Trainingsdaten. „Hinzu kommen Anforderungen an die Festigkeit des Materials und andere physikalische Eigenschaften“, so Diepold.

Robotik: Es darf kein einziger Fehler passieren

Die Herausforderungen in der klassischen Robotik sind komplex. Ein Serviceroboter beispielsweise bewegt sich im Umfeld mit dem Menschen. Er reicht einem pflegebedürftigen Menschen ein Glas Wasser oder unterstützt ihn in Reha-Übungen. „Der Roboter soll autonom, smart und schnell reagieren und darf kein Unheil anrichten“, so Diepold, „in einem sicherheitsrelevanten Umfeld darf man sich keinen einzigen Fehler erlauben“. Regulierungen sind also besonders in der Robotik vonnöten. „Verantwortungsvoll regulieren“ wolle er seine Software, versprach Altman in München. Als „sprachlich nettes Spielzeug“ (Diepold) richtet ChatGPT erstmal keinen sichtbaren Schaden an, doch hat Diepold Zweifel an dessen Intelligenz. „ChatGPT produziert Texte, die eloquent sind, aber nicht intelligent“, sagt der Professor, „das ist wie bei einem Politiker auf der Bühne: Es kann sich alles gut anhören, muss deswegen aber noch lange nicht stimmen.“

Auch Alin Albu-Schaeffer, Professor für Sensorbasierte Robotersysteme und intelligente Assistenzsysteme an der TUM, macht deutlich: „ KI muss mit der physischen Welt interagieren, da reicht es nicht aus, ‚nur‘ quatschen zu können“. Das beste Beispiel dafür, was schieflaufen kann, liefert eine Hausarbeit, die Studenten von ihm über ChatGPT haben anfertigen lassen. „Sie las sich gut, aber keine der Referenzen stimmte, die in dem wissenschaftlichen Aufsatz angegeben waren“, so Diepold. Immer, wenn Wissen fehlt, überspielt ChatGPT das mit selbst erfundenen Informationen. In der Robotik darf hingegen kein Fehler passieren.

„Eine noch nicht ausgereifte Technologie ist in die Welt gekracht“

Die Co-Direktorin der Hightech-Plattform munich_i Alena Buyx von der TUM ist eine von knapp 20 Professor:innen, die in der Taskforce für generative KI der TUM Perspektiven gegen Risiken abwägen. „Da ist ja eine noch nicht ganz ausgereifte Technologie ein wenig in die Welt gekracht und jetzt wird rapide versucht, Empfehlungen für anstehende gesetzliche Regelungen zu geben – von der technischen wie von der ethischen, sozialen und regulatorischen Seite“, erläutert die Professorin für Ethik in Medizin und Gesundheitstechnologien Buyx.

Ihr geht es aber auch darum, neben den Risiken die positiven Potenziale zu erkennen und genau zu überlegen, wo man diese nutzen kann. Im Krankenhaus beispielsweise werden in den USA – kontrolliert und unter Aufsicht – bereits Social Bots eingesetzt, die ausführliche Entlassungsgespräche mit Patienten führen und Zeit haben, alle Fragen zu beantworten. Generative KI wird zudem in der Biotechnologie zur Analyse der Proteinfaltung eingesetzt, um neue Moleküle etwa für Krebsmedikamente zu entwickeln. Ob die Entwicklung in die richtige Richtung geht? „Die ganzen Daten, die für das Training der KI-Modelle nötig sind, stammen letztlich von uns allen, und sie wurden von den Unternehmen abgesaugt und verwendet für Technologien, die bald unsere Lebenswelt stark durchwirken werden“, erläutert Buyx, „da besteht klar für Gesellschaften das Recht, die Nutzung sowie Regulierung der Technologien aktiv zu gestalten“.

Auch OpenAI-Chef Altman betont bei seinem Besuch in München, die Fähigkeiten seiner Denkmaschine verantwortungsvoll regulieren zu wollen. Es gibt noch eine Menge zu tun. Auch deswegen sieht Altman für junge Leute gerade jetzt die wohl beste Chance in den vergangenen 15 Jahren, in der Technologie eine Karriere zu starten.

Weitere Informationen

Zusatzinformationen für Redaktionen:

Bilder zum Download

OpenAI-Chef Sam Altman auf der Bühne mit Prof. Reinhard Heckel – http://go.tum.de/050961

OpenAI-Chef Sam Altman und Prof. Reinhard Heckel – http://go.tum.de/616944

Prof. Klaus Diepold - http://go.tum.de/839175

Prof. Alena Buyx - http://go.tum.de/880567

Wissenschaftliche Kontakte

Prof. Alena Buyx

Lehrstuhl für Medizin und Gesundheitstechnologien, Co-Direktorin munich_i

Technische Universität München

a.buyx@tum.de

Prof. Reinhard Heckel

Professur für Maschinelles Lernen

Technische Universität München (TUM)

Reinhard.heckel@tum.de

Prof. Klaus Diepold

Lehrstuhl für Datenverarbeitung

Technische Universität München (TUM)

kldi@tum.de

Kontakt im TUM Communications Center

Andreas Schmitz

Presse Robotik und maschinelle Intelligenz

0162-27 46 193

presse@tum.de

www.tum.de

Die Technische Universität München (TUM) ist mit mehr als 600 Professorinnen und Professoren, 50.000 Studierenden sowie 11.000 Mitarbeiterinnen und Mitarbeitern eine der forschungsstärksten Technischen Universitäten Europas. Ihre Schwerpunkte sind die Ingenieurwissenschaften, Naturwissenschaften, Lebenswissenschaften und Medizin, verknüpft mit den Wirtschafts- und Sozialwissenschaften. Die TUM handelt als unternehmerische Universität, die Talente fördert und Mehrwert für die Gesellschaft schafft. Dabei profitiert sie von starken Partnern in Wissenschaft und Wirtschaft. Weltweit ist sie mit dem Campus TUM Asia in Singapur sowie Verbindungsbüros in Brüssel, Mumbai, Peking, San Francisco und São Paulo vertreten. An der TUM haben Nobelpreisträger und Erfinder wie Rudolf Diesel, Carl von Linde und Rudolf Mößbauer geforscht. 2006, 2012 und 2019 wurde sie als Exzellenzuniversität ausgezeichnet. In internationalen Rankings gehört sie regelmäßig zu den besten Universitäten Deutschlands.

More stories: Technische Universität München
More stories: Technische Universität München
  • 20.06.2023 – 13:43

    Presserundgang AI.Society/Automatica: TUM-MIRMI zeigt Robotik und KI-Demos

    TECHNISCHE UNIVERSITÄT MÜNCHEN PRESSEEINLADUNG Presserundgang über die Sonderschau AI.Society/munich_i am 27. Juni 2023 TUM-MIRMI zeigt spannende Robotik- und KI-Demos Mehr als 30 Anwendungsbeispiele haben Forschende des Munich Institute of Robotics and Machine Intelligence (MIRMI) der Technischen Universität München (TUM) für die diesjährige munich_i ...

  • 19.06.2023 – 14:27

    Climate impact of natural gas often worse than assumed

    TECHNICAL UNIVERSITY MUNICH PRESSRELEASE More realistic calculation model compares climate friendliness of gas and electricity Climate impact of natural gas often worse than assumed - Recalculation includes gas leakages and incomplete combustion. - Electricity can be the climate-friendlier choice for cooking and heating. - Study of 25 countries shows: the share of renewable energies in the overall power generation mix ...

  • 19.06.2023 – 14:24

    Heizen und Kochen: Klimabilanz von Erdgas oft schlechter als bisher angenommen

    TECHNISCHE UNIVERSITÄT MÜNCHEN PRESSEMITTEILUNG Berechnungsmodell vergleicht Klimafreundlichkeit von Gas und Elektrizität Klimabilanz von Erdgas oft schlechter als bisher angenommen - Neuberechnung bezieht Gaslecks und unvollständige Gasverbrennung mit ein. - Elektrizität kann klimafreundlichere Alternative zum Kochen und Heizen sein. - Untersuchung von 25 ...