All Stories
Follow
Subscribe to Albert-Ludwigs-Universität Freiburg

Albert-Ludwigs-Universität Freiburg

Risiken neuer Technologien einhegen ohne Innovation zu behindern

Risiken neuer Technologien einhegen ohne Innovation zu behindern
  • Photo Info
  • Download

Risiken neuer Technologien einhegen ohne Innovation zu behindern

Zum EU AI Act: Rolf Backofen (Informatik), Oliver Müller (Philosophie) und Silja Vöneky (Rechtswissenschaften) von der Universität Freiburg über die adaptive Regulierung neuer Technologien

Voraussichtlich im Jahr 2024 soll das KI-Gesetz der EU (EU AI Act) in Kraft treten. Er unterscheidet verschiedene Systeme von künstlicher Intelligenz (KI) nach ihrem Risiko für die Menschen in der Europäischen Union (EU). Anwendungen von KI mit inakzeptablem Risiko dürften dann in der EU nicht genutzt oder vertrieben werden, solche mit hohem Risiko würden reguliert.

„Die verhältnismäßige Regulierung von künstlicher Intelligenz ist eine der großen Herausforderungen unserer Zeit im Bereich der neuen Technologien“, sagt die Rechtswissenschaftlerin Prof. Dr. Silja Vöneky. Sie begrüßt, dass die EU hier voranschreite, merkt aber gleichzeitig an, dass eine solche Regulierung „verhältnismäßig und auch hinreichend adaptiv“ sein müsse – das sei im EU AI Act noch nicht genug berücksichtigt. Adaptivität, also die schnelle Anpassungsfähigkeit an Chancen und Risiken bei neuen Technologien, steht im Mittelpunkt des gemeinsamen interdisziplinären Forschungsinteresses von Vöneky, dem Philosophen Prof. Dr. Oliver Müller und dem Bioinformatiker Prof. Dr. Rolf Backofen.

Bei der Regulierung, sagt Müller, seien eine Vielzahl rechtlicher und ethischer Rahmenbedingungen relevant, von Aspekten des Persönlichkeitsschutzes bis hin zur Frage, „inwiefern Chatbots gesellschaftliche Vorurteile reproduzieren“. Im Angesicht dieser Komplexität und sich rasant entwickelnder Technologien hinke die Regulierung derzeit weiter hinterher.

KI als wichtiges Werkzeug für adaptive Regulierung

In Hinblick auf Adaptivität könnte KI selbst ein wichtiges Werkzeug sein, sagt Backofen: „Bei einem sehr schnell agierenden System wie den Chatbots braucht es regulierende KI, die direkt auf Veränderungen reagieren kann.“ Die Geschwindigkeit bei der Bewertung neuer Technologien könne außerdem, so Müller, durch „interne Kohärenz“ erhöht werden, also dadurch, „dass wir nicht für jede neue Technologie von vorne anfangen müssen“. Denn KI ist zwar seit dem Markteintritt des Chatbots ChatGPT im öffentlichen Diskurs sehr präsent, aber nur eine der Emerging Technologies neben weiteren wie grüner Gentechnik und Gentherapie.

Risiken einhegen ohne Innovationen zu behindern

Bei der Regulierung geht es dabei nicht um die Verhinderung von Innovation. Vielmehr, so Backofen, „brauchen wir adaptive Regulierungen, damit wir die Vorteile der Technologien gut nutzen können.“ Hilfreich sei Regulierung laut Vöneky nämlich dann, wenn sie „einerseits schnell Risiken einhegt und andererseits das Innovationspotenzial nicht behindert“. Für eine solche verhältnismäßige Regulierung sei ein interdisziplinärer Ansatz entscheidend: „Wir können nicht sinnvoll über Normen und Gesetze diskutieren, wenn wir die Technologien nicht verstehen.“

Verantwortung universitärer Forschung für gesellschaftliche Debatten

In dieser interdisziplinären Zusammenarbeit liege eine Stärke der Universität Freiburg, so Vöneky. Außerdem könne ein „neutralerer Blick nur durch Forscher*innen gelingen, die kein unmittelbares Interesse daran haben, ein Produkt zu verkaufen. Es ist unsere Aufgabe, ein Bewusstsein für Chancen und Risiken zu schaffen, damit die gesellschaftlichen Debatten auf Grundlage fundierter Informationen geführt werden können.“ Gleichzeitig gebe es ein „Spannungsfeld zwischen den Erwartungen aus juristisch-ethischer Perspektive an Normen und Werte auf der einen Seite und der öffentlichen Wahrnehmung auf der anderen, und diese können durchaus unterschiedlich ausfallen“, ergänzt Müller. Auf welche gesellschaftliche Resonanz das EU KI Gesetz treffen wird, bleibt abzuwarten – er wird aber zu einem Zeitpunkt in Kraft treten, zu dem sich in Silja Vönekys Wahrnehmung die Bevölkerung „stärker dessen bewusst wird, dass KI nicht nur eine nette App auf dem Smartphone ist, sondern auch größere disruptive Gefahren mit sich bringt“.

Vertiefende Video-Interviews mit Rolf Backofen und Silja Vöneky bietet die Universität Freiburg hier an.

Rolf Backofen, Oliver Müller und Silja Vöneky stehen gerne für Medienanfragen zur Verfügung. Gemeinsam sind sie Sprecher*innen der Exzellenzcluster-Initiative Adaptive Futures. Weitere Informationen dazu sowie zur Freiburg Exzellenzstrategie insgesamt finden Sie hier: https://uni-freiburg.de/universitaet/themen-im-fokus/exzellenzstrategie/

Rolf Backofen

Professur für Bioinformatik

Albert-Ludwigs-Universität Freiburg

Tel.: 0761/203-7461

E-Mail: backofen@informatik.uni-freiburg.de

Oliver Müller

Professur für Philosophie mit Schwerpunkt Gegenwart und Technik

Albert-Ludwigs-Universität Freiburg

Tel.: 0761/203-2432

E-Mail: oliver.mueller@philosophie.uni-freiburg.de

Silja Vöneky

Professur für Völkerrecht, Rechtsvergleichung und Rechtsethik

Albert-Ludwigs-Universität Freiburg

Tel.: 0761/203-2206

E-Mail: svoeneky@jura.uni-freiburg.de

Kontakt:Hochschul- und Wissenschaftskommunikation

Albert-Ludwigs-Universität Freiburg

Tel.: 0761/203-4302

E-Mail: kommunikation@zv.uni-freiburg.de

Weiterführende Links:
 NewsroomMedien-TermineOnline-Magazin 
Albert-Ludwigs-Universität Freiburg
Geschäftsbereich Wissenschaftskommunikation und Strategie
Abt. Hochschul- und Wissenschaftskommunikation
Rektorat . Fahnenbergplatz . 79085 Freiburg
Tel.: 0761/203-4302
More stories: Albert-Ludwigs-Universität Freiburg
More stories: Albert-Ludwigs-Universität Freiburg