CISPA - Helmholtz-Zentrum für Informationssicherheit
CISPA-Forscher Mario Fritz in wissenschaftliches Gremium des Europäischen Amts für künstliche Intelligenz berufen
- Bild-Infos
- Download
CISPA-Forscher Mario Fritz in wissenschaftliches Gremium des Europäischen Amts für künstliche Intelligenz berufen
Prof. Dr. Mario Fritz, leitender Wissenschaftler am CISPA, ist in das wissenschaftliche Gremium des Europäischen Amts für künstliche Intelligenz (EU AI Office) berufen worden. Gemeinsam mit einem Beirat unterstützt das wissenschaftliche Gremium die Durchsetzung der europäischen KI-Verordnung (EU AI Act). Fritz ist einer von insgesamt drei deutschen KI-Expert:innen, die ihre Sachkompetenz in das Gremium einbringen werden. Außerdem vertreten ist die ehemalige CISPA-Forscherin Sahar Abdelnabi, die ihre Promotion in der Forschungsgruppe von Mario Fritz abgeschlossen hat. Nur 60 von über 1.000 hoch qualifizierten Bewerber:innen sind für das Gremium ausgewählt worden.
Für das wissenschaftliche Gremium wurden 60 weltweit führende, unabhängige Expert:innen ausgewählt, die dort ihr Fachwissen in den Bereichen Frontier AI, Engineering, Technical Auditing und industrielle und gesellschaftliche Auswirkungen bündeln werden. Ein Schwerpunkt ihrer Tätigkeit liegt auf KI-Modellen mit allgemeinem Verwendungszweck (GPAI-Modellen). Zu den Kernaufgaben des Gremiums gehört es, das Europäische Amt für künstliche Intelligenz auf eventuelle systemisch Risiken von GPAI-Modellen aufmerksam zu machen, es zu Klassifizierungs- und Bewertungsmethoden von GPAI-Modellen zu beraten und Marktüberwachungsbehörden auf deren Anfrage hin zu unterstützen.
Sowohl das wissenschaftliche Gremium als auch der Beirat sind von der Europäischen Kommission neu eingerichtet worden, um die Durchsetzung der europäischen KI-Verordnung zu unterstützen. Die beiden Organe beraten das Europäische Amt für künstliche Intelligenz und auch die nationalen Behörden bei der Umsetzung der Vorschriften. Die unabhängigen Mitglieder werden persönlich für eine Amtszeit von zwei Jahren ernannt, wobei eine Verlängerung möglich ist.
Über seine Aufnahme in das wissenschaftliche Gremium des Europäischen Amts für künstliche Intelligenz sagt Mario Fritz: „Die KI hat ihre Fähigkeit bewiesen, Cybervorfälle in Echtzeit zu erkennen und Schwachstellen in großem Umfang aufzuspüren. Gleichzeitig nehmen aber auch ihre offensiven Fähigkeiten stetig zu. Wir müssen jene KI-Fähigkeiten zulassen, die chancenreich und dienlich sind, und die Risikoreichen im gleichen Zug eindämmen. Die Einrichtung des neuen wissenschaftlichen Gremiums des EU AI Office ist ein folgerichtiger Schritt mit gesellschaftlicher und politischer Bedeutsamkeit. Ich fühle mich sehr geehrt, meine fachliche Expertise in vertrauenswürdiger künstlicher Intelligenz dort einbringen zu können.“
Über Mario Fritz
Mario Fritz ist leitender Wissenschaftler am CISPA Helmholtz-Zentrum für Informationssicherheit, Honorarprofessor an der Universität des Saarlandes und Fellow des European Laboratory for Learning and Intelligent Systems (ELLIS). Bis 2018 leitete er eine Forschungsgruppe am Max-Planck-Institut für Informatik. Zuvor war er PostDoc am International Computer Science Institute (ICSI) und an der UC Berkeley, nachdem er an der TU Darmstadt promoviert und an der FAU Erlangen-Nürnberg Informatik studiert hatte. Derzeit leitet er das von der EU geförderte Exzellenznetzwerk „ELSA – European Lighthouse on Secure and Safe AI“. Sein Forschungsschwerpunkt liegt auf vertrauenswürdiger künstlicher Intelligenz, insbesondere an der Schnittstelle von Informationssicherheit und maschinellem Lernen.
Über das CISPA
Das CISPA Helmholtz-Zentrum für Informationssicherheit ist eine nationale Großforschungseinrichtung innerhalb der Helmholtz-Gemeinschaft. Es erforscht die Informationssicherheit in all ihren Facetten, um die drängenden, großen Herausforderungen der Cybersicherheit und vertrauenswürdigen künstlichen Intelligenz umfassend und ganzheitlich anzugehen, mit denen unsere Gesellschaft im Zeitalter der Digitalisierung konfrontiert wird. Das CISPA hat eine weltweite Führungsposition im Bereich der Cybersicherheit inne, indem es hochmoderne, oft disruptive Grundlagenforschung mit innovativer anwendungsorientierter Forschung, entsprechendem Technologietransfer und gesellschaftlichem Diskurs kombiniert. Thematisch zielt es darauf ab, das gesamte Spektrum von Theorie bis zu empirischer Forschung abzudecken. Es wird international weithin als Kaderschmiede für die nächste Generation an Cybersicherheitsexpert:innen und wissenschaftlichen Führungskräften in diesem Bereich angesehen.
Dr. Eva Michely | Corporate Communications CISPA Helmholtz-Zentrum für Informationssicherheit Stuhlsatzenhaus 5, 66123 Saarbrücken, Deutschland e kloeckner@cispa.de">press@cispa.de | w www.cispa.de