Technische Universität München
Digitale Sicherheit von Kindern: „Besseres Design statt pauschaler Verbote“
TECHNISCHE UNIVERSITÄT MÜNCHEN
PRESSEMITTEILUNG
Report zu digitaler Sicherheit von Kindern und Jugendlichen
„Besseres Design statt pauschaler Verbote“
• Empfehlungen internationaler Arbeitsgruppe
• KI-Funktionen für mehr Sicherheit auf digitalen Plattformen
• Selbstbestimmtes Handeln von Kindern und Jugendlichen ermöglichen
US-Gerichte haben Plattformbetreiber wegen mangelndem Kinderschutz verurteilt und die Diskussion um Altersbeschränkungen für soziale Medien hat Fahrt aufgenommen. Verbote wären jedoch der falsche Weg, ist eine internationale Gruppe von Expertinnen und Experten aus Wissenschaft, Kinderrechtsorganisationen und gemeinnützigen Einrichtungen überzeugt. Im Fachjournal „Science“ plädiert sie für neue Strategien für die digitale Sicherheit von Kindern und Jugendlichen ab 13 Jahren. Prof. Sandra Cortesi und Prof. Urs Gasser von der Technischen Universität München (TUM) erklären im Interview, wann Künstliche Intelligenz auf den Smartphones eingreifen könnte, welche Rolle die Peer Group spielen kann und warum Kinder ihren Digitalunterricht mitgestalten sollten.
In den USA sind Meta und Google vor wenigen Tagen wegen mangelnden Schutzes von Kindern und Jugendlichen auf ihren Social-Media- beziehungsweise Video-Plattformen zu hohen Strafzahlungen verurteilt worden. Welche Bedeutung haben die Urteile vor dem Hintergrund der Ergebnisse Ihrer Arbeitsgruppe?
Urs Gasser: Diese Urteile können wegweisend sein, weil sie unterstreichen, dass die Kindersicherheit in der digitalen Welt nicht nur eine Frage schädlicher Inhalte ist, sondern auch eine Frage des Designs der Plattformen. Die Gerichte haben sich angeschaut, wie Plattformen aufgebaut sind, welche Risiken ihre Funktionen mit sich bringen und ob Unternehmen zur Verantwortung gezogen werden können, wenn diese Risiken vorhersehbar sind und nicht ausreichend berücksichtigt werden. Diese Fragen treffen den zentralen Punkt der Empfehlungen unserer Arbeitsgruppe: ein Design, das digitale Räume von Anfang an so gestaltet, dass sie Sicherheit, Handlungsfähigkeit und Wohlbefinden von Kindern und Jugendlichen gewährleisten. Bezogen auf die in den USA verhandelten Fälle, dass sie Funktionen ausschließen, die süchtig machen können, und dass sie Schutz vor Missbrauch durch Erwachsene bieten.
Mehrere Länder haben Kindern bis zu einem bestimmten Alter soziale Medien verboten oder planen diesen Schritt. Warum halten Sie nichts von einem Verbot?
Urs Gasser: Wir sprechen uns nicht per se gegen Regulierung aus, gesetzliche Vorgaben sind unverzichtbar. Allerdings sind wir der Ansicht, dass die Politik mehr tun sollte als rote Linien zu ziehen. Vielmehr sollte sie die Anbieter verpflichten, ihre Plattformen und Produkte kindgerecht zu gestalten. Das ist anspruchsvoller als ein pauschales Verbot, aber auch vielversprechender. Denn wir wollen ja eigentlich, dass Kinder und Jugendliche lernen können, die Medien selbstbestimmt und mit einer für sie positiven Wirkung einzusetzen.
Die Arbeitsgruppe schlägt vor, KI einzusetzen, um die Plattformen sicherer zu machen.
Sandra Cortesi: Neben dem Bann von eindeutig schädigenden Funktionen können neue Tools ältere Kinder und Jugendliche befähigen, in einem altersgerechten Rahmen selbstbestimmt zu handeln. Künstliche Intelligenz kann erkennen und intervenieren, wenn Heranwachsende in Gefahr geraten. KI könnte beispielsweise sagen: „Ich sehe, dass du in letzter Zeit ganz viele Posts zum Abnehmen angeschaut hast. Ich sehe, dass du mit drei Personen im Austausch bist, die das unterstützen. Ich empfehle dir jetzt drei Posts mit einer anderen Perspektive.“ Die KI könnte auch erkennen, dass eine Jugendliche ein Selfie mit viel nackter Haut machen will, und fragen: „Bist du sicher, dass du dieses Selfie machen möchtest? Überleg doch mal, was du damit machen willst.“ Oder ein Kind wird von jemandem kontaktiert, der sonst nur Kontakt mit Erwachsenen hat, sodass die KI davon ausgehen kann, dass es sich um einen Erwachsenen handelt und einen entsprechenden Hinweis anzeigen kann.
Das klingt so, als würden die Anbieter sehr viel Privates über die Jugendlichen erfahren.
Sandra Cortesi: Solche Auswertungen dürfen ausschließlich auf den Endgeräten stattfinden und nicht an die Betreiber übermittelt werden. Aber auch wenn die Privatsphäre sichergestellt ist, wäre es ideal, wenn sich die Familien gemeinsam überlegen würden: Welchen Medienkonsum wollen wir? Wie ist sozusagen unser Ernährungsplan für die Digitalwelt? Und dann zeigt uns das Gerät oder die Plattform all die Möglichkeiten, die wir dafür an- oder ausstellen können. Zum Beispiel: Ich möchte hauptsächlich positive Inhalte sehen und wenn die KI merkt, dass ich dabei aus der Spur gerate, unterstützt sie mich. Oder ältere Jugendliche entscheiden: Ich will jetzt mal drei Monate meine eigenen Erfahrungen machen und möchte nicht, dass mir die KI dabei zuschaut und mir irgendetwas sagt. Auch auf der Ebene der Familien halten wir Verbote für weniger sinnvoll als eine solche Auseinandersetzung. Zum einen, weil so Vertrauen und Selbstwirksamkeit gestärkt werden. Zum anderen wissen viele Kinder und Jugendliche sowieso, wie sie die von ihren Eltern eingestellten Beschränkungen auf den Smartphones umgehen können. Es ist aber klar, dass nicht alle Familien Zeit und Kompetenzen dafür haben, weshalb schützende Standardeinstellungen sehr wichtig sind.
Auch die besten Einstellungen und gesetzlichen Vorgaben werden wohl nicht vollständig verhindern können, dass Jugendliche verstörende Inhalte oder digitale Gewalt erleben. Was sollte dann geschehen?
Urs Gasser: Die Forschung zeigt, dass es wichtig ist, dass ältere Kinder und Jugendliche solche Inhalte und Verletzungen anonym melden können und sofort Beistand bekommen. In vielen Fällen schämen sie sich und fühlen sich schuldig. Dann ist es wichtig, dass eine solche Meldung nicht wochenlang im Nirgendwo verschwindet, sondern dass unmittelbar Verständnis gezeigt und Hilfe angeboten wird. Idealerweise sind es andere junge Menschen, die sagen: Ich verstehe dich, ich habe das auch schon erlebt. In einigen Ländern gibt es bereits Hilfsangebote, bei denen dafür trainierte Jugendliche mit Unterstützung von Profis als Ansprechpartnerinnen und Ansprechpartner bereit stehen. Solche Angebote sollten zum Standard werden.
Die Arbeitsgruppe schlägt außerdem vor, dass nicht nur Unternehmen Kinder und Jugendliche in den Designprozess einbinden. Auch die Schulen sollten mehr auf Beteiligung setzen.
Sandra Cortesi: Ganz viele junge Menschen sagen heute, dass sie sich nicht wohl fühlen und nicht glücklich sind. Sie sehen in eine Zukunft mit vielen Gefahren und haben das Gefühl, das Heft des Handelns nicht in der Hand zu haben. Indem sie Kinder und Jugendliche beteiligen, haben die Schulen eine riesige Chance, ihnen zum einen eine Zukunft aufzuzeigen, in der die digitale Welt nicht nur voll von tausend Risiken ist, und ihnen zum anderen Selbstwirksamkeit zu ermöglichen. Die Botschaft wäre nicht: „Wir zeigen euch, wie die digitale Welt funktioniert.“ Sondern: „Wir als Schulen haben einiges von euch zu lernen, weil wir vielleicht nicht alle Tools kennen, aber ihr genau wisst, wie man sie nutzen kann. Wir als Erwachsene haben aber auch Wichtiges beizutragen, sei es unsere gesellschaftlichen Werte oder unsere Erfahrung. Also lasst uns die Lerninhalte gemeinsam erstellen.“ Damit würde für die digitale Sicherheit von Kindern und Jugendlichen viel erreicht werden.
Zu den Personen:
Sandra Cortesi ist Professorin für Participation and Diversity in Digital Societies an der Technischen Universität München (TUM). Sie leitet das neue Youth and Media Lab am TUM Think Tank. Zuvor forschte die studierte Psychologin am Berkman Klein Center for Internet & Society der Harvard University, wo sie heute Faculty Associate ist. Zudem ist sie Senior Research and Teaching Associate an der Universität Zürich.
https://www.professoren.tum.de/cortesi-sandra
Urs Gasser ist Professor für Public Policy, Governance and Innovative Technology an der Technischen Universität München (TUM). Er ist Dekan der TUM School of Social Sciences and Technology und Rektor der Hochschule für Politik München (HfP) an der TUM. Zuvor war er Executive Director des Berkman Klein Center for Internet & Society an der Harvard University und Professor an der dortigen Harvard Law School.
https://www.professoren.tum.de/gasser-urs
Weitere Informationen:
Im Projekt „Frontiers in Digital Child Safety“ haben mehr als 40 Expertinnen und Experten aus Wissenschaft, Kinderrechtsorganisationen und gemeinnützigen Einrichtungen aus den Bereichen Sozialwissenschaften, Technologie, Design, Psychologie und Recht zusammengearbeitet. Gefördert wurde das Projekt von Apple Inc. Die Projektgruppe wurde am TUM Think Tank von Prof. Sandra Cortesi und Prof. Urs Gasser in Zusammenarbeit mit Forschenden der Harvard University und der Universität Zürich koordiniert.
https://tumthinktank.de/project/frontiers-in-digital-child-safety/
Der TUM Think Tank bringt Wissenschaft, Zivilgesellschaft, Politik und Wirtschaft zusammen, um gemeinsam Lösungsvorschläge und Instrumente zu drängenden Problemen zu entwickeln.
Publikationen:
S. Cortesi, U. Gasser. Digital child safety at the frontier: From evidence to action, Science 2026. DOI: 10.1126/science.aec7804
https://www.science.org/doi/10.1126/science.aec7804
Frontiers in Digital Child Safety Working Group. (2025). Frontiers in digital child safety: Designing a child-centered digital environment that supports rights, agency, and well-being (S. Cortesi & U. Gasser, Eds.).
https://tumthinktank.de/wp-content/uploads/FRONTIERS-IN-DIGITAL-CHILD-SAFETY.pdf
Zusatzinformationen für Redaktionen:
Fotos zum Download: https://mediatum.ub.tum.de/1850220
Wissenschaftlicher Kontakt:
Prof. Dr. Sandra Cortesi
Technische Universität München (TUM)
Professur für Participation and Diversity in Digital Societies
Tel.: +49 89 289 24515
sandra.cortesi@tum.de
Prof. Dr. Urs Gasser
Technische Universität München (TUM)
Lehrstuhl für Public Policy, Governance and Innovative Technology
Tel.: +49 89 907793 270
urs.gasser@tum.de
Kontakt im TUM Corporate Communications Center:
Klaus Becker
Pressereferent
presse@tum.de
Die Technische Universität München (TUM) ist mit rund 700 Professuren, 52.000 Studierenden und 12.000 Mitarbeitenden eine der weltweit stärksten Universitäten in Forschung, Lehre und Innovation. Ihr Fächerspektrum umfasst Informatik, Ingenieur-, Natur- und Lebenswissenschaften, Medizin sowie Wirtschafts- und Sozialwissenschaften. Sie handelt als unternehmerische Universität und sieht sich als Tauschplatz des Wissens, offen für die Gesellschaft. An der TUM werden jährlich rund 100 Start-ups gegründet, im Hightech-Ökosystem München ist sie eine zentrale Akteurin. Weltweit ist sie mit dem Campus TUM Asia in Singapur sowie Büros in Brüssel, Mumbai, Peking, San Francisco, São Paulo und Shenzhen vertreten. An der TUM haben Nobelpreisträger und Erfinderinnen und Erfinder wie Rudolf Diesel, Carl von Linde und Rudolf Mößbauer geforscht. 2006, 2012, 2019 und 2026 wurde sie als Exzellenzuniversität ausgezeichnet. In internationalen Rankings wird sie regelmäßig als beste Universität in der Europäischen Union genannt.