Media Alert: Trend Micro warnt vor unkontrolliertem Einsatz von KI
- Bild-Infos
- Download
Trend Micro warnt: Unkontrollierter Einsatz von KI birgt versteckte Geschäftsrisiken
Garching bei München, 27. Januar 2026 – Trend Micro, einer der weltweit führenden Anbieter von Cybersicherheitslösungen, veröffentlicht heute neue Forschungsergebnisse, die davor warnen, dass Unternehmen beim Einsatz von Large Language Models (LLMs) ohne angemessene Regularien, Verifikation und Aufsicht erhebliche rechtliche, finanzielle und reputationsbezogene Risiken eingehen.
Die Studie Risks of Unmanaged AI Reliance: Evaluating Regional Biases, Geofencing, Data Sovereignty, and Censorship in LLM Models zeigt, dass KI-Systeme je nach geografischem Standort, Sprache, Modelldesign und integrierten Kontrollmechanismen teils deutlich unterschiedliche Ergebnisse lieferten. In kundenorientierten oder entscheidungsunterstützenden Einsatzszenarien könnten solche Inkonsistenzen das Vertrauen untergraben, im Widerspruch zu lokalen regulatorischen oder kulturellen Rahmenbedingungen stehen und kostspielige geschäftliche Folgen nach sich ziehen.
Trend-Micro-Forscher testeten mehr als 100 KI-Modelle mit über 800 gezielt entwickelten Prompts, um Verzerrungen, politisches und kulturelles Kontextverständnis, Geofencing-Verhalten, Signale zur Datensouveränität sowie kontextuelle Einschränkungen zu analysieren. Tausende wiederholte Experimente dienten dazu, Veränderungen der Ausgaben über Zeit und Standorte hinweg zu messen. Insgesamt werteten die Forscher mehr als 60 Millionen Eingabetokens und über 500 Millionen Ausgabetokens aus.
Die Ergebnisse zeigen, dass identische Eingaben je nach Region und Modell unterschiedliche Antworten erzeugen und selbst bei wiederholten Interaktionen mit demselben System variieren. In politisch sensiblen Szenarien, etwa bei der Darstellung umstrittener Gebiete oder nationaler Identitäten, weisen die Modelle klare regionale Ausrichtungsunterschiede auf. In weiteren Tests lieferten die Systeme inkonsistente oder veraltete Ergebnisse in Bereichen, die hohe Präzision erfordern, darunter Finanzberechnungen und zeitkritische Informationen.
„Viele Unternehmen gehen davon aus, dass KI wie klassische Software funktioniert, bei der dieselbe Eingabe zuverlässig dieselbe Ausgabe erzeugt“, erklärt Robert McArdle, Director of Cybersecurity Research bei Trend Micro. „Unsere Forschung zeigt, dass diese Annahme nicht zutrifft. LLMs verändern ihre Antworten abhängig von Region, Sprache und Schutzmechanismen und diese Antworten können sich von einer Interaktion zur nächsten unterscheiden. Werden KI-Ausgaben direkt in Customer Journeys oder Geschäftsentscheidungen eingebunden, riskieren Unternehmen den Verlust der Kontrolle über Markenkommunikation, Compliance-Positionierung und kulturelle Anschlussfähigkeit.“
Der Bericht hebt hervor, dass sich diese Risiken insbesondere für globale Unternehmen verstärken, die KI grenzüberschreitend einsetzen. Dort müsse ein KI-gestützter Service häufig gleichzeitig unterschiedlichen rechtlichen Rahmenbedingungen, politischen Sensibilitäten und gesellschaftlichen Erwartungen gerecht werden. Zudem verweist die Studie auf besondere Herausforderungen für den öffentlichen Sektor: KI-generierte Inhalte könnten dort als offizielle Orientierung wahrgenommen werden, während der Einsatz nicht lokalisierter Modelle Risiken für Souveränität und Zugänglichkeit berge.
„KI sollte nicht als Plug-and-Play-Produktivitätswerkzeug betrachtet werden“, ergänzt Robert McArdle. „Unternehmen müssen sie als Abhängigkeit mit hohem Risiko behandeln, die klare Regularien, eindeutige Verantwortlichkeiten und die menschliche Verifikation aller nutzerseitigen Ausgaben erfordert. Dazu gehört auch, von KI-Anbietern Transparenz darüber einzufordern, wie sich Modelle verhalten, auf welchen Daten sie basieren und wo Schutzmechanismen greifen. Wenn KI mit einem klaren Verständnis ihrer Grenzen eingesetzt wird und mit Kontrollmechanismen, die dem tatsächlichen Verhalten dieser Systeme in realen Umgebungen Rechnung tragen, kann sie Innovation und Effizienz erheblich vorantreiben.“
Weitere Informationen
Die vollständige Studie Risks of Unmanaged AI Reliance: Evaluating Regional Biases, Geofencing, Data Sovereignty, and Censorship in LLM Models finden Sie hier:
Über Trend Micro
Trend Micro, ein weltweit führender japanischer Anbieter von Cybersicherheit, schafft eine sichere Welt für den digitalen Datenaustausch zwischen Unternehmen, Behörden und Verbrauchern.
Mit jahrzehntelanger Expertise in IT-Sicherheit und kontinuierlicher Innovation nutzt Trend die ganze Leistungsfähigkeit von KI, um über 500.000 Unternehmen und Millionen von Einzelpersonen über Clouds, Netzwerke, Endpunkte und Geräte hinweg zu schützen.
Den Kern dieses Schutzes bildet Trend Vision One™, eine KI-gestützte Cybersecurity-Plattform für Unternehmen, die Cyberrisikomanagement und Security Operations zentralisiert und so mehrschichtigen Schutz für lokale, hybride und Multi-Cloud-Umgebungen bietet.
In diese Plattform fließen weltweit einzigartige Threat Intelligence und Forschungsergebnisse ein, die dabei helfen, Unternehmen vor Hunderten Millionen von Bedrohungen täglich zu schützen.
Mit 7.000 Mitarbeitern in 70 Ländern versetzt Trend Sicherheitsverantwortliche in die Lage, Bedrohungen voraus zu sein und proaktive Sicherheit über die gesamte Angriffsoberfläche voranzutreiben. Dazu zählen kritische Umgebungen wie AWS, Google, Microsoft und NVIDIA.
Die deutsche Niederlassung von Trend Micro befindet sich in Garching bei München. In der Schweiz kümmert sich die Niederlassung in Wallisellen bei Zürich um die Belange des deutschsprachigen Landesteils, der französischsprachige Teil wird von Lausanne aus betreut; Sitz der österreichischen Vertretung ist Wien.
Proaktive Sicherheit beginnt hier. https://www.trendmicro.com/de_de/business.html
Pressekontakt: Akima Media GmbH Christina M. Rottmair / Anna Magali Golling Hofmannstraße 54 D-81379 München Telefon: +49 (0) 89 17959 18 – 0 E-Mail: trendmicro@akima.de Internet: www.akima.net
Unternehmenskontakt: Trend Micro Deutschland Tobias Grabitz Parkring 29 D-85748 Garching bei München Telefon: +49 (0) 170 144 23 68 E-Mail: tobias_grabitz@trendmicro.com Internet: www.trendmicro.com