Detailergebnis zu DOK-Nr. 82577
Die Image-Scaling Attacke: Die Erklärbarkeit von Künstlicher Intelligenz zur Klassifikation von Verkehrszeichen
| Autoren |
A. Reif T. Stolz M. Karl |
|---|---|
| Sachgebiete |
0.11 Daten (EDV, IT, Internetanwendungen und Verkehrsdaten) 6.7.3 Automatisiertes und Autonomes Fahren |
Internationales Verkehrswesen 77 (2025) Nr. 4, S. 46-50, 4 B, 8 Q
lmage-Scaling Attacks (deutsch: Bildskalierungsangriffe) nutzen Schwachstellen von Künstlicher Intelligenz aus. Das führt bei Bildverarbeitungssystemen, die auf Deep-Learning basieren, bei der Bildverkleinerung zu gravierenden Fehlklassifikationen innerhalb der trainierten Modelle. Besonders kritisch ist das für automatisierte Systeme zur Verkehrszeichenerkennung, wie sie in autonomen Fahrzeugen oder intelligenten Verkehrsmanagementsystemen eingesetzt werden. Da autonome Fahrzeuge zwingend die Verkehrsregeln einhalten müssen, sind zuverlässige und robuste Klassifikationsmodelle eine Grundvoraussetzung. Die Arbeit beschäftigt sich mit der Analyse und Entwicklung genannter Attacken. Adversarial Attacks sind Angriffe auf Machine Learning Modelle, die deren Leistung verschlechtern, indem sie Daten böswillig manipulieren. Die Image-Scaling Attacke, auch Bildskalierungsattacke genannt, versteckt manipulierte Daten in skalierten Bildern und zählt zu der Gruppe der Adversarial Attacks. Diese Angriffe entblößen fundamentale Schwächen von Künstlicher Intelligenz (KI). Sie verursachen Fehlklassifikation, verlangsamen die Rechenleistung und platzieren versteckte Backdoors, die unerwünschte Eingriffe und Manipulationen ermöglichen. Das Beispiel autonomes Fahren verdeutlicht die Gefahr, die von solchen Angriffen ausgeht: Die Image-Scaling Attacke macht es möglich, Verkehrszeichen auf unsichtbare Weise zu verändern und ein neuronales Netzwerk so zu täuschen, dass es die Zeichen falsch interpretiert. Dieser Angriff ist besonders gefährlich, weil er in der Regel unbemerkt bleibt. Das Skalieren von Bildern ist eine notwendige Voraussetzung, um Bilder in ein Machine Learning Modell einzuspeisen, denn dieses akzeptiert Bilder oft nur in einem vordefinierten Format. Wenn das Bild zu groß ist, muss es herunterskaliert werden, bevor das Modell es verarbeiten kann.