Mit Kommissar KI manipulierte Bilder schneller entlarven
Fotos von Waffen oder Drogen, Verdacht auf Kinderpornografie, extremistische Propaganda: Mit Hilfe des Deepfake Detectors sollen richtige von falschen Bildern unterschieden werden.
Die Anwendung ist für die polizeiliche Praxis angelegt.Hannes P. Albert/dpa
© Hannes P. Albert/dpa
Manipulierte Bilder überschwemmen das Internet und machen der Polizei bei der Ermittlungsarbeit das Leben schwer. Rheinland-Pfalz will mit Hilfe von Künstlicher Intelligenz (KI) Verbrechen gezielter aufklären. Bei der Analyse großer Bildbestände soll künftig ein sogenannter Deepfake Detector eingesetzt werden. Die KI-gestützte Anwendung kann digital manipulierte Inhalte gezielt erkennen.
Wie arbeitet ein Deepfake Detector?
Bei der KI-gestützten Anwendung können auch große Mengen an Fotos einfach per Drag und Drop (Ziehen und Ablegen) in eine Suchmaske geschoben werden. Innerhalb von Sekunden wird die Wahrscheinlichkeit berechnet, ob es sich bei dem Bild um eine Fälschung handelt. Das falsche Bild wird rot umrandet, eine echte Version mit Grün markiert. Die Analyse erfolgt automatisch auf Basis von Auffälligkeiten in der Bildstruktur.
Warum ist der Einsatz von KI für die Ermittlung so wichtig?
„Deepfakes werden immer genauer und es wird schwerer, sie zu erkennen“, erklärt Tobias Wirth vom Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI). „Auch gute Augen werden nicht ausreichen.“
Im März startet ein Pilotbetrieb des Deepfake Detectors. Hannes P. Albert/dpa
© Hannes P. Albert/dpa
Wie hat sich die Arbeit der Ermittler verändert?
Digitale Bildmanipulationen bei kriminellen Taten nehmen rasant zu, berichtet Innenminister Michael Ebling. Sie werde genutzt, um Menschen zu diskreditieren, Straftaten zu verschleiern, falsche Beweise zu erzeugen und extremistische Propaganda zu verbreiten. Gerade in der sexualisierten und politisch motivierten Kriminalität seien die Ermittler immer mehr damit konfrontiert.
In vielen Verfahren beginne Polizeiarbeit nicht mehr mit einer einzelnen Aussage oder einem klaren Tatortsbild, ergänzt der Präsident des Landeskriminalamts (LKA), Mario Germano. Es gehe um die Auswertung von riesigen Datenmengen, Mobiltelefonen und Servern. Mit dem gezielt für die Arbeit der Ermittler konzipierten Deepfake Detector soll die Sichtung und Analyse auch von großen Bilddatenbeständen unterstützt werden.
Was unterscheidet Menschen und Maschine?
„Der Mensch kann zwar das Gesehene in Beziehung zu bekanntem Kontext setzen und dabei mehr ‚sehen‘ als die KI“, ordnet Wirth vom Deutschen Forschungszentrum für Künstliche Intelligenz ein. Im Gegenzug könne die KI Systeme, Muster und Indikatoren erkennen, die für das menschliche Auge nicht oder nur schwer wahrnehmbar sind. Das betreffe etwa feine Unstimmigkeiten auf Pixelebene.
Zum Schluss entscheidet der Menschen und nicht die KI, betont Innenminister Michael Ebling (SPD). Hannes P. Albert/dpa
© Hannes P. Albert/dpa
Reicht der Einsatz der technischen Tools für Ermittlungserfolge?
„KI-Erkenner sind oft Blackbox-Systeme. Sie bestimmen mit einer Wahrscheinlichkeit, ob es sich um ein Deepfake handelt, aber sie liefern nicht unbedingt eine Erklärung mit, warum“, berichtet der DFKI-Experte. Vor Gericht sei das jedoch problematisch, da im Sinne der Beweiswürdigung nachvollziehbare Aussagen zur Authentizität von Medien benötigt werden.
Dass die Ermittler - und damit der Mensch - das letzte Wort haben, unterstreicht auch der Innenminister. Die endgültige Entscheidung und Verantwortung bleibe bei den Polizistinnen und Polizisten. Die KI nehme die Ermittlungsarbeit nicht ab, sondern mache sie effizienter.
Wie wird der Deepfake Detector bei der Polizei eingesetzt?
Ein Pilotbetrieb ist ab März im Polizeipräsidium Rheinpfalz vorgesehen. Speziell die Arbeit zur Ermittlung von Kinderpornografie soll nach Angaben des LKA-Chefs so unterstützt werden. Die dabei gewonnenen Erkenntnisse werden in die Weiterentwicklung zum landesweiten Einsatz der Anwendung einfließen. Der LKA setzt darauf, dass der Deepfake Detector möglichst schnell allen Ermittlerinnen und Ermittlern für ihre Arbeit zugänglich gemacht wird.
LKA-Chef Mario Germano (M) setzt auf eine schnelle flächendeckende Einführung des Deepfake Detectors.Hannes P. Albert/dpa
© Hannes P. Albert/dpa
Sind die sensiblen und sicherheitsrelevanten Erkenntnisse sicher?
Rheinland-Pfalz setzt auf seine eigene Expertise. Die Anwendung ist eine gemeinsame Eigenentwicklung des Landeskriminalamts und des Polizeipräsidiums Einsatz, Logistik und Technik. Damit sei gewährleistet, dass die sensiblen und sicherheitsrelevanten Daten in den Händen der Polizei bleiben, versichert der Innenminister.
Was sagt die GdP?
Die Gewerkschaft der Polizei (GdP) steht voll hinter dem Vorhaben und begrüßt die Einführung des Deepfake Detectors sehr. Ein dauerhafter, stabiler und flächendeckender Einsatz sei aber nötig. Für eine gute Nutzung müsse es auch zusätzliche Investitionen in leistungsfähige Serverkapazitäten und den technischen Ausbau polizeilicher IT-Systeme geben.
