Games Music Hörbücher Gymondo MyTone Alle Services
vodafone.de

Nicht genug Maßnahmen gegen Deepfakes

Eine neue Studie der Internet-Stiftung Mozilla warnt vor signifikanten Mängeln in der Kennzeichnung von KI-erzeugten Bildern, Videos und Audiodateien.
KI
Mit KI-Software kann man immer realistischere Fotos aus Text-Vorgaben erzeugen. (Symbolbild) © Peter Steffen/dpa

Eine Experten-Studie warnt vor erheblichen Defiziten bei heutigen Methoden zur Auszeichnung von Bildern, Videos und Audio-Aufnahmen, die mit Hilfe Künstlicher Intelligenz erzeugt wurden.

Für die Nutzer sichtbare Markierungen könnten irreführend und schwer zu entdecken sein - und seien zugleich relativ einfach zu entfernen, betonte die Internet-Stiftung Mozilla in einem am Montag veröffentlichten Bericht. Technische Wasserzeichen, die automatisch in von KI erzeugte Inhalte eingebettet werden, seien zwar die robustere Lösung. Auch hier gebe es jedoch den Vorbehalt, dass diese Informationen erst von der Software auf den Geräten der Nutzer ausgelesen und für sie dargestellt werden müsse.

Böswilliger Einsatz nicht von Anfang an durchdacht

Vorschriften zur Auszeichnung von Inhalten liefen oft ins Leere, warnte Mozilla-Forscherin Ramak Molavi Vasse'i. Die sogenannten Deepfakes würden schließlich meistens extra dafür erstellt, um in die Irre zu führen. Wenn die Branche mit Selbstregulierung nicht vorankomme, müsse es mehr Druck geben. Generell sein ein Problem, dass gerade eine Technologie in Umlauf gebracht werde, bei der Maßnahmen gegen einen böswilligen Einsatz nicht von Anfang an durchdacht und eingebaut würden. Außerdem gebe es noch einen Wildwuchs aus mehreren Verfahren dafür statt eines einheitlichen Standards.

Mit KI-Software kann man immer realistischere Fotos aus Text-Vorgaben erzeugen. Und inzwischen wird auf diese Weise auch immer häufiger Video generiert - so stellte der ChatGPT-Entwickler OpenAI jüngst seine Video-Software Sora vor. Die sichtbare Markierung, die auf eine KI-Herkunft hinweise, sei bei Sora klein und oft schwer zu sehen, kritisierte die Mozilla-Expertin.

Große Sorge für Wahlen

Insbesondere in diesem Jahr mit der US-Präsidentenwahl und der Europawahl gibt es die große Sorge, dass mithilfe von KI erstellte Fälschungen verwendet werden könnten, um ihren Ausgang zu beeinflussen. In den USA gab es bereits kurz vor der Vorwahl der Demokratischen Partei im Bundesstaat New Hampshire automatisierte Anrufe, bei denen mit der täuschend echt wirkenden Stimme von Präsident Joe Biden dazu aufgerufen wurde, der Abstimmung fernzubleiben.

Solche Audio-Fakes gelten allein schon deshalb als großes Problem, weil es weniger Möglichkeiten gibt, sie anhand von Fehlern oder Kennzeichen zu erkennen. Es gab bereits Fälle, in denen solche Aufnahmen für den sogenannten Enkel-Trick angewendet wurden, bei dem Kriminelle versuchen, Geld im Namen von Verwandten zu erbeuten.

© dpa
Das könnte Dich auch interessieren
Empfehlungen der Redaktion
Katja Keul
Kultur
Deutscher Pavillon eröffnet bei Kunstbiennale
Prinz William
People news
Prinz William ist wieder in der Öffentlichkeit
PPietro Lombardi und Laura Maria Rypa
People news
Pietro und Laura Maria verraten Geschlecht ihres Babys
Android: Rufnummer unterdrücken – so telefonierst Du anonym
Das beste netz deutschlands
Android: Rufnummer unterdrücken – so telefonierst Du anonym
Kamerawagen von Apple
Internet news & surftipps
Apples Kamera-Autos und -Rucksäcke zurück in Deutschland
Netflix: So änderst Du Dein Passwort oder setzt es zurück
Das beste netz deutschlands
Netflix: So änderst Du Dein Passwort oder setzt es zurück
Sportministerkonferenz
Sport news
Gewalt und Pyro in Stadien: Gipfel mit Verbänden nach EM
Öl in einer Pfanne
Familie
Ab in die Pfanne! Diese Öle eignen sich gut zum Braten