02 Nov DigiFors klärt auf – Deepfakes, die zunehmende Gefahr im Internet

Deepfakes. Immer mehr im Umlauf, weiter steigende Gefahren. Doch was ist das eigentlich? Wie groß ist die Gefahr und wie kann man sich schützen?

Was sind Deepfakes?

Deepfakes sind Audiodateien, Bilder oder Videos, welche mit der Hilfe von künstlicher Intelligenz erstellt werden. Diese wirken auf den ersten Blick sehr authentisch, sind aber in Wahrheit künstlich generierte Medien, welche ein potentielles Risiko darstellen können. Das Problem hierbei ist, dass die sogenannten Deepfakes sehr professionell sowie leicht zu erstellen sind und somit die Gefahr besteht, dass sehr schnell falsche Informationen im Internet verbreitet werden.
Besonders im Bereich der Politik gab es bereits einige Vorfälle.

Fälle von Deepfakes

So gab es bereits vor einigen Jahren einen Vorfall, in welchem ein gefälschtes Video von Barack Obama, dem damaligen Präsidenten der Vereinigten Staaten, veröffentlicht wurde. In diesem Video klärte dieser über die Gefahren von Deepfakes auf. Jedoch war dies ein solch gefälschtes Endprodukt einer KI, welches von dem Regisseur und Schauspieler Jordan Peele erstellt wurde. Dieser wollte damit die Gefahren von Deepfakes verdeutlichen.
Ein weiterer Fall eines solchen Betrugs ereignete sich im Juni 2022, in welchem Berlins Bürgermeisterin Franziska Giffey Opfer eines Deepfakes wurde. Dieser Deepfake ereignete sich in einem vermeintlichem Videoanruf mit Kiews Bürgermeister Vitali Klitschko, welches nach einigen Minuten vorzeitig beendet wurde.

https://www.tagesschau.de/investigativ/rbb/deep-fake-klitschko-101.html (27.10.23, 14:02)

DigiFors klärt auf

Im Rahmen eines Interviews mit dem Ombudsmann-Magazin Voss & Team, besuchte der Moderator Sven Voss im Oktober dieses Jahres die Firma, mit dem Ziel, über die Gefahren von Deepfakes aufzuklären. Zusammen mit Nico Müller erstellte er einen Deepfake von Bodo Ramelow.

Wie leicht lässt sich ein Deepfake erstellen?

Damit ein Deepfake erstellt werden kann, bedarf es keinem umfangreichen IT-Wissen. Anleitungen gibt es überall im Internet und Jeder kann kostenlos ein Programm hierfür herunterladen.
Es wird damit begonnen, sich je nach gewünschter Variante des Fakes, ein passendes Modell oder einen passenden Dienstleister herunterzuladen. Danach wird eine gewünschte Person aus dem Internet herausgesucht. Im Falle eines Videos wird anschließend im Internet ein Exemplar von dieser Person ausgewählt und heruntergeladen. Wichtig hierbei ist, dass das Video einen statischen Hintergrund besitzt, die Person nach vorn gerichtet ruhig dasteht und die Lippenbewegung gut zu erkennen ist. Außerdem sollte das gewählte Medium eine möglichst gute Qualität aufweisen. Im Anschluss daran wird das Video in das Programm geladen. Danach wird die Audiosequenz aus dem Video geschnitten und der KI als Testmaterial übermittelt. Je mehr Daten die KI erhält, desto perfektionierter werden die Ergebnisse. Nun können eigene Sätze gebaut werden. Mittels eines „Text to Speech“ – Systems und einem neuralen Netzwerk, auf welchem die KI basiert, werden die gewonnen Informationen verwertet. Die fertige Audiodatei wird als letzten Schritt ebenfalls in das Programm geladen. Der Deepfake kann erstellt werden. Für einen guten Fake dauert dies im Durchschnitt zwei Tage.

Warum ist es so wichtig gegen Deepfakes vorzugehen?

Da Deepfakes für Jeden leicht und schnell erstellbar sind, können falsche Informationen zügig verbreitet werden. Besonders in den Fällen von gefälschten Äußerungen seitens Personen des Öffentlichen Lebens, wie Influencern oder Politikern, kann dies zu Problemen führen.
Das Bundeskriminalamt für Sicherheit in der Informationstechnik warnt hierbei vor den Gefahren der Überwindung von biometrischen Systemen, gezielten Phishing-Angriffen zur Informations- und Datengewinnung sowie Desinformationskampanien und Verleumdung.

Wie kann man sich schützen?

Sollte Verdacht auf einen Deepfake bestehen, können bestimmte Programme eingesetzt werden, welche dazu dienen, diese zu entlarven. An solchen technologischen Ansätzen arbeitet Nico Müller derzeit mit dem Fraunhofer Institut und den LKÄs Baden-Württemberg und Bayern.

Für den Anfang werden diese Programme jedoch nur den Ermittlern der Staatsanwaltschaft zur Verfügung stehen. Bis dahin sollte man als Privatperson jederzeit misstrauisch sein und bei Unsicherheit nach den originalen Quellen suchen. Besonders bei Anbietern wie WhatsApp oder auf Social-Media-Plattformen, wie TikTok oder Instagram, besteht die Gefahr mit Deepfakes in Berührung zu kommen.

Link zum Beitrag: https://www.mdr.de/tv/programm/sendung-892504.html