Deepfakes machen das Netz unsicher

Bei Deepfakes handelt es sich um ein neues, digitales Phänomen des Identitätsmissbrauchs. Wie das funktioniert und wer gefährdet ist, lesen Sie hier.

  • Mehr Magenta: Deepfakes

Hätten Sie gedacht, dass Facebook-Chef Mark Zuckerberg öffentlich von der Macht schwärmt, die ihm gestohlene Daten von Milliarden von Menschen verleihen? Nein? Richtig, denn das ist auch nie passiert. Trotzdem gibt es davon ein Video im Internet. Die Gründerikone wurde Opfer eines Deepfakes. Aber was ist das eigentlich?

  • Deepfakes – das steckt dahinter

    Dass beim privaten Austausch im Internet Vorsicht geboten ist, ist nichts Neues. Unsere Kinder warnen wir, in Chats nicht leichtgläubig auf zweifelhafte Anfragen einzugehen, und wir selbst wissen um die typischen Betrugsmaschen im Netz. Doch je moderner die Technnologien heutzutage werden, desto mehr Gefahren lauern – auf alle von uns.

    Der Begriff „Deepfake“ setzt sich zusammen aus „Deep Learning“ und „Fake“ und beschreibt Medieninhalte, meist Videos, die mithilfe von Künstlicher Intelligenz abgeändert worden sind. Die Verfasser vertauschen Gesichter und legen Personen mithilfe neuer Tonspur Dinge in den Mund, die sie nie gesagt haben. Das Besondere dabei: Die Inhalte wirken täuschend echt und lassen sich mit bloßem Auge oft nicht als Fälschungen erkennen. So entstehen virale Skandale, die im Netz die Runde machen.

  • Mehr Magenta: Deepfakes - Gelbe Schuhe


      • Mehr Magenta: Mann schaut auf Smartphone

      • Mehr Magenta: Sicher unterwegs Icon

        Online sicher unterwegs

        Viren, Hackerangriffe oder Datenmissbrauch: Im Web lauern diverse Gefahren, vor denen es sich zu schützen gilt.
        Mit den Telekom Sicherheitspaketen surfen Sie auf allen Endgeräten sorgenfrei im Internet, und das schon ab 1,95 € im Monat.

        Jetzt buchen


  • Prominente und anonyme Opfer

    Grundsätzlich kann jeder Opfer von Deepfakes werden. Ein Blick in die Fallzahlen zeigt jedoch, dass vor allem die Identitäten junger und prominenter Frauen für fremde Zwecke missbraucht werden. Eine vom niederländischen Unternehmen Deeptrace in Auftrag gegebene Studie belegt, dass 96 % aller Deepfake-Videos pornografische Inhalte zeigen. In einem Großteil davon werden die Gesichter von Schauspielerinnen und weiblichen Popstars in die der eigentlichen Darsteller montiert, sodass es wirkt, als hätte man echtes, sensibles Material von ihnen aufgedeckt. Immer wieder gingen solche Inhalte in den vergangenen Jahren durch die Presse und durchs Netz. Kein Wunder, ist doch der große mediale Skandal oft genau die Absicht der Verursacher.

    Auch Politiker werden vermehrt Opfer von Deepfake-Clips. Dabei legen die Urheber ihnen falsche Zitate in den Mund, um so den Wahlkampf zu manipulieren. Ob im großen oder ganz kleinen Stil – die Deep Learning Technologie wird als Instrument für Cybermobbing eingesetzt. So kann es durchaus auch Privatpersonen treffen. Die Krux in allen Fällen von Deepfakes ist die Beständigkeit, denn kursiert ein solcher Inhalt erst einmal im Netz, ist es bekanntlich schwer, dies vergessen zu machen.

  • Mehr Magenta: Mädchen lachen mit Smartphone in der Hand


      • Mehr Magenta: Mädchen schaut auf Smartphone

      • Cybermobbern keine Chance geben

        Mobbing findet nicht nur auf dem Schulhof oder auf der Arbeit statt. Auch im Netz werden Menschen immer wieder Opfer verbaler Attacken. Mit der Kampagne #gegenhassimnetz kämpft die Telekom gemeinsam mit vielen Partnern und Initiativen gegen Cybermobbing und Hass im Internet.

        Mehr erfahren


  • Mit wenigen Klicks zum Deepfake

    Der erste Deepfake machte im Jahr 2017 auf der Plattform Reddit die Runde. Auch hier handelte es sich um einen Pornofilm, in den ein Nutzer mithilfe von Deep Learning prominente Gesichter hineinmontierte. Er war der erste, der es bis dato schaffte, mittels Machine Learning aus Videomaterial gefälschte, aber realistisch anmutende Inhalte zu generieren. Möglich machen das Algorithmen. Diese werden mit sehr vielen Bild- oder Videodaten gefüttert, um im Video möglichst viele verschiedene Blickwinkel und Mimiken einsetzen zu können. Dabei gilt: Je mehr Bildmaterial der Täter von seinem Opfer findet, desto realistischer wird sein Endergebnis. Die Erstellung von Deepfakes ist mittlerweile nicht mehr nur Cyberhackern oder Computergenies vorbehalten. Mit zunehmender Digitalkompetenz und mithilfe von Apps und Software haben auch Privatleute die Möglichkeit, Fake-Inhalte zu generieren.

  • Mehr Magenta: Junge Frau schaut auf ihr Smartphone


  • Mehr Magenta: Deepfakes - Frau tauscht ihr Gesicht


  • Gesichtertausch als Smartphone-Spielerei

    Die meisten von uns dürften in Social Media Apps sogar schon einmal Erfahrung mit Deep Learning gemacht haben. Da tauchen nämlich bereits seit längerer Zeit lustige Add-Ons auf, die es zwei Personen erlauben, vor laufender Kamera ihre Gesichter zu tauschen. „Face Swap“ nennt sich dieser Trend und ermöglicht Usern mittlerweile sogar, sich selbst in Musikvideos oder Filmsequenzen hineinzumontieren. Solche Spielereien machen Spaß und lassen sich gut mit Freunden teilen. Eine Stufe weiter gehen Apps, die extra dafür gemacht wurden, täuschend echte Deepfake-Inhalte zu erstellen. Ein Dienstleister ermöglicht es Nutzern sogar, aus Fotos einer bekleideten Person ein Nacktfoto zu generieren. Apps wie diese kann sich zwar jeder auf sein Smartphone herunterladen, wem jedoch seine eigene Privatsphäre am Herzen liegt, sollte dringlichst davon absehen. Schließlich sind es genau solche Anwendungen, die Mobbern und Betrügern das Handwerk erleichtern.

      • Mehr Magenta: Paare schauen auf Tablet

      • Mehr Magenta: Deepfakes - VR Icon
        Per App virtuelle Welten erleben

        Die modernen Technologien bieten spannende, neue Perspektiven. Gehen Sie jetzt auf Entdeckungsreise – ganz bequem vom Sofa aus! Mit der kostenlosen Magenta Virtual Reality App erleben Sie Entertainment, Musik und Sport jetzt hautnah und in 360°-Perspektive. Eine VR-Brille ist nicht erforderlich.

        Mehr erfahren


  • Mehr Magenta: Deepfakes - Schützen durch Fingerabdruck


  • Rechtsgrundlage in Deutschland

    Aber ist das erlaubt? Eine spezielle, auf Deepfakes ausgelegte Rechtsprechung gibt es in Deutschland nicht, allerdings greifen hier laut Bundesregierung generell-abstrakte Regelungen der jeweils betroffenen Rechtsbereiche. Wird das Gesicht einer Person unerlaubt für pornografische Inhalte missbraucht, so gilt das zum Beispiel als Verletzung des allgemeinen Persönlichkeitsrechts und kann bei Anzeige juristisch verfolgt werden. Ein bisschen schwieriger ist dies bei politischen Deepfakes. Hier muss zwischen Meinungsfreiheit und Persönlichkeitsrecht abgewogen werden. So sind zum Beispiel Deepfakes für satirische Zwecke durch das Grundrecht der Meinungsfreiheit gedeckt. Mittlerweile wird das Verbreiten von Deepfakes vor allem durch die AGB sozialer Netzwerke geregelt. So haben Plattformen wie Twitter und Reddit bereits ein Verbot von Deepfakes ausgesprochen und sperren diese.

    Bei all dem Spaß, den die neuen Technologien für Privatzwecke bieten, ist auch weiterhin Vorsicht geboten. Gelangen Dritte im Netz und in sozialen Medien an ausreichend Bildmaterial, schaffen sie es mit wenigen Klicks, sensible Fake-Inhalte zu erstellen, um ihren Opfern Schaden zuzufügen. Aus diesem Grund ist es für Groß und Klein wichtiger als je zuvor, nur ausgewählte Bilder und Daten im Internet zu teilen, um so die Privatsphäre zu schützen.

Weitere Artikel