Carl Grossmann Verlag M. Liesching / Ch. Funke / A. Hermann Ch. Kneschke / C. Michnick / L. Nguyen J. Prüßner / S. Rudolph / V. Zschammer Das NetzDG in der praktischen Anwendung Eine Teilevaluation des Netzwerkdurchsetzungsgesetzes unter Leitung von Prof. Dr. Marc Liesching Medienrecht & Medientheorie Band 3 Liesching / Funke / Hermann / Kneschke / Michnick / Nguyen / Prüßner / Rudolph / Zschammer Das NetzDG in der praktischen Anwendung Eine Teilevaluation des Netzwerkdurchsetzungsgesetzes Schriftenreihe Medienrecht & Medientheorie Band 3 Hrsg.: Gabriele Hooffacker und Marc Liesching M. Liesching / Ch. Funke / A. Hermann / Ch. Kneschke C. Michnick / L. Nguyen / J. Prüßner / S. Rudolph V. Zschammer Das NetzDG in der praktischen Anwendung Eine Teilevaluation des Netzwerkdurchsetzungsgesetzes unter Leitung von Prof. Dr. Marc Liesching Autor*innen: Marc Liesching, Chantal Funke, Alexander Hermann, Christin Kneschke, Carolin Michnick, Linh Nguyen, Johanna Prüßner, Sarah Rudolph, Vivien Zschammer, München/Leipzig unter der Leitung von: Prof. Dr. iur. Marc Liesching, München Band 3 der Schriftenreihe Medienrecht & Medientheorie, herausgegeben von Prof. Dr. Gabriele Hooffacker und Prof. Dr. Marc Liesching. Bibliografische Information der Deutschen Nationalbibliothek: Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.d-nb.de abrufbar. © 2021 Marc Liesching, Chantal Funke, Alexander Hermann, Christin Kneschke, Carolin Michnick, Linh Nguyen, Johanna Prüßner, Sarah Rudolph, Vivien Zschammer, München/Leipzig Lizenz: CC BY 4.0 Diese Arbeit wurde unter einer Creative Commons Lizenz als Open Access veröffentlicht, die bei Weitergabe, Zitierung oder Weiterverwendung nur die Nennung des Urhebers erfordert. Weitere detaillierte Informationen finden Sie unter: https://creativecommons.org/licenses/by/4.0/deed.de DOI:10.24921/2021.94115953 Das vorliegende Werk wurde sorgfältig erarbeitet. Dennoch übernehmen Herausgeber, Autoren und Verlag für die Richtigkeit von Angaben, Hinweisen oder Dosierungen sowie für etwaige Druckfehler keine Haftung. Die verwendete Schrift ist lizensiert unter der SIL Open Font License, Version 1.1. Gedruckt in Deutschland auf säurefreiem Papier mit FSC-Zertifizierung. Gefördert durch den Open-Access-Publikationsfond der HTWK Leipzig. Herstellung der Verlagsausgabe (Druck- und digitale Fassung): Carl Grossmann Verlag, Berlin www.carlgrossmann.com ISBN: 978-3-941159-54-9 (gedruckte Ausgabe, Hardcover mit Schutzumschlag) ISBN: 978-3-941159-53-2 (e-Book, Open Access) Inhaltsverzeichnis Abbildungsverzeichnis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 Tabellenverzeichnis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 Vorwort zum 3. Band . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 I. Einführung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 II. Überblick zum Netzwerkdurchsetzungsgesetz (NetzDG) . . . . . . . . . . . 9 1. Wesentliche Regelungsinhalte des NetzDG 2017 . . . . . . . . . . . . . . . . . 9 2. Verfassungsrechtliche Kritik – Overblocking . . . . . . . . . . . . . . . . . . . . . 10 3. Aktuelle Novellierungen des NetzDG . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11 a) GBRH . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11 b) NetzDGÄndG . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12 4. Halbjahresberichte Sozialer Netzwerke . . . . . . . . . . . . . . . . . . . . . . . . . . . 13 5. Bedeutung des NetzDG in der Anwendungspraxis . . . . . . . . . . . . . . . 15 a) Überblick zur Bedeutung praktischer Normanwendung . . . . . . 15 b) Anlassunabhängige, proaktive AGB-Löschungen . . . . . . . . . . . . . . 16 c) Löschungen NetzDG-gemeldeter Inhalte . . . . . . . . . . . . . . . . . . . . . . . 20 d) Erkenntnisse aus Monitoring-Berichten . . . . . . . . . . . . . . . . . . . . . . . . 21 e) Praxis der Bußgeldahndungen durch BfJ . . . . . . . . . . . . . . . . . . . . . . 23 aa) Einschätzung und Planung des Gesetzgebers 2017 . . . . . . . 23 bb) Bußgeldahndungspraxis 2018 – 2020 . . . . . . . . . . . . . . . . . . . . . . . 24 f) Internationale NetzDG-Geltung und Durchsetzung . . . . . . . . . . . 25 aa) Geltung für Soziale Netzwerke in anderen EU-Mitgliedstaaten . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25 bb) Durchsetzbarkeit des NetzDG im Ausland . . . . . . . . . . . . . . . . 26 g) Kursorische Bewertung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26 III. Bisherige NetzDG-Studien . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29 1. Juristische Evaluation im Auftrag des BMJV 2020 . . . . . . . . . . . . . . . 29 a) Wesentlicher Inhalt der Studie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29 b) Anmerkungen zu Methodik und Befunden . . . . . . . . . . . . . . . . . . . . 34 2. NetzDG-Monitoring-Berichte 2019 – 2020 . . . . . . . . . . . . . . . . . . . . . . . . . 36 a) Hintergrund des Monitorings (§ 3 Abs. 5 NetzDG) . . . . . . . . . . . 36 v b) Wesentlicher Inhalt der Berichte . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38 aa) Bericht zum ersten Testzyklus 1. Halbjahr 2019 . . . . . . . . . . 38 bb) Bericht zum zweiten Testzyklus 2. Halbjahr 2019 . . . . . . . . 41 cc) Bericht zum dritten Testzyklus 1. Halbjahr 2020 . . . . . . . . . 43 c) Anmerkungen zu Methodik und Befunden . . . . . . . . . . . . . . . . . . . . 45 aa) Methodik . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45 bb) Bewertung der Befunde . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47 3. MA HSH Studie 2019 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50 a) Wesentlicher Inhalt der Studie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50 b) Anmerkungen zu Methodik und Befunden . . . . . . . . . . . . . . . . . . . . 52 IV. Vergleichsanalyse Facebook, YouTube, Twitter . . . . . . . . . . . . . . . . . . . . . 55 1. Vergleichsanalyse zu Halbjahresberichten . . . . . . . . . . . . . . . . . . . . . . . . 55 a) Tabellarische Überblicksdarstellung . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55 b) Erläuterung wesentlicher Ergebnisse der Vergleichsanalyse 58 aa) Anzahl von Beschwerden bzw. beschwerdegegenständlichen Inhalten . . . . . . . . . . . . . . . . . . . . 58 (1) Aspekte und Befunde bzgl. aller drei Sozialen Netzwerke . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58 (2) Facebook . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59 (3) YouTube . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60 (4) Twitter . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61 bb) Anzahl gesperrter/gelöschter Inhalte . . . . . . . . . . . . . . . . . . . . . . 62 (1) Aspekte und Befunde bzgl. aller drei Sozialen Netzwerke . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62 (2) Facebook . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62 (3) YouTube . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64 (4) Twitter . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67 cc) Anteil der Löschungen/Sperrungen innerhalb von 24 Stunden . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 69 2. Ergebnisse einer Befragung zum NetzDG . . . . . . . . . . . . . . . . . . . . . . . . . 71 a) Zielstellung und Methodik . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71 aa) Zielstellung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71 bb) Methodik . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71 b) Umsetzung und Studienteilnahme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72 c) Auswertung der Befragung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72 aa) Allgemeine Fragen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72 (1) Einschätzung zu Auswirkungen des NetzDG . . . . . . . . . 72 Inhaltsverzeichnis vi (2) Rechtsverbindlichkeit des NetzDG (wg. Herkunftslandprinzip) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 75 (3) Einschätzung zu Overblocking . . . . . . . . . . . . . . . . . . . . . . . . . 76 bb) Angaben in den Halbjahresberichten . . . . . . . . . . . . . . . . . . . . . . 77 (1) Angaben zur Vergleichbarkeit von Berichtsinhalten 77 (2) Meldewege und deren Inhalte im Vergleich . . . . . . . . . . 78 (3) Analyse der Schwankungen in den Berichtszahlen . . . 79 cc) Angaben zur Beschwerdeanzahl mit Löschfolge . . . . . . . . . . 80 (1) Details zu Zählweise und Verhältnis AGB- zu NetzDG-Löschungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80 (2) Details zur Verfahrensweise bei Sperrung von Inhalten in Deutschland . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81 (3) Korrektheit der StGB-Angaben der Beschwerdeführer*innen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82 (4) Beispiele für nach NetzDG gelöschte Inhalte . . . . . . . . . 83 dd) Angaben zu Zeitspannen zw. Beschwerdeeingang und Löschung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83 (1) Umgang mit Fristen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83 (2) Verbesserungsvorschläge der befragten Sozialen Netzwerke . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85 ee) Fragen zu Novellierungsentwürfen . . . . . . . . . . . . . . . . . . . . . . . . 86 V. Anhaltspunkte für Overblocking . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89 1. Auffassung der Bundesregierung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89 2. Eruierung von Overblocking-Kriterien . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91 a) Einzelfallanalyse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91 aa) Ansatz und Methodik . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91 bb) Kritik . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 94 cc) Ergebnis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 95 b) Umfassendes Monitoring der Beschwerdebearbeitung . . . . . . . . 95 aa) Ansatz und Methodik . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 95 bb) Kritik . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 97 cc) Ergebnis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 98 c) Bewertung von „ Löschquoten “ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 99 aa) Ansatz und Methodik . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 99 bb) Kritik . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 100 cc) Ergebnis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102 d) Verhältnis AGB- zu NetzDG-Löschungen . . . . . . . . . . . . . . . . . . . . . . 103 aa) Ansatz und Methodik . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103 Inhaltsverzeichnis vii bb) Kritik . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105 cc) Ergebnis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107 e) Zeitraum zw. Beschwerdeeingang und Löschung . . . . . . . . . . . . . 107 aa) Ansatz und Methodik . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107 bb) Kritik . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 108 cc) Ergebnis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112 f) Absenz von Bußgeldahndungen wegen Nicht-Löschungen . . . 112 aa) Ansatz und Methodik . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112 bb) Kritik . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 113 cc) Ergebnis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 115 g) Prüfung der Wirksamkeit von Overblocking-Gegenmaßnahmen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 116 aa) Ansatz und Methodik . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 116 bb) Beschränkung der Bußgelddrohung auf „ systemisches “ Fehlverhalten . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 116 cc) Flexibilisierung von Fristvorgaben in der Praxis . . . . . . . . . . 117 dd) Partizipation von Selbstkontrollen . . . . . . . . . . . . . . . . . . . . . . . . . 119 ee) Ergebnis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 120 h) Einschätzungen der Sozialen Netzwerke . . . . . . . . . . . . . . . . . . . . . . . 120 i) Zusammenfassung valider Overblocking-Kriterien . . . . . . . . . . . . 121 3. Subsumtion valider Overblocking-Kriterien . . . . . . . . . . . . . . . . . . . . . . . 121 a) Verhältnis AGB- zu NetzDG-Löschungen . . . . . . . . . . . . . . . . . . . . . . 121 aa) These der „ AGB-Institutionalisierung “ von Overblocking 121 bb) Fassung StGB-kongruenter, weiter AGB-Tatbestände . . . . . 123 cc) Vorrang der AGB-Prüfung vor NetzDG-Prüfung . . . . . . . . . . 126 dd) Überwiegende Löschung nach AGB . . . . . . . . . . . . . . . . . . . . . . . 127 ee) Ergebnis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 130 b) Zeitraum zw. Beschwerdeeingang und Löschung . . . . . . . . . . . . . 131 aa) These der schnellen Zweifelsfall-Entfernung von Inhalten 131 bb) Bewertung der Halbjahresberichte . . . . . . . . . . . . . . . . . . . . . . . . . 132 cc) Ergebnis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 133 c) Absenz von Bußgeldverfahren nach § 4 Abs. 1 Nr. 2 NetzDG 133 d) Wirkung und Plausibilität von „ Gegenmechanismen “ . . . . . . . . 134 aa) Beteiligung/Konsultation der externen Selbstregulierung 134 bb) Fristverlängerungen nach § 3 Abs. 2 Nr. 3 NetzDG . . . . . . . 135 cc) Bußgeldbeschränkung auf „ systemisches Versagen “ . . . . . . 137 dd) Ergebnis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 140 e) Selbsteinschätzung Sozialer Netzwerke . . . . . . . . . . . . . . . . . . . . . . . . 141 4. Gesamtbewertung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 143 Inhaltsverzeichnis viii VI. Anhang 1: Analyse der Halbjahresberichte im Einzelnen . . . . . . . . . . 147 1. Anstrengungen zur Unterbindung strafbarer Handlungen . . . . . . . 147 a) Gesetzliche Berichtspflicht (§ 2 Abs. 2 Nr. 1 NetzDG) . . . . . . . . 147 b) Berichtsangaben von Facebook . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 148 c) Berichtsangaben von YouTube . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 149 d) Berichtsangaben von Twitter . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 151 e) Vergleichende Analyse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 153 2. Mechanismen zur Beschwerdeübermittlung / Kriterien . . . . . . . . . 155 a) Gesetzliche Berichtspflicht (§ 2 Abs. 2 Nr. 2 NetzDG) . . . . . . . . 155 b) Berichtsangaben von Facebook . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156 c) Berichtsangaben von YouTube . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 158 d) Berichtsangaben von Twitter . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 162 e) Vergleichende Analyse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 165 3. Eingegangene Beschwerden über rechtswidrige Inhalte . . . . . . . . . 167 a) Gesetzliche Berichtspflicht (§ 2 Abs. 2 Nr. 3 NetzDG) . . . . . . . . 167 b) Berichtsangaben von Facebook . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 168 aa) Ausführungen in den Halbjahresberichten . . . . . . . . . . . . . . . . 168 bb) Aufkommen gemeldeter Inhalte in 2018 bis 2020 . . . . . . . . 170 c) Berichtsangaben von YouTube . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 171 aa) Ausführungen in den Halbjahresberichten . . . . . . . . . . . . . . . . 171 bb) Aufkommen gemeldeter Inhalte in 2018 bis 2020 . . . . . . . . 173 d) Berichtsangaben von Twitter . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 174 aa) Ausführungen in den Halbjahresberichten . . . . . . . . . . . . . . . . 174 bb) Aufkommen gemeldeter Inhalte in 2018 bis 2020 . . . . . . . . 176 e) Vergleichende Analyse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 177 4. Organisatorische und strukturelle Angaben . . . . . . . . . . . . . . . . . . . . . . 181 a) Gesetzliche Berichtspflicht (§ 2 Abs. 2 Nr. 4 NetzDG) . . . . . . . . 181 aa) Organisation, Ausstattung und Kompetenz . . . . . . . . . . . . . . . 181 bb) Schulung und Betreuung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 182 b) Berichtsangaben von Facebook . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183 c) Berichtsangaben von YouTube . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 186 d) Berichtsangaben von Twitter . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 187 e) Vergleichende Analyse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 188 5. Mitgliedschaften in Branchenverbänden . . . . . . . . . . . . . . . . . . . . . . . . . . 189 a) Gesetzliche Berichtspflicht (§ 2 Abs. 2 Nr. 5 NetzDG) . . . . . . . . 189 b) Berichtsangaben von Facebook . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 190 c) Berichtsangaben von YouTube . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 190 d) Berichtsangaben von Twitter . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 191 e) Vergleichende Analyse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 191 Inhaltsverzeichnis ix 6. Beschwerden mit Konsultation externer Stellen . . . . . . . . . . . . . . . . . 192 a) Gesetzliche Berichtspflicht (§ 2 Abs. 2 Nr. 6 NetzDG) . . . . . . . . 192 b) Berichtsangaben von Facebook . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 193 c) Berichtsangaben von YouTube . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 194 d) Berichtsangaben von Twitter . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 194 e) Vergleichende Analyse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 195 7. Anzahl der Beschwerden mit Folge der Löschung oder Sperrung 195 a) Gesetzliche Berichtspflicht (§ 2 Abs. 2 Nr. 7 NetzDG) . . . . . . . . 195 b) Berichtsangaben von Facebook . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 197 aa) Ausführungen des Berichts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 197 bb) Löschungen/Sperrungen in 2018 bis 2020 . . . . . . . . . . . . . . . . . 200 c) Berichtsangaben von YouTube . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 202 aa) Ausführungen des Berichts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 202 bb) Löschungen/Sperrungen in 2018 bis 2020 . . . . . . . . . . . . . . . . . 204 d) Berichtsangaben von Twitter . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 205 aa) Ausführungen des Berichts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 205 bb) Löschungen/Sperrungen in 2018 bis 2020 . . . . . . . . . . . . . . . . . 207 e) Vergleichende Analyse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209 8. Zeiten zwischen Beschwerdeeingang und Löschung/Sperrung 211 a) Gesetzliche Berichtspflicht (§ 2 Abs. 2 Nr. 8 NetzDG) . . . . . . . . 211 b) Berichtsangaben von Facebook . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212 aa) Ausführungen des Berichts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212 bb) Bearbeitungszeiten 2018 bis 2020 . . . . . . . . . . . . . . . . . . . . . . . . . . 215 c) Berichtsangaben von YouTube . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 217 aa) Ausführungen im Bericht . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 217 bb) Bearbeitungszeiten 2018 bis 2020 . . . . . . . . . . . . . . . . . . . . . . . . . . 218 d) Berichtsangaben von Twitter . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 220 aa) Ausführungen im Bericht . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 220 bb) Bearbeitungszeiten . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 221 e) Vergleichende Analyse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 225 9. Maßnahmen zur Unterrichtung Beteiligter . . . . . . . . . . . . . . . . . . . . . . . 228 a) Gesetzliche Berichtspflicht (§ 2 Abs. 2 Nr. 9 NetzDG) . . . . . . . . 228 b) Berichtsangaben von Facebook . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 229 c) Berichtsangaben von YouTube . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 234 d) Berichtsangaben von Twitter . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 235 e) Vergleichende Analyse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 237 VII. Anhang 2: Antworten befragter Sozialer Netzwerke . . . . . . . . . . . . . . . . 239 1. YouTube . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 239 Inhaltsverzeichnis x 2. Twitter . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 266 3. Facebook . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 279 VIII. Anhang 3: Übersicht Community-Standards . . . . . . . . . . . . . . . . . . . . . . . . 285 IX. Anhang 4: Screenshots geblockter Tweets . . . . . . . . . . . . . . . . . . . . . . . . . . . 353 X. Zusammenfassung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 359 1. Bedeutung des NetzDG in der Anwendungspraxis . . . . . . . . . . . . . . . 359 2. Analyse der Halbjahresberichte 2018 – 2020 . . . . . . . . . . . . . . . . . . . . . . 361 3. Anhaltspunkte für Overblocking . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 363 4. Kursorische Gesamtbewertung des NetzDG . . . . . . . . . . . . . . . . . . . . . . 368 a) NetzDG-bedingter Ausweichdruck hin zu AGB-Löschstrukturen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 368 b) Eignung und Bestimmtheit der NetzDG-Berichtsvorgaben . . . 370 c) Voraussichtliche Auswirkungen der NetzDG-Novellen . . . . . . . . 371 d) Kompatibilität NetzDG – Europäischer Regulierungsansatz 372 e) Schlussfolgerungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 374 Literatur . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 377 Inhaltsverzeichnis xi Abbildungsverzeichnis Abb. 1: Facebook Transparency ............................................................. 17 Abb. 2: Facebook Transparency ............................................................ 18 Abb. 3: Google Transparenzbericht ....................................................... 19 Abb. 4: Anteil entfernter Inhalte an gemeldeten „ eindeutig rechtswidrigen “ Inhalten je Netzwerk ................................................... 49 Abb. 5: Zahl der Inhaltsentfernungen infolge NetzDG-Beschwerden (Facebook) ........................................................................................... 63 Abb. 6: Anteil entfernter Inhalte an gemeldeten Inhalten (Facebook) .. 64 Abb. 7: Zahl der Inhaltsentfernungen infolge NetzDG-Beschwerden (YouTube) ............................................................................................ 66 Abb. 8: Anteil entfernter Inhalte an gemeldeten Inhalten (YouTube) ... 66 Abb. 9: Zahl der Inhaltsentfernungen infolge NetzDG-Beschwerden (Twitter) ............................................................................................... 68 Abb. 10: Anteil entfernter Inhalte an gemeldeten Inhalten (Twitter) ..... 69 Abb. 11: Vergleich der Bearbeitungszeit ................................................. 70 Abb. 12: Entfernung wegen eines Verstoßes gegen die Community- Richtlinien vs. NetzDG (YouTube) ........................................................ 125 Abb. 13: Anzahl gemeldeter Inhalte bei Facebook im Zeitraum von 2018 – 2020 ..................................................................................................... 171 Abb. 14: Anzahl gemeldeter Inhalte bei YouTube im Zeitraum von 2018 – 2020 ..................................................................................................... 174 Abb. 15: Anzahl gemeldeter Inhalte bei Twitter im Zeitraum von 2018 – 2020 ..................................................................................................... 177 Abb. 16: Vergleichende Darstellung – Anzahl gemeldeter Inhalte im Zeitraum von 2018 – 2020 für Facebook, YouTube und Twitter ............. 180 1 Abb. 17: Gegenüberstellung gemeldeter Inhalte zu gesperrten/gelöschten Inhalten bei Facebook im Zeitraum von 2018 – 2020 ............................ 201 Abb. 18: Gegenüberstellung gemeldeter Inhalte zu gesperrten/gelöschten Inhalten bei YouTube im Zeitraum von 2018 – 2020 ............................. 205 Abb. 19: Gegenüberstellung gemeldeter Inhalte zu gesperrten/gelöschten Inhalten bei Twitter im Zeitraum von 2018 – 2020 ................................ 207 Abb. 20: Vergleichende Darstellung Anzahl gesperrter bzw. gelöschter Inhalte im Zeitraum von 2018 – 2020 .................................................... 210 Abb. 21: Bearbeitungszeiten für Beschwerden bei Facebook im Zeitraum von 2018 – 2020 ..................................................................................... 215 Abb. 22: Bearbeitungszeiten für Beschwerden bei YouTube im Zeitraum von 2018 – 2020 ..................................................................................... 219 Abb. 23: Bearbeitungszeiten für Beschwerden bei Twitter im Zeitraum von 2018 – 2020 ..................................................................................... 223 Abb. 24: Vergleichende Darstellung der Bearbeitungszeit im Zeitraum von 2018 – 2020 ..................................................................................... 226 Abbildungsverzeichnis 2 Tabellenverzeichnis Tabelle 1: Statistik des 1. Halbjahresberichts 2019 (1. 1. 2019 – 30. 6. 2019) der Monitoringstelle Intelligent Data Analytics GmbH & Co. KG ......... 40 Tabelle 2: Statistik des 2. Halbjahresberichts 2019 (1. 7. 2019 – 31. 12. 2019) der Monitoringstelle Intelligent Data Analytics GmbH & Co. KG ......... 43 Tabelle 3: Statistik des 1. Halbjahresberichts 2020 (1. 1. 2020 – 30. 6. 2020) der Monitoringstelle Intelligent Data Analytics GmbH & Co. KG ......... 45 Tabelle 4: Anteil entfernter Inhalte an insgesamt im Monitoring gemeldeten „ eindeutig “ rechtswidrigen Inhalten bei Facebook, YouTube und Twitter ........................................................................................... 48 Tabelle 5: Überblicksdarstellung ............................................................ 55 Tabelle 6: Anteil gesperrter/gelöschter Inhalte an gemeldeten Inhalten bei YouTube .......................................................................................... 129 3 Vorwort zum 3. Band Der dritte Band der Schriftenreihe „ Medienrecht und Medientheorie “ befasst sich mit der praktischen Umsetzung des 2017 verabschiedeten Netzwerk- durchsetzungsgesetzes (NetzDG), das vor allem in der Einführungsphase hinsichtlich seiner Auswirkungen und der Verfassungskonformität stark umstritten war. Insbesondere wurden Bedenken geäußert, dass die Einfüh- rung einer Melde-, Prüf- und Löschinfrastruktur unter Androhung hoher Bußgelder bei den großen Sozialen Netzwerken zu einer Policy der Löschung im Zweifelsfall führen könnte, die zuweilen als „ Overblocking “ bezeichnet worden ist. Entgegen der Ankündigung der Bundesregierung, dass sich eine spätere Evaluierung des Gesetzes auch und gerade auf diesen kritischen Aspekt beziehen würde, erfolgte dann in der 2020 vom Bundesamt der Justiz und für Verbraucherschutz (BMJV) beauftragten Evaluation keine empirische Unter- suchung, ob es ein Overblocking bei großen Sozialen Netzwerken gibt. Auch wurden keine Anhaltspunkte für das Vorliegen einer solchen Praxis aus- weislich des Evaluationsberichts ausgemacht. U. a. vor diesem Hintergrund hat sich ein Forschungsteam an der Fakultät Informatik und Medien der HTWK Leipzig zusammengefunden, um eine weitere Teilevaluation der Anwendung des NetzDG vorzunehmen. Grundlage hierfür waren die jeweils sechs Halbjahresberichte der drei großen Sozialen Netzwerke Facebook, YouTube und Twitter im Zeitraum 2018 bis 2020 sowie Befragungen der drei Anbieter zur Anwendung des Gesetzes im Rahmen einer qualitativen Studie. Dies wurde ergänzt durch eine erstmals vollständige Auswertung der NetzDG-Monitoring-Berichte gemäß § 3 Abs. 5 NetzDG sowie eine Eruierung und Analyse des Vorliegens von Anhaltspunkten und rechts- systemischen Anreizen für ein Overblocking aufgrund der legislativ geschaf- fenen Löschinfrastruktur. Die Studie wurde unabhängig, d. h. ohne Beauftra- gung und ohne finanzielle Zuwendungen für ihre Durchführung, erstellt. Der vorliegende Band gibt den abschließenden Evaluationsbericht wieder. Leipzig im März 2021 Gabriele Hooffacker Marc Liesching 5 I. Einführung Das 2017 verabschiedete Netzwerkdurchsetzungsgesetz (NetzDG) sollte eine Antwort des Gesetzgebers auf eine Verrohung der Debattenkultur und der Verbreitung so genannter „ Hassrede “ in Sozialen Medien darstellen. Das deutsche Bundesgesetz intendiert eine Verpflichtung großer Sozialer Netz- werke mit Sitz in anderen EU-Mitgliedstaaten wie Facebook, YouTube und Twitter, Compliance- und Löschinfrastrukturen für bestimmte strafbare Inhalte aufzubauen, die in eine möglichst schnelle Entfernung einschlägigen Materials münden. Die entsprechenden Regelungen sind seit ihrem Inkrafttreten umstritten. Insbesondere werden massive Eingriffe in die Meinungs- und Informations- freiheit besorgt, da aufgrund der ebenfalls durch das NetzDG eingeführten Bußgelddrohungen die Gefahr eines Overblockings, einer „ Zuviel “ -Entfernung im Zweifelsfall bestehe. Vor diesem Hintergrund ergab sich – ca. drei Jahre nach Inkrafttreten des NetzDG – in besonderem Maße die Erforderlichkeit, die Wirkweise des Gesetzes in seiner praktischen Anwendung zu beleuchten. Die vorliegende Untersuchung soll hierzu einen Teilbeitrag zu einzelnen Aspekten leisten, die vor allem im Kontext der grundrechtssensiblen Entfernungen von Inhalten durch Soziale Netzwerke wichtig erscheinen. Die Darstellung hat den nach- folgend skizzierten Aufbau: · Es erfolgt zunächst ein kurzer Überblick zu Regelungsinhalten des Netz- DG , zu aktuellen Novellierungsbestrebungen der Bundesregierung und zur Bedeutung des Gesetzes in der aktuellen praktischen Anwendung (hierzu II. ). · Darüber hinaus werden bisherige Studien, Evaluationen und Monitoring- Berichte zum NetzDG – ohne Anspruch auf Vollständigkeit – kurz vorge- stellt und kursorisch bewertet (hierzu III. ). · Im Anschluss hieran werden die wesentlichen Ergebnisse einer eigenen Vergleichsanalyse der Halbjahresberichte der drei großen Sozialen Netz- werke Facebook, YouTube und Twitter im Überblick dargestellt (hierzu IV.1. ). · Die genannten drei Netzwerkbetreiber wurden darüber hinaus im Rahmen einer qualitativen Studie zur Anwendungspraxis und zu Auswirkungen des 7