TCO/TERREG civil society letter

Verordnung über terroristische Online-Inhalte: Zeit, die Dinge richtig zu stellen. Übersetzung des Offenen Briefes von Diego Naranjo (EDRi) vom 16.03.2020.

Ich bin überzeugt, dass der einzige wirksame Weg zur Bekämpfung des Terrorismus fest in der Achtung der Grund- und Menschenrechte verankert ist.
- EU-Sicherheitskommissar Sir Julian King, 14. November 2016.

Die "Terrorist Content Online Regulation"-Verhandlungen (Verordnung zur Verhinderung der Verbreitung terroristischer Inhalte) werden in Brüssel unter Ausschluss der Öffentlichkeit ("Trilog") fortgesetzt. Nach unserem Offenen Brief vom Dezember sind die Dinge zunächst recht langsam vorangekommen. In letzter Zeit werden neue Texte zügiger diskutiert, um bald eine Einigung zu erzielen. Dennoch, so der Europaabgeordnete Patrick Breyer, stehen noch viele Schlüsselfragen zur Diskussion.

Die Verordnung ist einer der wichtigsten Rechtsakte, die im Laufe des Jahres 2020 verhandelt werden sollen. In ihrem ursprünglichen Vorschlag wurde sie wegen ihrer möglichen Auswirkungen auf die Privatsphäre und die Meinungsfreiheit heftig kritisiert. Kritiker sind die EU-Grundrechtsagentur, dem Europäischen Datenschutzbeauftragten (EDSB) und den UN-Sonderberichterstatter.

Wenn die Verordnung nicht korrekt durchgeführt wird, könnte sie zur Auferlegung von "[Staats-]terrorfiltern" führen, die

• legitime Inhalte herausfiltern könnten, weil die Filter den Kontext nicht verstehen,
• den investigativen Journalismus einschränken (mehr Informationen hier) und
• zum Instrument der Regierungsbehörden werden, um legitime Meinungsverschiedenheiten unter dem Vorwand "Kampfes gegen den Terror" zu unterdrücken.

Das Europäische Parlament hat einige der wichtigsten von uns geforderten Schutzmaßnahmen in den Bericht des Ausschusses für Bürgerliche Freiheiten, Justiz und Inneres (LIBE) aufgenommen. Dieser Bericht repräsentiert auch die Position des Parlaments als Ganzes in den gegenwärtigen Verhandlungen.

Die Verhandlungsführer der EU-Mitgliedstaaten und des Europäischen Parlaments müssen sicherstellen, dass der endgültige Text genügend Schutzmaßnahmen enthält, wie sie im Bericht des Parlaments vorgeschlagen werden. Sie müssen besonders auf Folgendes achten:

• Die Definitionen in der Verordnung müssen klar an die Definitionen aus der Terrorismusrichtlinie ausgerichtet sein. Sie müssen "intent" [Absicht] als ein Hauptkriterium zur Definition des "terrorist content" [terroristischen Inhalts] enthalten.
• Die zuständigen Behörden in den Mitgliedstaaten müssen von der Exekutive unabhängig sein. Sie dürfen keine Anweisungen von anderen staatlichen Stellen einholen oder entgegennehmen, wenn sie Anweisungen zur Festnahme erteilen. Andernfalls könnten Regierungen versucht sein "Terrorismus" als Vorwand zu benutzen, um gegen abweichende Stimmen vorzugehen und um sie zum Schweigen zu bringen.
• Die Behörden der Mitgliedstaaten können Inhalte nur dann direkt entfernen lassen, wenn die Dienstleistungsanbieter in ihrem Zuständigkeitsbereich niedergelassen sind. Wenn der mutmaßlich illegale terroristische Inhalt von einem Unternehmen in einem anderen Mitgliedstaat gehostet wird, muss der ersuchende Mitgliedstaat diesen anderen Staat bitten, den Inhalt zu entfernen. Andernfalls würde die extraterritoriale Durchsetzung von Abschiebungsanordnungen rechtsstaatliche Mechanismen umgehen.
• Verweisungen (Vorschläge von Strafverfolgungsbehörden, potenzielle "terroristische" Inhalte gegen die Geschäftsbedingungen von Unternehmen zu prüfen) müssen aus jedem künftigen Text herausgehalten werden, um sicherzustellen, dass die rechtlichen Verfahren nicht im Namen der "Effizienz" untergraben werden.
• Terrorfilter (Upload-Filter, Re-Upload-Filter oder "proaktive Maßnahmen") sollten den Unternehmen nicht auferlegt werden, da dies einen Verstoß gegen das Verbot allgemeiner Überwachungspflichten der E-Commerce-Richtlinie [eCommerce Directive] darstellt. Dies könnte auch zu unerwünschten Konsequenzen hinsichtlich der Nutzung legitimer Inhalte führen.
• Sowohl in der Parlaments- als auch in der Ratsversion müssen alle Unternehmen Inhalte innerhalb einer Stunde entfernen. Diese Regelung berücksichtigt nicht die mangelnden Kapazitäten kleinerer Unternehmen oder die von gemeinnützigen Organisationen erbrachten Dienstleistungen. Sie können solche Anfragen nicht mit den gleichen Kapazitäten wie die Internet-Giganten bearbeiten. Es ist unwahrscheinlich, dass beide Institutionen beschließen, mit sich selbst nicht einverstanden zu sein und die Regel zu streichen, auf die sie sich bei früheren Verhandlungen geeinigt haben. Allerdings sollte man bedenken, dass diese Regel zur Stärkung der großen Technologieunternehmen führen wird, die als einzige in der Lage sind, diese Anfragen in dieser sehr kurzen Zeit zu bearbeiten. Kleinere Dienste könnten durch die Kombination von Anforderungen durch mögliche Umsetzungen der Urheberrechtsrichtlinie und dieser Verordnung ernsthaft geschädigt werden, wenn die Ein-Stunden-Regel nicht aufgehoben wird.

Wenn diese Verordnung angenommen werden soll, müssen die politischen Entscheidungsträger sicherstellen, dass sie nicht zu der Unsicherheit führt, die durch andere vertikale Rechtsvorschriften zur Regelung von Online-Inhalten entsteht. Wenn der Text die Stimmen von Journalisten, Menschenrechtsgruppen, der EU-Grundrechtsagentur und drei UN-Sonderberichterstattern nicht berücksichtigt, riskieren wir, einen schlechten Präzedenzfall für zukünftige evidenzbasierte und menschenrechtsorientierte Gesetzgebung zu schaffen. Glücklicherweise ist noch Zeit, um die Dinge richtig zu stellen. Wenden Sie sich an Ihre örtliche Organisation für digitale Rechte; erfahren Sie, wie Sie deren Arbeit im aktuellen Stand der Dinge unterstützen können.

Lesen Sie mehr dazu:

Terrorist Online Content Regulation: Document Pool (21.11.2018)
https://edri.org/terrorist-content-regulation-document-pool/

Committee to Protect Journalists (11.03.2020) (21.11.2018)
https://cpj.org/2020/03/eu-online-terrorist-content-legislation-press-freedom.php

Human rights defenders are not terrorists, and their content is not propaganda (21.01.2020)
https://blog.witness.org/2020/01/human-rights-defenders-not-terrorists-content-not-propaganda/

Lifting the veil on the secretive EU terror filter negotiations: Here’s where we stand  (09.03.2020)
https://www.patrick-breyer.de/?p=590541&lang=en

FRA and EDPS: Terrorist Content Regulation requires improvement for fundamental rights (20.02.2019)
https://edri.org/fra-edps-terrorist-content-regulation-fundamental-rights-terreg/

Terrorist Content Regulation – prior authorisation of all uploads? (21.11.2018)
https://edri.org/terrorist-content-regulation-prior-authorisation-for-all-uploads/

Contribution by Diego Naranjo, EDRi

Coverimage by ERDi