Hate Speech | BSZ

YouTube will gegen Terrorinhalte vorgehen

Redaktion — Mon, 14 Aug 2017 16:13:13 +0000

Künstliche Intelligenz. Google hat in einem Blogpost vorgestellt, dass zur Bekämpfung von terroristischen Inhalten Machine Learning eingesetzt werden soll.

Googles Videoplattform YouTube möchte mithilfe von künstlichen Intelligenzen stärker gegen terroristische Inhalte vorgehen. Das hat Google auf dem offiziellen YouTube-Blog angekündigt. Dabei sollen auch Videos erkannt werden, die zwar nicht gegen die YouTube-Richtlinien verstoßen, aber Hate Speech enthalten oder zu gewalttätigen Extremismus aufrufen.

Machine-Learning-Verfahren, Methoden aus dem „Targeted Advertising“ und mehr Experten sollen helfen.

Unser Redakteur Andreas Schneider hat sich mit dem Thema Machine Learning auf den Innenseiten genauer beschäftigt und sich dafür auch mit Prof. Schöner vom Institut für Neuroinformatik unterhalten.

:Die Redaktion

Lest hierzu auch den Artikel und den Kommentar von Andreas!

Machine-Learning-Algorithmen für YouTube

Redaktion — Mon, 14 Aug 2017 15:11:48 +0000

Streaming. Google hat auf dem offiziellen YouTube-Blog angekündigt, in Zukunft härter gegen Hate Speech und Aufrufe zu extremistischem Terror vorzugehen. Schlüsseltechnologie soll dabei vor allem ein Machine-Learning-Algorithmus sein.

Schon Anfang April gab es Diskussionen über extremistische Inhalte auf YouTube, als große Werbepartner wie Audi oder McDonald’s ihre Aufträge stornierten. Grund hierfür: Ihre Werbeanzeigen liefen vor rechtsextremen Videos. Hierbei war nicht nur die Platzierung für die Unternehmen ein Problem, sondern auch, dass sie auf diese Weise diese Content-ErstellerInnen mitfinanzierten. Kurz darauf, im Mai, hatte Justizminister Heiko Maas (SPD) dem Bundestag das umstrittene Netzwerkdurchsetzungsgesetz (NetzDG) vorgelegt. Es soll festlegen, dass Facebook und andere Medien strafbare Inhalte binnen 24 Stunden löschen müssen.

Maßnahmen

Google will mehr ExpertInnen beschäftigen. Dabei setzen sie vor allem auf NGOs. Diese sollen im Rahmen des „Trusted Flagger“-Programms Content identifizieren, der Hate Speech enthält, radikalisiert oder ExtremistInnen rekrutieren soll. Deutsche Mitglieder des „Trusted Flagger“-Programms sind Jugendschutz.net, das gemeinsame Kompetenzzentrum von Bund und Ländern für den Jugendschutz im Internet, sowie der Verein Freiwillige Selbstkontrolle Multimedia-Diensteanbieter. Die markierten Videos werden dann in den „limited state“ versetzt. Sie bleiben zwar auf der Plattform, werden aber nicht mehr empfohlen oder monetarisiert und verfügen nicht mehr über wichtige Funktionen wie Kommentare und Likes. Außerdem soll eine Methode aus dem „Targeted Advertising“ BenutzerInnen, die nach Schlüsselbegriffen suchen, auf eine, von YouTube kuratierte Playlist weitergeleitet werden, die „gewaltverherrlichende, extremistische Inhalte widerlegt“.

Machine-Learning-Algorithmen

Googles größte Hoffnung im Kampf gegen extremistische Inhalte und Hate Speech sind aber vor allem Machine-Learning-Algorithmen. Durch die riesigen Datenmengen – das Unternehmen selbst spricht von 400 Stunden neuem Videomaterial pro Minute – sei der Einsatz maschinellen Lernens unverzichtbar. Prof. Gregor Schöner, Direktor des Instituts für Neuroinformatik der Ruhr-Universität Bochum erklärt das Verfahren: „Aktuell ist es möglich, Texte zu klassifizieren. Dieses [Anm. d. Red.: das Verfahren] nutzt unter anderem Verfahren des maschinellen Lernens, die anhand von Beispielen (also zum Beispiel von Codern als extremistisch eingestuften Textstücken) ein neuronales Netz so trainieren, dass es dann auch auf neue Textstücke verallgemeinert.“ Das neuronale Netz suche dann nach ähnlichen sprachlichen Konstruktionen. Auf einer ähnlichen Technik beruhten auch Googles Suchalgorithmen, so Schöner weiter. Für diese Methode seien aber Textkommentare zum Video zwingend erforderlich. Anspruchsvoller sei es, das Videomaterial selbst durch neuronale Netze zu klassifizieren. „Diese Aufgabe ist viel anspruchsvoller, da die Varianz in den Videodaten ungeheuer groß ist, viel größer als die Varianz in Textmaterial. Durch die ‚deep neural networks‘ werden jedoch zunehmend effizient invariante Merkmale von Videodaten extrahiert, auf denen dann eine Klassifikation in ‚extremistisch‘ und ‚nicht extremistisch‘ wieder anhand von Beispielen gelernt werden kann.“ Ezra Levant, Besitzer des rechtextremen News-Portal therebel.media sammelt derweil auf seiner Website bereits Spenden, um eine „konservative Alternative“ zu Youtube aufzubauen.

:Andreas Schneider

Nur Symptombehandlung

Redaktion — Mon, 14 Aug 2017 14:36:59 +0000

Kommentar. Heiko Maas und YouTube wollen was tun gegen Hate Speech. Eine Kompromisslösung, wie Raumdeo nach dem Scheißen.

Der Klassiker: Aus „Heute nur ein Bier“ wurde plötzlich „Ey, soll ich in das Fach für Restmüll oder Verpackung kotzen?“ Bevor man schlafen geht noch schnell eine Nachricht an den/die ExpartnerIn: „Ich liebe dich noch. Lass uns den nächsten Billigflieger nach Marrakesch nehmen und heiraten“. Am nächsten Morgen schreibt man dann eine lange Nachricht. Das war ja gar nicht so gemeint und man war halt betrunken. Aber eigentlich wissen wir alle: Es war so gemeint. Und genau so wenig, wie wir durch zwölf Bier und drei Jägermeister unsere Gefühle verschwinden lassen können, genau so wenig können wir das Problem von Hasskommentaren durch Löschen lösen.

Sollten Hate Speech oder extremistische Inhalte auf YouTube schwerer zugänglich werden, suchen sich die Betroffenen neue Alternativen. Beispielsweise sammelt die rechtsextremen Website therebel.media bereits Geld für eine „konservative YouTube-Alternative“. Im öffentlichen Diskurs wären diese Meinungen nicht mehr sichtbar, aber trotzdem verbleiben sie in den Köpfen der Gesellschaft. Im schlimmsten Fall radikalisieren sich diese Menschen und wettern bei geschlossenen Stammtischen oder im Darknet gegen die „linksversifften Meinungsvorschreiber“. Und was passiert, wenn Menschen sich radikalisieren und in den Untergrund verschwinden, konnten wir bei den Verbrechen des Nationalsozialistischen Untergrunds (NSU) beobachten.

Die Pointe

Warum möchten YouTube und Co. eigentlich Hate Speech und extremistische Inhalte verbannen? Der Grund ist simpel: Kosmetik. Kein Unternehmen möchte seine Werbung neben rechtsextremen Seiten oder vor einem Enthauptungsvideo vom IS sehen. Und YouTube und Facebook haben primär ein Ziel: Sie wollen Geld verdienen. Aber was genau können wir denn jetzt gegen potentiell gefährliche Inhalte tun? Wir sollten uns lösen vom alten „Wir-verbieten-das-Reflex“ und zur Drogenpolitik schielen. Die RaucherInnenquote bei den 12- bis 17-jährigen ist auf einem historischen Tief. Aufklärung und Prävention scheinen Erfolg zu haben. Eine aufgeklärte Bildung ist der Schlüssel, keine kosmetische Symptombehandlung.

:Andreas Schneider