nr19

Eineinhalb Milliarden Accounts. So viele Fake-Profile schloss Facebook allein binnen sechs Monaten im Jahr 2018, wie Mark Zuckerberg im November bekannt gab. Angesichts dieser Schwemme an gefälschten Accounts setzt das soziale Netzwerk zunehmend künstliche Intelligenz ein, um der Lage wieder Herr zu werden. Wie wohl auch sonst? Es scheint kaum möglich, dass Menschen diese Arbeit machen.

Was aber passiert, wenn sich so eine „Intelligenz“ irrt? Oder wenn Menschen, die Beiträge in sozialen Netzwerken löschen, sich aufgrund falscher Empfehlungen der technischen Systeme dazu entscheiden, die Profile von Journalist*innen zu löschen?

Dem in Deutschland lebenden Journalisten Lê Trung Khoa ist dies mutmaßlich passiert. Der vietnamesische Blogger nutzt das in seinem Land oberflächlich noch unzensierte Facebook, um von Deutschland aus über die Lage der Menschenrechte in seinem Heimatland zu berichten. Im November sperrte ihn Facebook plötzlich von der Plattform aus. Kurz zuvor hatte er angekündigt, am kommenden Tag einen Livestream von einer Anhörung im Bundestag veröffentlichen zu wollen, in der es um die Entführung von Vietnamesen in Deutschland gehen sollte.

Aufgrund der Facebook-Blockade wurde das Video nicht publik, außerdem hatte Lê Trung Khoa tagelang keinen Zugriff auf seinen Account. Facebook teilte ihm mit, dass er die Community-Standards verletzt habe. Erst nachdem er sich unter anderem an Reporter ohne Grenzen gewandt hatte, nahm die Plattform seinen Fall ernst und fand heraus, dass er Opfer einer Attacke geworden war.

Recherchen von Reporter ohne Grenzen zufolge war dies kein Einzelfall. Mindestens 23 weitere Accounts von vietnamesischen Journalist*innen und Blogger*innen wurden allein 2018 ganz oder teilweise gesperrt, obwohl sie die Community-Standards offensichtlich nicht verletzt hatten. Die NGO kritisiert, dass der Einsatz automatisierter Systeme bei sozialen Netzwerken und die Rolle von menschlichen Content-Moderator*innen besser kontrolliert und das Widerspruchsrecht gegen Löschung für Nutzer*innen gestärkt werden muss.

In diesem Talk wird Lê Trung Khoa beschreiben, wie die Angreifer in seinem Fall konkret vorgegangen sind und welche anderen Methoden von Angreifer*innen angewendet werden, um vietnamesischer Kritiker*innen auf Facebook zu blockieren. ROG-Referent Daniel Moßbrucker beschreibt darüber hinaus, wie Angreifer*innen auf der ganzen Welt „künstlichen Intelligenzen“ manipulieren können, um eine neue Form automatisierter Zensur durchzusetzen.