Loading…
nr19 has ended
Friday, June 14 • 15:30 - 16:30
Zensur durch künstliche Intelligenz? Wie Angreifer automatisierte Systeme hacken, um kritische Berichterstattung zu unterdrücken

Sign up or log in to save this to your schedule and see who's attending!

Feedback form is now closed.
Eineinhalb Milliarden Accounts. So viele Fake-Profile schloss Facebook allein binnen sechs Monaten im Jahr 2018, wie Mark Zuckerberg im November bekannt gab. Angesichts dieser Schwemme an gefälschten Accounts setzt das soziale Netzwerk zunehmend künstliche Intelligenz ein, um der Lage wieder Herr zu werden. Wie wohl auch sonst? Es scheint kaum möglich, dass Menschen diese Arbeit machen.

Was aber passiert, wenn sich so eine „Intelligenz“ irrt? Oder wenn Menschen, die Beiträge in sozialen Netzwerken löschen, sich aufgrund falscher Empfehlungen der technischen Systeme dazu entscheiden, die Profile von Journalist*innen zu löschen?

Dem in Deutschland lebenden Journalisten Lê Trung Khoa ist dies mutmaßlich passiert. Der vietnamesische Blogger nutzt das in seinem Land oberflächlich noch unzensierte Facebook, um von Deutschland aus über die Lage der Menschenrechte in seinem Heimatland zu berichten. Im November sperrte ihn Facebook plötzlich von der Plattform aus. Kurz zuvor hatte er angekündigt, am kommenden Tag einen Livestream von einer Anhörung im Bundestag veröffentlichen zu wollen, in der es um die Entführung von Vietnamesen in Deutschland gehen sollte.

Aufgrund der Facebook-Blockade wurde das Video nicht publik, außerdem hatte Lê Trung Khoa tagelang keinen Zugriff auf seinen Account. Facebook teilte ihm mit, dass er die Community-Standards verletzt habe. Erst nachdem er sich unter anderem an Reporter ohne Grenzen gewandt hatte, nahm die Plattform seinen Fall ernst und fand heraus, dass er Opfer einer Attacke geworden war.

Recherchen von Reporter ohne Grenzen zufolge war dies kein Einzelfall. Mindestens 23 weitere Accounts von vietnamesischen Journalist*innen und Blogger*innen wurden allein 2018 ganz oder teilweise gesperrt, obwohl sie die Community-Standards offensichtlich nicht verletzt hatten. Die NGO kritisiert, dass der Einsatz automatisierter Systeme bei sozialen Netzwerken und die Rolle von menschlichen Content-Moderator*innen besser kontrolliert und das Widerspruchsrecht gegen Löschung für Nutzer*innen gestärkt werden muss.

In diesem Talk wird Lê Trung Khoa beschreiben, wie die Angreifer in seinem Fall konkret vorgegangen sind und welche anderen Methoden von Angreifer*innen angewendet werden, um vietnamesischer Kritiker*innen auf Facebook zu blockieren. ROG-Referent Daniel Moßbrucker beschreibt darüber hinaus, wie Angreifer*innen auf der ganzen Welt „künstlichen Intelligenzen“ manipulieren können, um eine neue Form automatisierter Zensur durchzusetzen.


Speakers
avatar for Daniel Moßbrucker

Daniel Moßbrucker

Journalist, Security-Trainer, Reporter ohne Grenzen
Daniel Moßbrucker ist Referent für Internetfreiheit bei Reporter ohne Grenzen. Zudem arbeitet er als freier Journalist und Trainer für digitale Sicherheit. Er befasst sich vor allem mit den Themen Überwachung, Datenschutz & Internetregulierung.Daniel Moßbrucker works for Reporters... Read More →
avatar for Lê Trung Khoa

Lê Trung Khoa

thoibao.de
Lê Trung Khoa ist Herausgeber und Chefredakteur von Thoibao.de. Er befasst sich vor allem mit seiner Heimat Vietnam und schreibt über Vietnamesen, die in Deutschland und ganz Europa leben. Seinen Fokus legt er vor allem auf die Themenbereiche Politik, Menschenrechte und Pressefreiheit im kommunistisch regierten Vietnam. Obwohl er in Berlin leb... Read More →


Friday June 14, 2019 15:30 - 16:30
K7

Attendees (28)