Forschung hautnah

Sie überwacht die Überwachung

Margaret E. Roberts’ Forschungsfeld könnte kaum aktueller sein. Die Politologin und Datenforscherin untersucht mithilfe künstlicher Intelligenz und Machine Learning, wie autoritäre Staaten im Internet zensieren. Mit dem Max-Planck-Humboldt-Forschungspreis nimmt sie nun auch die Rolle von Social-Media-Plattformen in den Blick.

  • vom 
  • Text: Marlene Halser
Illustrationsfoto: Bild mit der Aufschrift Dieser Beitrag wurde gelöscht
Saturn-ähnliches Dekortationsbild

Margaret E. Roberts

Professorin Dr. Margaret E. Roberts forscht und lehrt am Department of Political Science und am Halıcıoğlu Data Science Institute der University of California, San Diego, USA. Dort ist ist sie außerdem Co-Leiterin des China Data Labs im 21st Century China Center. Ihr Buch „Censored: Distraction and Diversion Inside China’s Great Firewall“ (Princeton University Press, 2018) wurde mehrfach ausgezeichnet. 2022 erhielt sie den mit 1,5 Millionen Euro dotierten Max-Planck-Humboldt-Forschungspreis, den die Humboldt-Stiftung und die Max-Planck-Gesellschaft gemeinsam verleihen.

Max-Planck-Humboldt-Forschungspreis

Dass die US-Amerikanerin Margaret E. Roberts heute zu Zensur und dem Einfluss von Social-Media-Plattformen auf die Entscheidungen von Menschen forscht, verdankt sie einem Zufall. Genauer gesagt, einer Entdeckung, auf die sie zufällig stieß.

Als Roberts, die Molly gerufen wird, 2009 ihre Promotion an der Eliteuniversität Harvard begann, hatte sie eigentlich vor, sich mit internationalen Handelsbeziehungen zu beschäftigen. Zuvor hatte Roberts Internationale Beziehungen und Wirtschaft in Stanford studiert und dort auch einen Master in Statistik gemacht. Außerdem hatte sie Chinesischunterricht genommen und immer wieder Zeit in China verbracht. „Ich habe mich damals sehr für das rasante chinesische Wirtschaftswachstum interessiert und wollte mithilfe von Datenanalysen herausfinden, wie es entsteht“, sagt Roberts. Doch dann kam alles anders.

KI erkennt Muster in Texten, die Menschen oft nicht entdecken.
Margaret E. Roberts, Max-Planck-Humboldt-Forschungspreisträgerin

Molly Roberts‘ Betreuer in Harvard war Gary King, ein weltweit führender Spezialist für quantitative Methoden. „Gary schrieb mir und Jennifer Pan, einer anderen Doktorandin in Harvard: Ich habe all diese chinesischen Blogs gefunden und es sind viel zu viele, um sie alle zu lesen“, erzählt Roberts im Videochat aus ihrem Apartment in Kalifornien, wo sie mit Mann und Kindern lebt. „Er wollte wissen: Hast du nicht Lust, herauszufinden, wie man mithilfe künstlicher Intelligenz einen Weg finden kann, um die Masse an Daten zu strukturieren?“

Kritik verschwindet aus dem Netz

Die Blogeinträge, die King aus dem chinesischen Netz gefischt hatte, handelten von Arbeiterprotesten. Roberts sollte herausfinden, ob die Texte positiv oder negativ darüber berichten. Dazu musste sie zunächst die künstliche Intelligenz trainieren. „Wir haben erst einmal häufig verwendeten Begriffen Ziffern zugeordnet“, erklärt Roberts. „Dann haben wir Texte gelesen, sie bewertet und mit Labels versehen: Hier schreibt jemand etwas Positives über den Protest, da wird der Protest negativ dargestellt.“ Anhand dieser Beispiele lerne der Computer, Worte und Wortzusammenhänge gemäß den Vorgaben zu interpretieren. „Das Faszinierende an KI ist, dass sie Muster auf einer tieferen Ebene erkennen kann, die uns Menschen oft verschlossen bleibt.“ Die Maschine sei dem menschlichen Gehirn in diesem Punkt voraus.

Nach sechs Monaten fiel Roberts und ihren Mitarbeiter* innen während ihrer Arbeit etwas auf. Weil bei einem der heruntergeladenen Blogposts die Wertung nicht klar erkennbar war, tippte sie die URL ein, um auf der Originalseite nach zusätzlichen Informationen zu suchen. Doch der Eintrag war nicht mehr auffindbar. „Verzeihung, dieser Eintrag ist nicht mehr verfügbar“, stand da. Die Forscherin begann, weitere URLs zu kontrollieren und stellte fest, dass vor allem solche Posts verschwunden waren, die sich positiv über Proteste geäußert hatten. Schnell war klar: Das chinesische Propagandaministerium musste diese Posts zensiert haben. Roberts realisierte, worauf sie gestoßen war: „Wir haben, ohne danach zu suchen, einen Mechanismus gefunden, mit dem sich Zensur im Internet messen lässt“, sagt sie und klingt nach wie vor begeistert, wenn sie davon erzählt.

Porträtfoto Margaret Roberts
Margaret E. Roberts erhielt 2022 den mit 1,5 Millionen Euro dotierten Max-Planck-Humboldt-Forschungspreis.

Roberts schrieb ein Programm, das Seiten regelmäßig anpingt, um nachzusehen, ob es sie noch im Netz gibt. Kein leichtes Unterfangen. Pingt der Computer zu häufig, wird er als Absender irgendwann für die Seite gesperrt. „Ich musste erst mal einiges über das Programmieren lernen“, sagt Roberts und lacht. Auch das gelang ihr. Für Roberts hieß es aber auch, dass sie sich entscheiden musste, woran sie in Zukunft arbeiten will. Internationale Handelsbeziehungen oder Zensur?

Lokale Proteste provozieren am meisten

„Ich bin morgens aufgewacht und Zensur war das Erste, woran ich gedacht habe“, sagt Roberts. Da habe sie gewusst: „Ich muss meine Pläne ändern.“ 2013 veröffentlichte sie gemeinsam mit Gary King und Jennifer Pan ein Paper in der American Political Science Review, in dem sie darlegen, wie die chinesische Regierung zwar Kritik zulässt, aber dennoch die kollektiven Ausdrucksmöglichkeiten der Bevölkerung massiv einschränkt. Ihre Promotion darüber schloss sie im darauffolgenden Jahr ab.

„Am stärksten zensiert wird in China bei Berichten über lokale Proteste“, fasst Roberts ihre zentralen Erkenntnisse von damals zusammen. Wenn Bürger*innen auf die Straße gehen, um beispielsweise gegen Enteignung oder Polizeigewalt zu protestieren. Roberts konnte live verfolgen, wie Posts darüber in Blogs und Foren verschwanden. „Wir denken oft, Zensur funktioniere über Bestrafung, zum Beispiel wenn Menschen inhaftiert werden wegen etwas, das sie geschrieben haben“, sagt sie. Das sei definitiv auch der Fall, nicht nur in China, sondern auch in anderen autoritären Staaten wie Russland oder dem Iran. In allen diesen Ländern lässt sich aber auch beobachten, welch große Rolle der freie Zugang zu Informationen spielt.

Informationen werden schwerer zugänglich gemacht, ohne dass man es merkt.
Margaret E. Roberts, Max-Planck-Humboldt-Forschungspreisträgerin

In Russland streut die Regierung gezielt Falschinformationen, um die wahren Ereignisse des Krieges in der Ukraine zu verschleiern. Im Iran drosselt das Regime das Internet in der Hoffnung, so zu verhindern, dass sich Protestierende vernetzen und dass etwas davon nach außen dringt. Aber Zensur, sagt Roberts, sei mehr als das. Zensur funktioniere – gerade in Friedenszeiten – oft viel subtiler.

„Bestimmte Informationen werden schwerer zugänglich gemacht, ohne dass die Menschen das notwendigerweise direkt merken“, erklärt sie. „Sie müssen dann größeren Aufwand betreiben, um an sie zu gelangen, doch diesen Aufwand betreiben viele nicht, weil es oft im Alltag schlicht nicht praktikabel ist.“ So wie beim Beispiel der lokalen Proteste in China: „Nehmen wir an, eine Person hat von einem Protest gehört, findet aber online nichts dazu, weil alle Posts zu dem Thema stillschweigend entfernt wurden“, erklärt Roberts. „Diese Person wird sich fragen: Gibt es die Proteste überhaupt? Oder vielleicht wird sie denken: So wichtig kann das alles nicht sein.“

Proteste bleiben verborgen

Um überhaupt von den Protesten zu erfahren, müssen die Menschen sie in dieser Situation entweder selbst beobachtet oder im Gespräch mit anderen davon gehört haben. Und um auf gesperrte ausländische Medien und deren Berichterstattung zugreifen zu können, benötigt man technische Lösungen, um die Zensur zu umgehen, wie etwa Verbindungen über Virtual Private Networks (VPN). Doch das koste Geld und bedeute einen gewissen Aufwand, sodass nicht alle zu solchen Mitteln greifen. So werde Vernetzung, die sich gegen die Regierung und das von ihr ausgegebene Narrativ richtet, verhindert, oder zumindest schwerer gemacht, erklärt Roberts.

Eine gewaltsam festgehaltene Person ist auf dem Bild unkenntlich gemacht.

Mittlerweile forscht und lehrt sie als Professorin an der University of California in San Diego. 2022 wurde sie mit dem Max-Planck-Humboldt-Forschungspreis ausgezeichnet, den die Humboldt-Stiftung und die Max-Planck-Gesellschaft gemeinsam verleihen. Die außergewöhnliche Karriere und das innovative Forschungsprofil von Roberts hatten das Auswahlkomitee überzeugt. Mit dem Preisgeld in Höhe von 1,5 Millionen Euro will sie ihre Zensurforschung weiter vertiefen und in Zusammenarbeit mit der Technischen Universität München und der Universität Konstanz ein Projekt starten, bei dem sie sich der Rolle von Social-Media-Plattformen zuwendet. Auf ihren Karriereweg angesprochen, sagt Molly Roberts, sie habe viel Glück gehabt – einfach weil sie die Möglichkeit hatte, ihren Ideen und Interessen uneingeschränkt nachzugehen. „Dass ich mich als Studentin für Chinesisch eingeschrieben habe, war einfach aus einer Laune heraus.“ Asien, sagt sie, hatte sie zu Beginn ihres Studiums noch nie besucht. „Ich war einfach neugierig und wollte etwas Neues ausprobieren.“ Wieder war es eine Betreuerin, die sie in die richtige Richtung stupste. „Sie empfahl mir zusätzlich einen Soziologiekurs zu besuchen, in dem es um China unter Mao ging.“ Nach dem Kurs war Roberts so fasziniert, dass sie sich 2005 kurzerhand für ein Programm bewarb, mit dem sie den Sommer über nach China reisen konnte. Der erste von mehreren Aufenthalten dort, ein Auslandssemester verbrachte sie in Peking.

„Eine Sache, die mich an China immer fasziniert hat, war, wie schnell dort die ökonomische Entwicklung ist“, sagt Roberts. „Jedes Mal, wenn du wieder hinfährst, sieht alles ganz anders aus, weil so viel passiert ist.“

Zur künstlichen Intelligenz kam Roberts über die Statistik. Als Abschlussprojekt für einen Kurs in Machine Learning in Harvard entwickelte sie ein digitales Werkzeug zur Themenanalyse, das Roberts noch heute bei ihrer Arbeit nutzt. „Die Analyse untersucht die Wörter in den verschiedenen Dokumenten und errechnet dann, welches die wahrscheinlichsten Themen sind“, erklärt Roberts. So lassen sich große Datensätze mithilfe des Computers nach Themen auswerten. Roberts schrieb gemeinsam mit einem Kommilitonen, Brandon Stewart, ein Programm, mit dem sich zusätzlich abbilden lässt, wie sich die Themen im Zeitverlauf verändern. Für die Auswertung von Debatten auf Social-Media-Plattformen ist das nun Gold wert, weil man Online-Debatten mithilfe des Programms nachverfolgen kann, ohne jeden einzelnen Post lesen zu müssen.

Das Faszinierende daran sei, so Roberts: „Die Maschine macht das quasi unbeaufsichtigt.“ Will heißen: Anders als noch bei ihrer frühen Forschung zu den chinesischen Blogposts werden vorab weder Themen noch Wertungen festgelegt. „Das Tool filtert allein anhand der Wahrscheinlichkeitsverteilung der Wörter“, sagt Roberts. „Ich interpretiere dann erst im Nachhinein, zu welchem Thema die Begriffe gehören.“ Mittlerweile werde das Programm auch von anderen Wissenschaftler*innen, aber auch von Journalist*innen für die Auswertung von Social-Media-Posts genutzt.

Der Zensor als Moderator

Diese vielfältigen Erkenntnisse will Roberts nun dank der Auszeichnung mit dem Max-Planck-Humboldt-Forschungspreis in einem ganz neuen Projekt kulminieren: Sie plant, die Beeinflussung von Nutzer*innen auf Social-Media-Plattformen zu untersuchen und die intransparenten Moderationsverfahren dort zu analysieren. Zusammenarbeiten wird Molly Roberts dabei unter anderem mit dem Konstanzer Politikwissenschaftler Nils B. Weidmann, der zu Protestbewegungen und Bürgerkriegen sowie digitaler Kommunikation und politischer Mobilisierung forscht. Nach Konstanz kam Weidmann einst mit Förderung der Humboldt-Stiftung: 2012 war er mit dem Sofja Kovalevskaja-Preis aus Norwegen dorthin gewechselt und hatte mit der Förderung für herausragende Nachwuchswissenschaftler*innen ein eigenes Forschungsprojekt und eigene Arbeitsgruppen aufgebaut.

„Das Aufkommen von Social-Media-Plattformen hat eine Menge neuer interessanter Phänomene mit sich gebracht,“ sagt Roberts und zählt nur einige auf: Desinformation, Online-Belästigung, Hate Speech, der Einfluss fremder Regierungen auf Wahlen. Sie wolle nun untersuchen, welche Werkzeuge notwendig sind, um Informationsfreiheit zu garantieren und welchen Einfluss die internen Moderationsverfahren auf Social-Media-Plattformen auf Demokratien haben. Für fünf Jahre ist ihr Projekt angesetzt. Roberts will dafür zwischen Kalifornien und Deutschland pendeln.

Die meiste Arbeit, sagt sie, mache sie ohnehin vom Computer aus. Und die Tools, die sie in der Vergangenheit entwickelt hat, werden ihr auch hier behilflich sein. „Das sind ja Unmengen an Daten“, sagt Roberts. „Die lassen sich überhaupt nur mithilfe von künstlicher Intelligenz und Machine Learning bezwingen.“

vorheriger Artikel Freiheit gleich Exzellenz? Das war einmal.
nächster Artikel Immuntherapie gegen Verschwörungsmythen