QUERDENKER

Wie sich Menschen aus der Mitte radikalisieren

Selina Fullert aus Hamburg schaut auf ihr Handy

Diese Geschichte beginnt an einem verregneten Herbsttag 2020 in einer Bäckerei direkt am Hamburger Hauptbahnhof. Dort lernen wir Selina Fullert kennen. Die 32-jährige Auszubildende mit den roten, halblangen Haaren hat sich damals schon einen Namen gemacht: als Kopf der Hamburger "Querdenken"-Bewegung. Als Organisatorin des "Widerstands", wie sie es nennt.

Sie hat unzählige "Querdenker"-Demonstrationen angeführt, zum Bahnfahren ohne Maske aufgerufen und führt einen Telegram-Account mit dem Namen "Selina Fullert Official". Nach diesem verregneten Oktobertag entschließt sie sich, sich über Monate von uns begleiten zu lassen - zwei NDR Reporterinnen und dem NDR Datenteam.

Verunsichert durch die Corona-Pandemie

Am 16. März 2020 erklärt Bundeskanzlerin Angela Merkel in einer Fernsehansprache zum Stand der Corona-Pandemie: "Es ist ernst. Nehmen Sie es auch ernst." Zu Beginn der Krise geht es Selina Fullert, damals alleinerziehend mit zwei Kindern, wie vielen anderen auch: Sie ist verunsichert und sucht im Internet nach Informationen über das neuartige Virus.

"Wir hatten panische Angst davor, dass hier 'ne schwere Krankheit auf uns zurollt und ich dachte: Wie kann ich die Kinder schützen?"
Selina Fullert

Die angehende Verwaltungsfachangestellte möchte mehr erfahren über dieses Virus, das ihr Angst macht. Und sie ist vorsichtig. Sie folgt den Stay-at-home-Aufrufen, nutzt in ihren Instagram-Postings den Hashtag #stayathome (bleib zu Hause).

#stayathome-Post auf Selina Fullerts Instagram-Profil

Selina Fullert via Instagram

Selina Fullert via Instagram

Es beginnt Schritt für Schritt, mit einem "Gedanken-Ping-Pong". So beschreibt sie das selbst. Dabei stößt sie auf den Kanal des Hamburger Fitnessberaters und ehemaligen Basketball-Profis Coach Cecil. Zunächst interessieren sie seine Workouts, Abnehmtipps und Informationen zu Nahrungsergänzungsmitteln.

Die Videos von Coach Cecil verändern sich mit Beginn der Corona-Pandemie. Zusätzlich zu den Workouts postet der YouTuber nun mehr als halbstündige Abhandlungen voller Behauptungen und Falschaussagen. Selina Fullert guckt sich teilweise nachts stundenlang durch seine – heute gelöschten - Videos mit Titeln wie: "Erwischt! die große C. LÜGE" oder "Heftige Auftragslügen! Abschaffung der Demokratie" oder "Corona - 3 Jahre noch - Bill Gates wird JEDEN impfen, auch dich!".

"Das war so der Abend, wo ich dann schon meine drei bis dreieinhalb Stunden vor den Videos saß."
Selina Fullert

Wenig später wird sie zur Ansprechpartnerin und Organisatorin von "Querdenken 40", dem Hamburger Ableger der bundesweiten "Querdenker"-Bewegung. Im Vordergrund stehen für sie jetzt aus ihrer Sicht unverhältnismäßige Grundrechtseingriffe.

"Coach Cecil" und andere selbst ernannte Expertinnen und Experten werden in dieser Zeit zu Symbolfiguren, Zehntausende gehen auf Demonstrationen, manche radikalisieren sich. Später nutzen Rechtsextreme und "Reichsbürger" diesen Protest auch als Plattform. Doch alle, die gegen die Corona-Maßnahmen demonstrieren, der radikalen Rechten zuzuordnen, ist zu kurz gedacht. Einer empirischen Studie des Wissenschaftszentrums Berlin gemäß fühlen sich mehr als 60 Prozent der 5.000 Befragten, die Verständnis für den Corona-Protest haben, der politischen Mitte zugehörig.

Am 22. April meldet sich auch Selina Fullert bei ihrer ersten Demonstration auf dem Rathausmarkt in Hamburg an. Ihr neuer Hashtag auf Instagram jetzt: #stayawake (bleib wach).

Instagram-Post: Selina Fullert bei einer Hamburger Demo gegen die Anti-Corona-Maßnahmen

Selina Fullert via Instagram, 26.04.2020

Selina Fullert via Instagram, 26.04.2020

Der Weg in die Filterblase

Wenn der Algorithmus die Richtung vorgibt

Der Datenwissenschaftler Josef Holnburger vor seinem Laptop.

Was Selina Fullert und mit ihr viele Deutsche in dieser Zeit erleben, nennen Experten das Gefühl eines Kontrollverlusts. Der Psychologe Andreas Zick von der Universität Bielefeld untersucht, warum Menschen an Verschwörungsideologien glauben oder sich extremistischen Strömungen anschließen und wie sich daraus Konflikte ergeben.

"Wenn Sie in einer Situation sind, in der Sie das Gefühl haben, dass die Kontrolle verloren geht, und nichts mehr vorhersehbar ist, dann öffnen Sie sich für Ideen, Menschen und Gruppen, die Ihnen schnell wieder das Gefühl von Kontrolle geben."
Andreas Zick, Psychologe

Dabei zeigt eine Studie der Robert-Bosch-Stiftung: Die Anschlussfähigkeit für Verschwörungsideologien ist groß. 15 Prozent der Menschen stimmen der Aussage zu, dass es keine eindeutigen Beweise für die Existenz des Coronavirus gibt. 23 Prozent finden, man sollte sich im Umgang mit Corona mehr auf den gesunden Menschenverstand als auf wissenschaftliche Studien verlassen. 39 Prozent halten es außerdem für wichtig, Informationen über das Virus auch von außerhalb der Wissenschaft zu beziehen.

YouTube als Einstieg in die Welt der Corona-Skeptiker

Welche Rolle spielt der Faktor Social Media bei der Meinungsbildung? Weil Selina Fullert gern mehr darüber erfahren möchte, hat sie den NDR Reporterinnen ihre YouTube-Historie gegeben, also jedes Video, das sie seit Dezember 2017 angeklickt hat. Außerdem hat sie ihren Suchverlauf zu Verfügung gestellt, der ihre Suchen auf YouTube genau protokolliert.

Eine erste Auswertung zeigt: Ab Mitte März 2020 steigt ihr Videokonsum stark. Auch im späteren Verlauf, zum Beispiel im August, als die größten "Querdenker"-Demonstrationen in Berlin stattfinden, ist YouTube eine zentrale Informationsplattform für Selina Fullert.

Im Hintergrund der Video-Suchmaschine von YouTube, einer Tochterfirma des Google-Konzerns Alphabet, arbeitet ein Empfehlungsalgorithmus. Er schlägt den Nutzern immer neue Videos vor, die sie mutmaßlich noch stärker interessieren. Menschen würden dann in "Filterblasen" geraten, so nennen es Experten. In diesen Blasen erhielten sie am Ende nur noch Nachrichten aus ihrem eigenen Meinungsspektrum und würden gegenüber anderen Standpunkten isoliert. Bei Falsch- und Desinformationen kann das dazu führen, so zeigen es Studien, dass sich die Menschen weg von Informationen und sachlicher Aufklärung und hinein in eine Welt von Misstrauen und Verschwörungstheorien bewegen.

YouTube erklärt auf NDR Anfrage dazu, das Unternehmen habe allein im vergangenen Jahr 30 verschiedene Änderungen eingeführt, um Empfehlungen zu schädlichen Inhalten zu reduzieren. Deshalb liege der Anteil von "grenzwertigen Inhalten", die aus YouTube-Empfehlungen stammten, jetzt deutlich unter einem Prozent.

"Wow, da ist ja gar kein Platz mehr für Hobby-Sachen."
Selina Fullert

So überrascht reagiert die 32-Jährige, als sie sich im Rückblick ihr eigenes Suchverhalten anschaut. Es hat sich mit der Corona-Pandemie stark verändert: Vor März 2020 sind ihre Suchanfragen gemischt, unpolitisch. Ab April rückt Corona in den Vordergrund. Allerdings nicht nur, um allgemeine Informationen über das Virus zu bekommen. Neben Coach Cecil sucht sie nach dem Popmusiker und Verschwörungsideologen Xavier Naidoo oder dem Hamburger Arzt Heiko Schöning, der schon früh mit kruden Theorien öffentlich die Bühne der Corona-Leugner betritt. Querdenken, Masken und Demo stehen jetzt im Fokus ihrer Suche.

Wordclouds zu YouTube-Suchbegriffen von Selina Fullert vor und nach Beginn der Corona-Pandemie

Im Mai 2020 verändert YouTube seine Community-Richtlinien, es ist nun verboten, Falschinformationen zu Corona zu verbreiten, zahlreiche Videos werden mit Warnhinweisen oder mit Faktenchecks versehen. Monate später, im November 2020, beginnt YouTube einflussreiche Verbreiter von Falschinformationen und Verschwörungsideologien zur Corona-Pandemie großangelegt zu löschen. Darunter KenFM, ein ehemaliger Journalist, dessen Internetportal inzwischen vom Verfassungsschutz beobachtet wird, oder den Kanal des teilweise verschwörungsideologischen Online-Magazins "Rubikon" sowie den Kanal von "Querdenken 711".

Viele YouTube-Videos, die sich Selina Fullert seit Anfang 2020 angesehen hat, wurden von YouTube aufgrund von Verstößen gegen Nutzungsbestimmungen  mittlerweile gelöscht. Zum Teil machten sie mehr als ein Drittel ihrer monatlich konsumierten Videos aus.

In der Echokammer

Telegram: Wo sich Verschwörungsmythen tummeln

Montage mit WhatsApp-Chatverlauf, Telegram-Icon und Megafon

Während YouTube auch durch die Löschaktionen zunehmend uninteressanter für die "Querdenken"-Bewegung wird, gewinnt Telegram an Bedeutung. Viele Influencer der "Querdenker"-Szene starten dort bereits im Frühjahr 2020 eigene Kanäle. Der Messenger-Dienst aus Russland, der dafür bekannt ist, dass er kaum Inhalte löscht, gilt als neue Heimat von Rechtsextremen, Drogendealern und Verschwörungsideologen.

Der Datenwissenschaftler Josef Holnburger vom gemeinnützigen Center für Monitoring, Analyse und Strategie (CeMAS) beobachtet seit Beginn der Corona-Pandemie 2.500 unterschiedliche Telegram-Gruppen und -Kanäle. In einer Auswertung wird sichtbar, wie die Kanäle einflussreicher Verschwörungsinfluencer mit jeder zusätzlichen Demonstration an Abonnenten gewinnen.

Die Leute würden auf Telegram eine realitätsferne Welt sehen, erklärt der Datenwissenschaftler. Wieder und wieder geisterten dieselben Videos und Nachrichten mit Falschinformationen durch die Kanäle. Laut Holnburger tragen sie dazu bei, dass sich "Echokammern" bilden, in denen die Abonnenten beständig mit Verschwörungsideologie berieselt werden. "Selbst den menschenfeindlichsten Inhalten bietet Telegram noch immer eine Plattform. Das machen andere nicht oder gehen eher dagegen vor", sagt Holnburger. Der NDR hat Telegram um eine Stellungnahme gebeten, doch der Konzern reagiert nicht.

Datenwissenschaftler Josef Holnburger: "Echokammern berieseln Nutzerinnen und Nutzer mit Verschwörungsideologie."

Datenwissenschaftler Josef Holnburger: "Echokammern berieseln Nutzerinnen und Nutzer mit Verschwörungsideologie."

Auch für die Hamburger "Querdenken 40"-Initiatorin Selina Fullert wird Telegram zunehmend zum wichtigsten Kommunikationskanal. "Auf YouTube bin ich kaum mehr", sagt sie in einem Interview im Februar 2021. Auf Telegram organisiert sie zahlreiche "Querdenken"-Demonstrationen mit, macht Stimmung und wähnt sich im "Diktaturstaat Hamburg".

Auf Telegram findet sie auch auf "alternativen Medienkanälen" weiter das, wonach sie sucht: Videos - neue Online-Kopien von gelöschten YouTube-Videos, Informationen aus der "Querdenken"-Szene und Nachrichten von Gleichgesinnten.

Eine Echokammer sieht sie nicht. Ihrer Meinung nach tragen die sozialen Medien dazu bei, dass unterschiedliche Meinungen populär werden könnten. Sie findet die Grundrechtseingriffe gravierender als die Gefahr durch das Virus.

Telegram: Selina Fullert

Telegram: Selina Fullert

YouTube hingegen hat eigenen Angaben zufolge reagiert und seinen Empfehlungsalgorithmus zumindest in Bezug auf Corona-Videos verändert. In einem Experiment im April 2021 für den NDR analysiert Josef Holnburger die 1.000 meistgeteilten YouTube-Videos auf Telegram. Dazu lässt er fiktive Charaktere automatisiert zehn zufällig vorgeschlagene Videos anschauen. Sein Ergebnis: Auf den Startseiten seiner fiktiven Charaktere finden sich zwar weiterhin Verschwörungsvideos, aber auch seriöse Inhalte. Genauso bei den Empfehlungen.

Trotzdem bleibe YouTube eine problematische "Einsteigerplattform" für Verschwörungsideologen, sagt der Datenwissenschaftler. Informationen könnten verzerrt wahrgenommen werden. Denn ein Video mit Falschinformationen stehe gleichwertig neben einem Video mit richtigen Informationen.

"Es macht natürlich etwas, wenn neben einem Verschwörungs-Video ein Video mit seriösem Inhalt steht. Das strahlt aus, als wäre beides ein seriöser Inhalt."
Josef Holnburger, Datenwissenschaftler

Querdenker vom Verfassungsschutz beobachtet

Im März 2021 nimmt der Hamburger Verfassungsschutz unter anderem auch "Querdenken 40" in den Blick. Die Organisation wird als Verdachtsfall unter Beobachtung gestellt. Anfang Mai zieht sich Selina Fullert als Kopf der Bewegung zurück. Sie wolle kein "Schild für den Verfassungsschutz" sein, schreibt sie in der offiziellen Begründung für ihren Rückzug. Ihr Arbeitgeber hat sie nach der Ausbildung nicht übernommen, sich von ihren Positionen und Aktionen distanziert - sie treibt ein alternatives Schulprojekt voran, will sich jetzt vielleicht auch parteipolitisch engagieren. Sie hofft auf Verständigung und darauf, dass die Gesellschaft nicht weiter auseinandertreibt – deshalb hat sie für dieses Projekt auch umfangreiche Interviews gegeben.

Insgesamt verliert die "Querdenker"-Bewegung an Kraft, zahlreiche Demonstrationen werden untersagt oder gar nicht erst genehmigt, andere haben kaum noch Zulauf. Der Psychologe Andreas Zick beobachtet derzeit einen "Rückzug ins Privatleben" bei vielen Querdenkern. Doch auch wenn die Demonstrationen verschwinden würden, fürchtet er, dass sich Teile der Bewegung im Stillen weiter radikalisieren - darin sieht er eine große Gefahr.


Der Text ist Teil eines multimedialen Projekts mit unterschiedlichen Schwerpunkten. Zu sehen in der ARD, Story im Ersten "Querdenker – Wie Menschen aus der Mitte sich radikalisieren" und in der Dokumentation "Wie radikal machen uns YouTube, Telegram und Co.?" von STRG_F, sowie zu hören als vierteilige Serie bei "She likes tech", dem Tech Podcast von NDR Info.

Hinweis: Die analysierten YouTube-Daten stammen von Selina Fullert und enthalten nur Metadaten zu den Videos, die sie auf ihrem Computer geschaut hat, nicht zu denen, die sie sich auf ihrem Fernseher angesehen hat. Mit der Bereitstellung der Daten verfolgt Fullert kein eigenes Interesse. Sie sei neugierig, selbst mehr über die Rolle zu erfahren, die die Videoplattform bei ihrer Meinungsbildung gespielt hat. Fullert hat dem NDR keine Bedingungen für die Analyse der Daten gestellt, nur die Privatsphäre wollte sie gewahrt sehen. Dafür hat der NDR alle kinderbezogenen Videos aus den Daten herausgefiltert. Für eine bessere Übersichtlichkeit haben wir darüber hinaus die Daten zu Kino-Trailern entfernt.

Die Daten zu den Telegram-Kanälen und Verschwörungsideologen wurden von dem Center für Monitoring, Analyse und Strategie durch systematisches Online-Monitoring erhoben und zur Verfügung gestellt.

Autorinnen: Svea Eckert, Sabine Leipertz, Caroline Schmidt
Datenauswertung: Anna Behrend, Ciara Cesaro-Tadic, Marvin Milatz
Mitarbeit: Aileen Eisenbrandt, Kim Mauch, Ulli Smidt, Julia Wacket
Videographie: Frank Gutsche, Mario Skerlec
Grafikdesign: Vpreneurs
Redaktion: Jochen Graebert, Sabine Klein
Fotonachweise: Norddeutscher Rundfunk, FreePik/ Kjpargeter, LovePik, Shutterstock
Impressum: Norddeutscher Rundfunk


Weitere Teile des multimedialen NDR "Querdenker"-Schwerpunkts

"Die Story im Ersten: Querdenker" in der ARD Mediathek
"Die Verwandlung" im Podcast "She Likes Tech"