Vielen Nutzern ist es längst aufgefallen. Hass und Hetze verbreiten sich in den sozialen Medien rasant. Dahinter liegt ein Kalkül der Plattformbetreiber, was Forscher der Yale-University im Sommer 2020 bestätigen konnten. Mithilfe einer Software haben die Forscher auf X (zum Zeitpunkt der Studie noch Twitter) erkannt, dass der Algorithmus moralische Empörungen belohnt. D. h. diese Tweets erhalten mehr Reichweite, was wiederum das zukünftige Verhalten der Nutzer auf dieser Plattform beeinflusst.
Hass und Hetze werden in den sozialen Medien belohnt
Die Forscher werteten mithilfe einer Software über 12 Millionen Tweets aus, die über unterschiedlich kontroverse Themen handelten. Im Laufe der Zeit konnten sie feststellen, dass sich die Tweets der Nutzer veränderten. Der Ton wurde zunehmend rauer und aggressiver. Diese Beobachtung ist kein Zufall. Soziale Plattformen wie X geben den Nutzern gezielt Anreize, damit sich diese im weiteren Verlauf moralisch empören. Eine Professorin an der Universität Yale, die an dem Forschungsvorhaben beteiligt gewesen ist, erkennt darin ein gezieltes Geschäftsmodell.
„Die moralische Empörung spielt eine wesentliche Rolle bei sozialen und politischen Veränderungen. Deshalb müssen wir uns darüber im Klaren sein, dass Technologieunternehmen durch den Aufbau ihrer Plattformen maßgeblich zum Erfolg und Scheitern kollektiver Bewegungen beitragen.“
Mit der Zeit lernen die Nutzer das sich moralische Empörungen auf den sozialen Plattformen lohnen. Dieser Lernprozess beeinflusst gezielt ihr Verhalten. Die Forscher sprechen in diesem Zusammenhang von einem sozialen Lernen. Konkret bedeutet das: moralische Empörungen erhalten mehr Shares und Likes. Diese Beobachtungen führen in der Regel dazu, dass Nutzer die nächsten Äußerungen in einem ähnlichen oder noch raueren Ton verfassen und veröffentlichen. Es handelt sich um ein bestärktes Lernen, da positive Rückmeldungen auf Empörungsäußerungen in der Regel zu weiteren Empörungsäußerungen führen. Unter dem Begriff der moralischen Empörung werden in der Studie diejenigen Äußerungen bezeichnet, die dazu führen, dass Nutzer
- sich in ihren persönlichen Moralvorstellungen verletzt fühlen,
- Gefühle wie Wut, Ekel und/oder Verachtung empfinden und
- diese Gefühle mit bestimmten Menschen, Dingen oder Ereignissen in Zusammenhang bringen und diese beschuldigen bzw. bestrafen wollen.
Die permanente Konfrontation mit Hasskommentaren kann vor allem bei Jugendlichen zu negativen Folgen führen. In ihrer Wahrnehmung werden derartige Äußerungen einer körperlichen Misshandlung gleichgesetzt. Weitere Studien (u. a. Beyari 2023) weisen auf den negativen Zusammenhang von Hass und Hetze und der mentalen Gesundheit hin. So leidet die psychische Gesundheit von Jugendlichen ebenso wie ihre Selbstwahrnehmung.
Hass und Hetze beeinflussen die Klickrate in den sozialen Medien
Die Ergebnisse der Studie machen deutlich, dass Plattformen wie X im Speziellen und die sozialen Medien im Allgemeinen kein neutraler Ort sind. Jede Plattform hat ihre eigenen spezifischen Normen und Werte. Agieren Nutzer zum ersten Mal auf einer sozialen Plattform, werden ihre Äußerungen sofort registriert. Je nach Kommunikationsnormen verstärken sich diese, werden abgeschwächt oder bestraft. Nutzer lernen in kürzester Zeit, welche Interaktionen zu Likes und Shares führen und welche nicht. Die unmittelbaren sozialen Feedbacks der anderen Nutzer beeinflussen entscheidend die moralischen Äußerungen.
In den sozialen Medien agieren Algorithmen nicht nach dem Wahrheitsgehalt, sondern nach der Logik der Aufmerksamkeit. Grundsätzlich können Algorithmen nicht zwischen seriösen und unglaubwürdigen Informationen unterscheiden. Aus diesem Grund sind die sozialen Medien für Personen, die Desinformationen verbreiten möchten, so interessant. In den klassischen Medien wird der Pressekodex (zumeist) beachtet. Das gilt nur bedingt für die sozialen Medien. Hierin liegt die zentrale Ursache, warum sich Desinformationen und Hetzkampagnen mit zumeist reißerischen Titeln so rasant verbreiten und große Aufmerksamkeit erhalten. Je skandalöser ein Beitrag, desto größer die Wahrscheinlichkeit, dass der Beitrag Likes erhält und von den Algorithmen als wichtig eingestuft wird. Die Bedeutung der Algorithmen kann daher nicht hoch genug eingestuft werden.
Sämtliche Forschungsergebnisse der Studie können Sie hier nachlesen.
Je stärker die Emotionen, desto höher die Klickraten
Seriöse Inhalte haben es in den sozialen Medien schwer. Sie haben es weitaus schwerer als Beiträge, die auf Hass, Hetze und Desinformationen setzen. Solche Inhalte werden von den Social Bots gepusht. Können die sozialen Medien innerhalb der Europäischen Union überhaupt sicherer gemacht werden? Diese Frage ist berechtigt, da sich die Server-Standorte von Facebook, Instagram, X und Co in den USA befinden.
Die Europäische Kommission ist bemüht, dass Internet sicherer zu machen. Das Gesetz über die digitalen Dienste (DSA) ist ein Schritt in die richtige Richtung. Seit dem Jahr 2023 gibt es darüber hinaus das Europäische Zentrum für Transparenz von Algorithmen (ECAT) mit Sitz in Sevilla, Spanien. Die Aufgabe der Mitarbeiter des Zentrums besteht insbesondere in ihrer beratenden Funktion sowie in der Analyse und Bewertung von Algorithmen. Die Mitarbeiter beraten Hochschulen und Organisationen ebenso wie die Europäische Kommission. Das erklärte Ziel der ECAT ist nichts geringeres, als die ‚Blackbox‘ der Plattformalgorithmen zu öffnen.
Dieser Beitrag wurde von Sandra Wegener veröffentlicht.