Algospeak

Inhaltsfilter

Soziale Medien setzen zur Moderation der nutzergenerierten Inhalte neben manueller Inhaltsmoderation sogenannte Inhaltsfilter ein, um unerwünschte Inhalte aus den Netzwerken zu entfernen. Die Inhaltsfilter basieren auf automatisierter Entscheidungsfindung und maschinellem Lernen. Umgangssprachlich werden sie oft unter den Schlagwörtern „Algorithmen“ und „Bots“ zusammengefasst.^[1]

Die zur Inhaltsfilterung eingesetzten Systeme haben häufig Probleme damit, den Kontext der Beiträge zu erfassen. So werden beispielsweise sarkastische Botschaften nicht als solche erkannt. Oft können die Systeme auch nicht die bloße Berichterstattung über Terrorismus, bestimmte Ideologien und historische Geschehnisse von unterstützenden und verherrlichenden Botschaften zu diesen Themen unterscheiden.^[2]

Beanstandete Inhalte und Konsequenzen

Zu den unerwünschten Beiträgen in sozialen Medien zählen unter anderem rechtswidrige Beiträge wie Volksverhetzung und Bedrohungen sowie die Verbreitung von gesundheitsgefährdenden Informationen, beispielsweise zu Essstörungen oder Suizid.^[1] Im Falle von TikTok wurde jedoch bekannt, dass die Plattform auch Beiträge zu LGBTQ-Themen, Inhalte zu sexueller Aufklärung und psychischer Gesundheit sowie von übergewichtigen und behinderten Usern wie Richtlinien- oder Gesetzesverstöße behandelte.^[1][2]

Neben dem Löschen von Inhalten greifen viele Plattformen auch auf sogenanntes Shadowbanning, also dem Ausblenden von Inhalten und damit der Beschränkung der Reichweite, zurück.^[1] Bei Usern, die ihre Inhalte monetarisieren, werden beanstandete Inhalte zusätzlich oft demonetarisiert. Dadurch entsteht für die Produzenten ein Einnahmeverlust. Rechtswidrige Beiträge können für die Ersteller hingegen strafrechtliche Konsequenzen nach sich ziehen.^[3][4]

Einsatz von Algospeak

Um die Inhaltsfilter und die damit verbundenen Konsequenzen zu umgehen, greifen die Ersteller der Inhalte bei vermutlich beanstandeten Botschaften oft auf Algospeak zurück. Obwohl Algospeak auch auf anderen Plattformen eingesetzt wird, wird es hauptsächlich mit TikTok in Verbindung gebracht.^[1]

Da es von den Plattformen kein vollständiges Regelwerk zu den abgelehnten Inhalten gibt, ist die Entscheidungslogik der Inhaltsfilter für die User nicht transparent. Die Entscheidung darüber, welche Wörter verschleiert werden, treffen viele User deshalb auf Basis bisheriger Erfahrungen, infolge des bestehenden Regelwerks oder aufgrund der von anderen Usern genutzten Algospeak-Begriffe.^[5][1] Dies führt dazu, dass Algospeak auch bei Begriffen eingesetzt wird, die eigentlich nicht beanstandet werden.^[6]

Leetspeak, SMS-Sprache und Lolspeak

Algospeak bedient sich mehrerer früherer Arten von Netzjargon. So wird auf Leetspeak, also die Ersetzung von Buchstaben durch ähnlich geformte Zeichen, zurückgegriffen. Beispiele hierfür sind „@b0rt!0n“ anstelle von „abortion“ (deutsch Schwangerschaftsabbruch) oder „le$bian“ anstelle von „lesbian“ (deutsch „lesbisch“).^[1]

Wörter und Ausdrücke werden, ähnlich wie in der SMS- oder Chatsprache, häufig durch das Weglassen von Vokalen, Leerzeichen und Großschreibung verändert. Wie bei Lolspeak werden auch orthographisch, interpunktorisch und grammatikalisch inkorrekte Wörter und Sätze genutzt.^[1]

Anders als bei Algospeak waren die Intentionen dieser Sprachformen nicht das Umgehen von Inhaltsfiltern, sondern vor allem von humoristischer oder gemeinschaftsstiftender Natur sowie im Falle der SMS-Sprache ein Mittel zur zeichen- und zeitsparenden Kommunikation.^[1][5]

Homophone und Neologismen

Algospeak umfasst auch Homophone, wie „seggs“ statt „Sex“, und das Schaffen neuer Ausdrücke.^[7] So setzte sich im Englischen beispielsweise für die Bedeutungen „jemanden umbringen“ oder „sich umbringen“ das Verb „to unalive“ durch. Aus der Befürchtung davor, dass soziale Medien wie TikTok kritische Beiträge zu US-Präsident Donald Trump weniger Usern anzeigt, setzten sich auch bei Trump-Gegnern teilweise neue Begriffe durch. So wurde von Anti-Trump-Protesten wie von Musikfestivals berichtet. Die Demonstrationen selbst wurden als Festivals und die demonstrierenden Personen als Fans bezeichnet.^[6][8]

Emojis

Um die Inhaltsfilter zu umgehen, können Wörter auch durch Emojis substituiert werden. So gilt eine Schneeflocke als Algospeak-Emoji für Kokain.^[1] Von Gegnern der COVID-19-Impfungen wurde während der COVID-19-Pandemie das Wort „Impfung“ durch einen Karotten-Emoji ersetzt, um der Löschung von Falschinformationen zu entgehen.^[9] Eine Kombination aus Emojis und Reimen tritt beim Mais-Emoji auf, der als Ersetzung für das Wort „Pornografie“ verwendet wird. Hintergrund ist der bei den beiden Wörtern „corn“ (deutsch „Mais“) und „porn“ (deutsch „Porno“) vorliegende Reim.^[5]

Tonaufnahmen

In Tonaufnahmen werden durch die Ersteller der Inhalte die als problematisch betrachteten Ausdrücke häufig durch einen Piepston ersetzt oder herausgeschnitten.^[1]