Human-Computer-Interaction: Smi Hinterreiter und Bias in Berichterstattung
Smi bekämpft Media Bias mit KI
Was steckt hinter Nährwertangaben von Nachrichtenartikeln und wie kann man spielerisch lernen, kritischer zu lesen? Smi, Doktorand in „Human-Computer-Interaction“ an der Julius-Maximilians-Universität Würzburg, hat Antworten auf diese Fragen. Im Rahmen des Dissertationsprojekts entstand ein interaktives Onlinespiel zum Erkennen von Media Bias sowie eine Nachrichtenseite, in denen manipulative oder politisch gefärbte Formulierungen farbig hervorgehoben werden. Smis Ziel ist es, das Nützliche mit dem Angenehmen zu verbinden und mit den Möglichkeiten künstlicher Intelligenz manipulative Berichterstattung aufzudecken. Wie genau das abläuft und wer der Mensch hinter der Maschine ist? Das erfahrt ihr im Interview.
Stell’ dir vor, wir träfen uns auf Kloster Banz beim Mittagessen im Rahmen eines Seminars. Was würdest du über dich erzählen?
Über meine Forschung zu sprechen ist ein ganz guter Einstieg. Aber meistens versuche ich herauszufinden, was mein Gegenüber macht, um gemeinsame Interessensgebiete zu finden. Vermutlich würde ich erzählen, dass ich die meiste Zeit allein vor meinem Rechner sitze, aber wann immer ich kann in der Weltgeschichte unterwegs bin. Entweder bin ich dann draußen in der Natur, trainiere oder besuche über die Welt verstreute Freunde. Über Tokyo und die japanische Kultur, Bewegung und Sport oder Zirkus könnte ich stundenlang sprechen.
Was ist dein akademischer Werdegang?
Ursprünglich habe ich „Irgendwas mit Medien“ studiert. Das fing mit Interactive Media Design in Darmstadt an, einem sehr praxisorientierten Studiengang. Ich habe früh gelernt, selbständig und in Gruppen Projekte umzusetzen, Ideen zu präsentieren, Dinge zu hinterfragen und mir das benötigte Wissen autonom zu erarbeiten. Den Master in Interaction Design habe ich dann in Magdeburg gemacht. Während des Studiums habe ich auch in der Industrie gearbeitet, unter anderem bei einem E‑Learning-Unternehmen, bei Honda in Research & Development und am Fraunhofer Institut. Während der Masterarbeit bin ich auf die Media Bias Research Group gestoßen und habe in Kooperation mit ihnen ein Spiel zum Lernen von Media Bias entwickelt. Damit habe ich mich dann bei der HSS beworben — so ging mein Promotionsvorhaben dann richtig los.
Kurz erklärt
Von einem Media Bias (Bias = Neigung, Tendenz) spricht man, wenn die mediale Berichterstattung nicht objektiv, sondern tendenziös ist, die Darstellung eines Sachverhalts also in eine (politische/ideologische) Richtung gefärbt ist. Ist der Leser sich dessen nicht bewusst, kann dies zu polarisierender Weltsicht, Misstrauen in den Journalismus bzw. die öffentlichen Medien sowie zu Echokammern führen. Media Bias beginnt bei einseitiger Themenwahl durch Redaktionen, kann sich in (auch unbeabsichtigt) fehlerhafter Wiedergabe oder Auslassen von Informationen zeigen. Die Art, wie ein Artikel geschrieben ist, kann durch die Perspektive des Journalisten verzerrt sein (Spin), durch emotional manipulative Sprache (Labeling) oder ideologisch aufgeladene Wortwahl. Smis Forschung beschäftigt sich hauptsächlich mit der sprachlichen Ausgestaltung von Medienartikeln.
Wie lange bist du schon in der Stiftung?
Seit zwei Jahren, wobei ich davon ein halbes Jahr als Gastforscher in Tokyo verbracht habe. Ich schätze vor allem die familiäre Atmosphäre in der HSS. Man kommt sehr leicht mit Menschen ins Gespräch und findet Themen, die einen verbinden — vor allem auf Kloster Banz.
Wann stand für dich fest, dass du promovieren möchtest? Wie fiel die Entscheidung für deinen Doktorvater oder den Standort?
Ich habe mich schon immer mehr für den wissenschaftlichen Teil der Projekte interessiert und hatte eine fast romantische Faszination für die Forschung. Nach meiner Masterarbeit ging es dann darum, wie wir das Spiel weiterführen. Das Stipendium der HSS brachte hier die größten Chancen und vor allem Freiheit und Zeit, mich ausschließlich auf die Projekte zu konzentrieren. Mein Doktorvater, Prof. Marc Latoschik, an der Uni Würzburg wurde mir tatsächlich von einer HSS-Stipendiatin sowohl menschlich als auch fachlich kompetent empfohlen. Nach einem Anruf war klar, dass die Mischung aus Design, Technik, Ethik, und Interesse an Sprache einfach passt.
Seit wann promovierst du und welches Abgabedatum sieht dein Zeitplan vor?
Ich promoviere seit zwei Jahren. Wie vermutlich bei jedem Stipendiaten hat sich mein ursprünglicher Zeitplan etwas verschoben. Tatsächlich habe ich bereits alles umgesetzt, was in meinem Bewerbungs-Exposé steht. Die drei Paper warten nur noch auf Annahme. Allerdings tut sich immer mehr „Future Work“ auf – das Thema ist einfach topaktuell und spannend. Momentan arbeite ich an drei weiteren Studien und Papers, die ich durchführen und veröffentlichen will. Dementsprechend plane ich, im Sommer 2025 fertig zu werden.
Du schreibst deine Dissertation über die Wahrnehmung und Visualisierung von Media Bias in Nachrichtenartikeln. Wie lautet der genaue Titel und was beinhaltet dein Promotionsvorhaben?
Mein offizieller Arbeitstitel lautet „Automatic Detection and Indication of Media Bias in Online News”. Daran erkennt man schon, dass es ein interdisziplinäres Thema ist, welches Computer Science, Data Science, Psychologie, Design, Politik- und Sprachwissenschaften vereint.
Ursprünglich ging es darum, neue Methoden zur Datensammlung zu entwickeln, um ein Sprachmodell zu trainieren, welches Media Bias in Texten automatisch erkennt. Daraus entstand dann das Forschungsprojekt des Media Bias-Spiels, welches Spielenden durch ein interaktives Tutorial beibringt, Media Bias zu erkennen, und in späteren Spieleinheiten ihre Input-Daten sammelt. Der daraus entstehende Datensatz kann dann zum Training von neuen Algorithmen genutzt werden.
Das zweite Projekt, welches ursprünglich auch zur Datensammlung entwickelt wurde, war die Nachrichtenseite NewsUnfold. Diese hebt Sätze mit erhöhtem Bias-Gehalt in Gelb hervor und integriert einen Feedback-Mechanismus, durch den Lesende angeben können, ob sie der automatischen Klassifikation zustimmen oder anderer Meinung sind.
Da ich aus dem Design komme, mit Schwerpunkt auf „Human Design“, interessiere ich mich nun aber mehr für die menschliche Perspektive und den Mehrwert für die Nutzenden. Bloße Datensammlung, die Menschen als Recheneinheiten benutzt, wäre etwas, was gegen mein eigenes Ethos verstößt. Mein Ziel war es, eine Win-Win-Situation für beide Seiten zu schaffen.
Der Mehrwert beim Media Bias-Spiel sind der Lerninhalt und die Unterhaltung, die es bieten soll. Beides lässt sich in Studien durch verschiedene Metriken messen und auswerten. Bei NewsUnfold ist der Mehrwert das Anzeigen des Bias, sowie einem „News Nutrition Label“ (dt. Nachrichten-Nährwertangabe), welches die Lesenden mit weiteren Infos zur Vertrauenswürdigkeit des vorliegenden Artikels versorgt. Gleichzeitig war die Hypothese, dass das Hervorheben von Sätzen mit Bias sowie anderen visuellen Indikatoren die Fähigkeit steigert, Bias akkurat zu erkennen. Hieraus entstanden meine Indikationsstudien. Dabei kam heraus, dass ein Tacho, der die Bias-Stärke des Artikels anzeigt, sowie die Hervorhebung der Sätze einen signifikant positiven Einfluss auf die Erkennungsfähigkeit von Bias hatten.
Außerdem übertrage ich meine Forschung in die virtuelle Realität (VR). Dabei operiere ich unter der Hypothese, dass Bias hier einen verstärkten Einfluss hat. Dazu läuft momentan die erste Studie. Außerdem kann man in VR soziale Situationen kontrolliert simulieren und so erforschen, welchen Einfluss zum Beispiel Kommentare von anderen Personen auf die Bias-Wahrnehmung haben.
Wie berichtest du von deinem Dissertationsprojekt auf Partys und Familientreffen (= für Laien heruntergebrochen)?
Meistens fange ich mit dem Problem an, dass Nachrichtenartikel oft stark eingefärbte oder beeinflussende Sprache verwenden. Dadurch können sie Meinungen beeinflussen oder manipulieren — mit weitreichenden Folgen. Ich forsche daran, wie man Menschen effektiv darauf hinweisen kann: Im Grunde, wie man ihnen hilft, kritischer zu lesen. Dafür teste ich verschiedene Methoden, um Lesenden anzuzeigen, wie ein Text geschrieben ist. Zum Beispiel mit einem Tacho, der die Stärke des Bias anzeigt, oder gelben Highlights im Text, die Phrasen mit starkem Bias hervorheben. Weil man das alles nur mühsam von Hand machen kann, wollen ich und meine Forschungsgruppe dafür Künstliche Intelligenz einsetzen. Aber um diese zu trainieren, braucht man viele hochwertige Daten. Deswegen ist es Teil meiner Forschung, neue Methoden für Datensammlung in meine Projekte zu integrieren.
Aber meistens sage ich nur, dass ich etwas mit Media Bias, Design und Künstlicher Intelligenz mache. Meine Eltern fragen mich auch regelmäßig, was genau ich eigentlich mache (lacht).
Wie bist du auf dein Dissertationsthema gekommen?
Timo Spinde, ebenfalls HSS-Stipendiat und der Forscher, mit dem ich am stärksten zusammenarbeite, hatte damals die Idee, mit Design-Studis ein Spiel zur Bias-Datensammlung zu machen. Meine damalige Professorin war die Einzige, die eine Nummer auf ihrer Website angegeben hatte. Timo hat sie gerade beim Mittagessen erwischt. Er konnte ihr kurz die Idee pitchen und hat sie dann später bei uns im Kurs vorgestellt. Da ich auch schon meine Bachelorarbeit über Bias geschrieben habe, habe ich die Idee aufgenommen und als einziger Designer in einem Team aus Informatikern umgesetzt. Und so kam der Stein ins Rollen.
Was fasziniert dich besonders an deiner Forschung?
Die Aktualität und Wichtigkeit des Themas, die Interdisziplinarität, die Menschen, mit denen ich zusammenarbeite, die Breite an Forschungs-Möglichkeiten und die psychologische Komponente. Ich bin immer noch aufgeregt, wenn ich Paper lese, die über neue Systeme und Konzepte berichten. Ich finde Menschen und kognitive Prozesse einfach unendlich spannend.
Wie hat sich dein Thema seit der Festlegung entwickelt, zu welchen Teilen stimmt es noch mit deiner Ausgangsidee überein, was hat sich verändert?
Die Grundkonzepte sind alle noch da und haben den Rahmen für die einzelnen Studien geboten. Aber der genaue Inhalt und die Umsetzung verändert sich stetig. Ich glaube, verändert hat sich vor allem meine Einstellung zu Projektplanung und der Komplexität des Themas (lacht). Am Anfang dachte ich, „Ach ja, das mache ich mal in zwei Monaten, und schreibe dann ein Paper darüber.“ Plötzlich ist man zwei Monate dabei, Grundsatzfragen tun sich auf, man hinterfragt alles und beschließt, einen Monat nur Literatur zu lesen. Oder man verbringt drei Wochen damit, Material für Studien zu sammeln und es bis ins kleinste Detail zu diskutieren. Mir kommt das Themengebiet Media Bias nun sehr viel komplexer vor als zu Beginn.
Woran arbeitest du derzeit?
Momentan schiebe ich das finale Editieren meines aktuellen Papers auf, indem ich neue Studien plane – ein Klassiker. Das Media Bias-Game wird nochmal mit einem erziehungswissenschaftlichen Hintergrund neu aufgesetzt und evaluiert. Hier arbeite ich mit zwei anderen HSS-Stipendiaten zusammen. Bevor wir das Game neu aufsetzen, führen wir verschiedene Studien zu Lernmethoden und ‑effekten durch. Außerdem arbeite ich an einem zweiten Literature Review über Media Bias. Dafür haben andere Mitglieder meiner Forschungsgruppe eine Suche mit ca. 4000 Suchwörtern programmiert. Die Auswertung wird höchstwahrscheinlich ein klein wenig Zeit in Anspruch nehmen.
Welche Hürden und Schwierigkeiten gibt/gab es für dich im Forschungs- oder Schreibprozess?
Da ich aus einem angewandten Studiengang kam, war wissenschaftliches Schreiben die größte Herausforderung für mich. Generell braucht es Zeit und Energie, sich in der Wissenschaft oder selbst seinem Gebiet zurechtfinden. Dazu kommt, dass mein Gebiet sehr interdisziplinär ist. Von Data Science zu Programmierung, zu Psychologie, zu Politikwissenschaften, zu Sprachwissenschaften, zu Erziehungswissenschaften, zu Statistik, zu UI, UX und Game Design … Alles davon hat seine eigene Sprache, seine eigenen Prinzipien, seine eigenen Denkweisen.
Was motiviert dich, bei „Durststrecken“ oder Rückschlägen durchzuhalten und weiterzumachen?
An etwas zu arbeiten, was einen positiven Einfluss auf die Gesellschaft haben kann und was ich persönlich als wichtig erachte. Gleichzeitig, mich daran zu erinnern, in was für einer privilegierten Position ich mich befinde. Ich kann meine Arbeitszeiten frei einteilen und von überall aus der Welt arbeiten. Ich habe auch niemanden, der mir sagt, „Das hast du genau so und so zu machen”. Auch wenn das vielleicht manchmal einfacher wäre (lacht). Sich mit anderen Promovierenden auszutauschen hilft auch viel. Wir knabbern alle an ähnlichen Dingen.
Was tust du als Ausgleich zum wissenschaftlichen Schreiben und Arbeiten?
Bewegung, Sonne und Menschen. Nach einem ganzen Tag alleine am Schreibtisch gibt es nichts Erholsameres für mich. Aber am liebsten bin ich der Natur: Wandern mit meiner Familie, oder Trailrunning und Mehrseillängen klettern mit meinem Papa. Momentan mache ich viel Luftakrobatik und Zirkus-Performances. Dabei kann ich mich auch kreativ ausleben. Und wenn man zu viel Muskelkater hat und die soziale Batterie leer ist, gibt es immer noch Videospiele und Sci-Fi Bücher.
Hast du schon Ideen oder Pläne, wie es nach Abschluss der Promotion für dich weitergehen soll?
Ideen? Viele! Ich liebe die Wissenschaft, tue mich allerdings manchmal schwer mit dem akademischen System. Lehre macht mir auch Spaß. Ich kann mir gut vorstellen, an der Uni zu bleiben. Ich würde auch gerne an meinem Thema dranbleiben, entweder als Wissenschaftler oder gegebenenfalls auch durch Firmengründung. Außerdem habe ich aus meiner Medien-Zeit einige Kontakte in die Design- und Startup-Industrie. Die Arbeit dort ist sehr anders und bietet eine gute Abwechslung zum akademischen Arbeiten. Ich denke, beide Welten können viel voneinander lernen. Vermutlich werde ich also meine Zeit aufteilen, bis ich konkreter rausgefunden habe, wo es mich hinzieht.
Für deinen weiteren Weg – virtuell wie analog – wünschen wir dir viel Erfolg!
*Smi identifiziert sich als nonbinär und verwendet die Pronomen they/them.