Fake News et manipulation de l’information – Modélisation de la propagation des fausses informations et cartographie des réseaux sociaux

Cette thèse porte sur l’étude de la désinformation avec une approche structurelle et dynamique, s’intéressant au contexte plus qu’aux contenus. L’objectif est de montrer comment l’analyse de la circulation de l’information ainsi que sa mise en relation avec les structures sociales permet la détection de comptes ayant des comportements anormaux sur les réseaux. Les études portent principalement sur trois datasets de Twitter, collectés au cours des dernières années : réchauffement climatique, politique française et vaccination.

La première partie s’intéresse aux dynamiques communautaires. On distingue ainsi la dynamique
intracommunautaire, étudiée grâce à une nouvelle méthode reposant sur des chaı̂nes de Markov, d’une dynamique intercommunautaire vue par le prisme de schémas alluviaux. L’évolution temporelle générale du graphe est également approchée par Deep Learning avec des Temporal Graph Networks afin de détecter des anomalies mais aussi pour comprendre des déformations plus générales du réseau telles que la polarisation. Cette analyse permet de mettre en avant le rôle joué par les communautés et par certains utilisateurs dans la propagation de l’information.

Dans un second temps, l’objectif est de comprendre comment cette propagation de l’information peut être utilisée dans un but de mise à l’agenda, politique par exemple. Plusieurs niveaux de mise à l’agenda seront ici testés avec des méthodes basées sur des corrélations dans des séries temporelles d’activités. Un autre méthode est également étudiée avec pour objectif de quantifier dans quelle mesure des sujets comme le Covid peuvent être de bons indicateurs pour comprendre la reconfiguration politique, en s’appuyant sur la prédiction de liens dans les graphes.

Finalement, les méthodes précédentes sont utilisées pour mettre en avant des campagnes de désinformation ainsi que leurs conséquences. L’importance du médium est également interrogée dans la mise à l’agenda avec des travaux sur les images et vidéos dans la campagne présidentielle française de 2022.

Beyond Fake News: a structural and dynamic approach towards analyzing
online misinformation and manipulation of public opinion

In recent years, misinformation and its consequences have become a
societal concern. In our work, we treat misinformation with a structural
and dynamic approach which focuses on context rather than on content.
Our contributions consist of tools relying on network information flow
and its relation to social structures to inform the detection of
anomalous user accounts. Our methods are validated on contemporary
online data, namely three Twitter datasets collected over the last few
years regarding discourse on global warming, French politics, and
vaccination.

We first focus on community dynamics. A distinction is made between
intra-community dynamics, studied using a novel method based on Markov
chains, and inter-community dynamics analyzed via alluvial patterns that
reveal online communities. The general temporal evolution of a social
graph is also modeled by Deep Learning with Temporal Graph Networks.
These are augmented with a novel reliability module in order to detect
graph anomalies and thus online coordination. This modeling permits a
deeper understanding of general social network evolution, and especially
the rise of political polarization. Our analysis highlights the role
played by communities and individual users in information propagation,
both exhibiting characteristic patterns.

We evaluate the impact of misinformation by examining agenda-setting and
network reconfiguration. We analyze how information propagation is
re-purposed for agenda-setting, and especially in political
agenda-setting. We describe several levels of agenda-setting with
techniques based on time-series correlations of activity, inspired from
existing methods in neurology. We have developed another method based on
link prediction in graphs to quantify the extent to which topics such as
COVID-19 predict political reconfiguration.

The above methods are used to highlight real disinformation campaigns
and their consequences. We (1) demonstrate that user networks in
politics and climate have engaged in so-called Coordinated Inauthentic
Behaviors; (2) analyze the role of medium, e.g. text vs. images and
videos, in agenda-setting; and (3) illustrate this using data from the
2022 French presidential campaign and from the climate change
controversy in order to shed light on online strategies.