search mail facebook github rss twitter google + cross linkedin

Disinfo

https://disinfo.quaidorsay.fr

Réduire les vulnérabilités aux manipulations de l’information

Fake news, infox, désinformation, deep fakes, mésinformation… Nous regroupons tous ces éléments sous le terme générique de manipulations de l’information.

Les manipulations de l’information visent à fragiliser notre cohésion sociale et nos processus électoraux. Les ingérences étrangères documentées lors des élections présidentielles américaines de 2016 ont mis sur le devant de la scène les campagnes de manipulation de l’information de grande ampleur visant le grand public, notamment par le biais des réseaux sociaux. L’affaire dite des Macron Leaks, une tentative d’ingérence dans l’élection présidentielle française de 2017, a démontré la réalité du risque pour la France.

Au sein du bureau de l’Ambassadeur pour le numérique, nous croyons que de telles campagnes sont rendues possibles en premier lieu par l’exploitation de vulnérabilités dans la manière dont l’information est diffusée. De nombreux acteurs à l’intérieur comme à l’extérieur de l’État luttent d’ores et déjà contre ces campagnes. Néanmoins, ils restent trop isolés pour se confronter aux forces que peuvent aligner des adversaires étatiques ou non-étatiques de grande ampleur.

Notre équipe déploie les capacités de la diplomatie numérique, en combinant la production d’outils techniques, leur exploitation en propre en tant que diplomates dans le cyberespace, leur utilisation pour orienter les évolutions règlementaires internationales, et leur diffusion pour fédérer les acteurs autour d’outils et de pratiques communs. Nous construisons ainsi des outils libres et ouverts pour renforcer tous les acteurs publics, privés et de la société civile qui luttent contre les manipulations de l’information, et notamment les régulateurs qui cherchent à garantir la réduction des vulnérabilités chez les grands acteurs privés.

Au vu de l’intrication des problèmes et de la multiplicité des acteurs, nous adoptons une approche en portefeuille : un ensemble d’outils simples et adaptés à différents cas d’usage, que nous faisons évoluer en fonction de leur adoption et de l’évolution de la menace et des opportunités. Notre positionnement diplomatique est renforcé par notre capacité à produire des outils numériques pertinents, et inversement.

Nous opérons actuellement

  1. Une encyclopédie collaborativedes bonnes pratiques, outils et acteurs de la lutte contre les manipulations de l’information.
  2. Une messagerie instantanée permettant de se synchroniser dans la détection et la qualification d’attaques informationnelles équipé de chatbots facilitant les opérations les plus classiques telles que déterminées par l’usage réel observé dans le chat.
  3. Un outil libre et ouvert de suivi et d’archivage des évolutions des conditions générales d’utilisation des fournisseurs de services en ligne afin d’accélérer et de crédibiliser la réponse des pouvoirs publics face aux comportements des plateformes. Chaque changement est détecté automatiquement en quasi temps réel. La base de données historique ainsi constituée permet d’analyser ces évolutions, d’en anticiper de futures et d’envisager une mesure d’impact législatif.

Dans le cadre des élections européennes de 2019, nous avons également produit

  1. Un programme de détection de comptes Twitter robotisés qui a permis d’identifier plus de 560 000 comptes répartis en plusieurs clusters, démontrant la faible prise en compte du problème par les opérateurs de réseaux sociaux.
  2. Une interface de classification des publicités politiques passées sur Facebook qui permet à tout‧e citoyen‧ne de voir ces publicités et de les classifier afin de vérifier le respect des règles électorales. Elle a notamment permis de détecter le retrait de 31 % des publicités censées être archivées par Facebook, dont plusieurs annonces illégales, et de constater des comportement similaires dans 11 autres pays européens.

L'équipe actuelle

Clément Biron

Designer UX/UI - Développeur front

Elsa Trujillo

Product Owner

AmbNum

Martin Ratinaud

Directeur Technique

Vincent Viers

Data Scientist transverse / Développeur

Data scientist transverse @beta.gouv