Désinformation, IA, plateformes : qui contrôle le numérique ?

Les défis demeurent multiples ; néanmoins, je n’en citerai que trois.

Le premier consiste à reconnecter les individus à la réalité. Le numérique n’est pas un monde à part : ses effets sont bien réels. Une rumeur en ligne, un harcèlement dans l’espace numérique ou une ingérence étrangère dans une élection entraînent des conséquences concrètes. Pourtant, ces atteintes sont souvent banalisées, car elles se déroulent sur des écrans.

Le second défi est celui de la cadence. Dans l’espace numérique, tout est instantané, viral et amplifié. Les contenus circulent en quelques minutes à grande échelle, tandis que les réponses éducatives, juridiques ou institutionnelles progressent à un rythme plus lent.

Enfin, la question de la souveraineté informationnelle ne doit pas être sous-estimée. Une part croissante du débat public se déroule sur des plateformes privées, souvent étrangères, qui déterminent ce qui est visible, amplifié ou invisible. Cela touche directement à la démocratie et à la confiance dans l’information. 

L’IA générative permet aujourd’hui de créer, en quelques minutes, des textes, des images, des voix ou des vidéos extrêmement réalistes. La désinformation est également devenue rentable : elle se diffuse facilement via des contenus choquants ou émotionnels, qui circulent plus rapidement et touchent un public toujours plus large.

Les algorithmes ne privilégient pas la vérité, mais l’engagement. À cela s’ajoutent nos biais cognitifs : nous croyons plus facilement ce qui confirme nos opinions. Enfin, les anciens filtres éditoriaux ont été largement remplacés par des systèmes conçus pour capter l’attention plutôt que garantir la fiabilité de l’information.

C’est tout l’intérêt d’une approche interdisciplinaire comme celle du “CAS en Gouvernance de l’information et confiance numérique”, que je co-dirige. Celui-ci permet d’analyser la désinformation comme un système global et non comme une simple dérive individuelle. 

Des systèmes de détection par intelligence artificielle, capables d’analyser les incohérences dans les images, les voix, les mouvements ou les métadonnées, ont été développés. En outre, des techniques forensiques permettent d’affiner les analyses.

Une certaine lucidité doit néanmoins rester de mise : la détection intervient souvent en bout de chaîne. Une fausse information a déjà été vue et partagée avant qu’une rectification ne soit possible. Cette dernière peut laisser des traces durables, même lorsqu’elle est démentie.

Par conséquent, l’enjeu réside davantage dans la certification de l’origine des contenus que dans leur démenti a posteriori. Ces aspects techniques et juridiques sont notamment abordés dans la formation « Mécanismes de droit pénal et preuves numériques » que j’ai moi-même conçue et dispensée. 

Absolument. Je préfère néanmoins parler de responsabilité juridique. Vingt ans d’autorégulation ont montré leurs limites.

Ces plateformes ne sont pas de simples hébergeurs : leurs algorithmes opèrent des choix éditoriaux à grande échelle. Ils décident de ce qui est mis en avant, invisibilisé, amplifié ou détourné.

Lorsqu’un adolescent est exposé à des contenus dangereux, ce n’est pas un accident : c’est le résultat d’un système conçu pour capter l’attention. Il en va de même lorsqu’une IA permet de générer des deepfakes pornographiques : le problème n’est pas seulement l’abus individuel, mais l’architecture qui le rend possible.

L’Union européenne a commencé à encadrer ces pratiques ; toutefois, le chantier reste immense. En Suisse, certaines infractions numériques existent déjà, mais les plateformes disposent encore de peu de garde-fous. Ces enjeux sont au cœur de la formation “Régulation des plateformes de réseaux sociaux dans une société démocratique”, qui analyse précisément ces rapports de force.