A1 Cascade de désinformation virale

Topique

La psychophysique est le troisième module du modèle de Kyon, aux côtés de la sociophysique et de l'économophysique, et se concentre exclusivement sur le niveau collectif : les mécanismes émergents qui ne se réduisent pas à la simple addition des psychologies individuelles. Son premier volet, la diffusion et la contagion sociale, décrit la propagation des idées, rumeurs, comportements ou paniques au sein d'un réseau social, selon une physique de cascade et de seuil, et non selon celle d'une foule rassemblée physiquement.

La cascade de désinformation virale est l'anomalie qui décrit ce qui se produit lorsque cette propagation devient incontrôlable : un contenu non vérifié se diffuse dans le réseau social plus rapidement que la correction ou la vérification ne peuvent l'atteindre. La variable qui déclenche cette anomalie est précisément la vitesse de propagation du contenu non vérifié, supérieure à celle de la correction et de la vérification : tandis que la correction parvient à atteindre le contenu non vérifié à un rythme comparable, voire plus rapide, le réseau social absorbe les rumeurs et la désinformation sans qu'elles ne s'accumulent. Lorsque la propagation dépasse durablement la correction, le contenu non vérifié s'enracine dans le réseau avant même qu'il soit possible de le réfuter.

Ce mécanisme sous-tend en grande partie les variables de déclenchement identifiées de manière informelle dans les deux autres modules du modèle de Kyon, en attendant le développement de la psychophysique : la saturation de contenus informationnels/de connaissances de faible qualité en éconophysique a déjà mis en évidence le lien entre la dégradation de la fiabilité des signaux générés par algorithme et ce même mécanisme de diffusion et de contagion sociale. La cascade de désinformation virale constitue désormais la manifestation concrète de ce couplage : lorsque la proportion de contenus générés par IA sans vérification humaine augmente au sein du domaine de l’information/des connaissances, ces mêmes contenus non vérifiés se propagent, au sein de ce mécanisme, plus rapidement que la vérification ne peut les corriger.

ID:4694