M2 Régime dagence productif : humain vs algorithmique

Topique

Le régime de l'agence productive décrit qui décide au sein du domaine de l'information et de la connaissance : la production et les décisions relatives à ce qu'il faut produire (code, contenu, conception) restent-elles majoritairement entre les mains de l'humain, ou sont-elles désormais principalement assurées par un système d'intelligence artificielle ? La variable qui déclenche le passage d'un régime à l'autre est la part de cette production et de ces décisions générées par les systèmes d'intelligence artificielle plutôt que par les humains, lorsqu'elle atteint le seuil de domination de ce régime : il s'agit de la même part que mesure déjà l'indice d'innovation et de concentration numérique, qui représente la proportion de la production attribuable aux systèmes d'intelligence artificielle. Le franchissement de ce seuil de domination par cet indice constitue précisément la mesure directe de ce mode.

Ce changement de régime n'est pas pathologique en soi : il est la modification transversale de l'automatisation et de l'IA qui agissent sur l'information et la connaissance avec une force particulière, car ici, l'intelligence artificielle ne se contente pas de produire, elle décide de ce qu'il faut produire. Ce régime algorithmique peut ainsi se maintenir de manière stable sans dégradation. Ce qui est véritablement pathologique est un phénomène distinct mais connexe : lorsque cette même part de la production attribuable aux systèmes d’intelligence artificielle croît sans vérification humaine au point de dégrader la fiabilité globale du signal, une saturation de contenus de faible qualité se matérialise. Le régime d’agence productive et cette anomalie partagent la même variable sous-jacente – la part de la production qui n’est plus générée par un humain – mais tandis que le régime décrit simplement qui décide, l’anomalie décrit ce qui se produit lorsque cette production algorithmique progresse sans les contrôles de vérification qui garantiraient sa fiabilité.

Une transition vers un régime d’agence productive majoritairement algorithmique est donc plus exposée à la saturation de contenus de faible qualité si elle ne s’accompagne pas de vérification humaine. Cependant, le régime lui-même est compatible avec une production algorithmique fiable : c’est l’absence de vérification, et non le régime algorithmique en tant que tel, qui distingue une transition stable d’une anomalie.

ID:4814