A1 Virale Desinformationskaskade

Thema

Die Psychophysik ist neben der Soziophysik und der Ökonophysik das dritte Modul des Kyon-Modells und befasst sich ausschließlich mit der Gruppen- oder Kollektivebene: den emergenten Mechanismen, die sich nicht einfach durch die Addition der Psychologie jedes einzelnen Individuums reduzieren lassen. Ihr erster Ansatz, Diffusion und soziale Ansteckung, beschreibt, wie sich Ideen, Gerüchte, Verhaltensweisen oder Paniken in einem sozialen Netzwerk verbreiten – anhand der Physik von Kaskaden und Schwellenwerten, nicht anhand der Physik einer Menschenmenge am selben Ort.

Die virale Desinformationskaskade ist die Anomalie, die beschreibt, was passiert, wenn diese Verbreitung außer Kontrolle gerät: Unbestätigte Inhalte verbreiten sich im sozialen Netzwerk schneller, als sie korrigiert oder verifiziert werden können. Die Variable, die diese Anomalie auslöst, ist genau die Geschwindigkeit, mit der sich unbestätigte Inhalte verbreiten und die Geschwindigkeit von Korrektur und Verifizierung übersteigt: Während Korrekturen unbestätigte Inhalte in vergleichbarer oder sogar höherer Geschwindigkeit erreichen, absorbiert das soziale Netzwerk Gerüchte und Desinformationen, ohne dass diese sich ansammeln. Wenn die Verbreitung die Korrektur nachhaltig übersteigt, verankern sich ungeprüfte Inhalte im Netzwerk, bevor eine realistische Möglichkeit besteht, sie zu widerlegen.

Dieser Mechanismus liegt weitgehend den Auslöservariablen zugrunde, die in den beiden anderen Modulen des Kyon-Modells informell identifiziert wurden, bis die Psychophysik weiterentwickelt ist: Die Sättigung mit minderwertigen Informations-/Wissensinhalten in der Ökonophysik hat bereits gezeigt, dass die sinkende Zuverlässigkeit algorithmisch generierter Signale mit demselben Diffusions- und Ansteckungsmechanismus zusammenhängt. Die Kaskade viraler Desinformation ist nun der konkrete Mechanismus, den diese Kopplung aufzeigt: Wenn der Anteil KI-generierter Inhalte ohne menschliche Überprüfung im Informations-/Wissensbereich wächst, sind es ebendiese ungeprüften Inhalte, die sich auf diesem Weg schneller verbreiten können, als sie durch Überprüfung korrigiert werden können.

ID:4694