Wenn Maschinen Mehrheiten erfinden
Es ist ein düsteres Szenario und doch technisch längst greifbar: Nicht mehr einzelne Bots verbreiten Desinformation im Netz, sondern ganze Schwärme künstlicher Identitäten. Sie diskutieren, widersprechen sich scheinbar, reagieren auf aktuelle Ereignisse und erzeugen dabei den Eindruck einer lebendigen, vielstimmigen Community, berichten Medien.
Ein internationales Forschungsteam warnt im Science Policy Forum vor dieser neuen Eskalationsstufe digitaler Einflussnahme. Der Begriff, der dabei fällt, klingt harmlos doch er hat es in sich: KI-Schwärme.
Künstliche Persönlichkeiten mit Gedächtnis
Der Sozialdatenforscher David Garcia von der Universität Konstanz beschreibt ein System aus KI-Agenten, das weit über herkömmliche Bot-Netzwerke hinausgeht.
Diese Agenten besitzen eine beständige Identität, ein Gedächtnis und eine individuelle Sprache. Sie wirken wie reale Nutzerinnen und Nutzer mit Profil, Haltung und vermeintlicher Lebenserfahrung. Gesteuert von einer Person oder Organisation, können sie koordiniert auf ein gemeinsames Ziel hinarbeiten und dennoch unterschiedlich auftreten.
Der entscheidende Unterschied zu früheren Bot-Armeen: KI-Schwärme sind kaum als solche erkennbar. Sie agieren plattformübergreifend, bestätigen sich gegenseitig und reagieren in Echtzeit auf gesellschaftliche Stimmungen.
Die Simulation einer ganzen Gesellschaft
Möglich wird das durch leistungsfähige große Sprachmodelle (LLMs). Sie erlauben nicht nur einzelne Chatbots, sondern die Simulation ganzer digitaler Gesellschaften.
Garcia warnt: Mit diesen Systemen lasse sich eine alternative Öffentlichkeit erschaffen eine künstliche Mehrheit, die Meinungen formt, politische Unterstützung verschiebt und gesellschaftliche Normen langsam verändert.
Die Gefahr liegt dabei weniger in einzelnen Falschmeldungen als in der systematischen Erzeugung eines vermeintlichen Konsenses. Wenn zahlreiche scheinbar unabhängige Stimmen dieselbe Position vertreten, entsteht der Eindruck: Alle denken so.
Selbst wenn das nicht stimmt.
Noch Zukunftsmusik aber keine ferne
Ein vollständig entwickelter KI-Schwarm ist bislang nicht offiziell nachgewiesen. Doch erste KI-gesteuerte Netzwerke wurden bereits identifiziert.
Die Hürde, so Garcia, sei erschreckend niedrig. Viele Sprachmodelle sind frei zugänglich. Was es braucht, sind Rechenleistung, technisches Know-how und ein Motiv.
Demokratie unter Druck
Demokratische Prozesse leben von echter Meinungsvielfalt. Wird diese Vielfalt künstlich überdeckt, gerät das Fundament ins Wanken. Vertrauen schwindet, Polarisierung nimmt zu, gesellschaftliche Normen verschieben sich unbemerkt und schleichend.
Deshalb fordern die Forschenden frühes Gegensteuern. Plattformen sollten Inhalte systematisch auf koordiniertes Verhalten prüfen. Mithilfe von Mustererkennung könnten künstliche Schwärme identifiziert werden, bevor sie Debatten dominieren.
Auch eine unabhängige, plattformübergreifende Beobachtungsstelle wird ins Spiel gebracht eine Art Frühwarnsystem für demokratische Diskurse.
Jetzt handeln, bevor es zu spät ist
Noch stehen KI-Schwärme am Beginn ihrer Entwicklung. Doch gerade darin liegt die Chance.
„Wir sehen, dass es fast so weit ist“, warnt Garcia.
Die Technologie ist da. Die Werkzeuge existieren.
Die entscheidende Frage lautet nun: Reagiert die Gesellschaft schnell genug bevor künstliche Mehrheiten echte Demokratien verdrängen?