KI-Schwärme drohen Demokratie zu untergraben

Davor warnt Kevin Leyton-Brown von der University of British Columbia. Er sieht schon ganze Schwärme von KI-Persönlichkeiten, die Menschen so gut nachahmen, dass sie Online-Communitys infiltrieren, Gespräche steuern und Wahlen beeinflussen - und das mit maschinellem Speed.

Manipulation des Diskurses

Im Gegensatz zu Botnets der alten Schule koordinieren sich diese Agenten in Echtzeit, passen sich an das Feedback ihrer Nutzer an und halten über Tausende von Konten hinweg eine einheitliche Betrachtungsweise aufrecht, meint Leyton-Brown. Fortschritte bei grossen Sprachmodellen und Multi-Agent-Systemen ermöglichten es einem einzigen Betreiber, Tausende von KI-Stimmen einzusetzen, die authentisch wirken und wie Einheimische sprechen.

Dem Forscher nach können diese Millionen von Mikro-Tests durchführen, um anhand der Rückmeldungen die überzeugendsten Botschaften zur Durchsetzung der Ziele des Betreibers zu finden, sich so eine Anhängerschaft aufbauen und quasi eine Basisbewegung in Gang setzen, die darauf getrimmt wird, den demokratischen Diskurs zu manipulieren, heisst es weiter.

Erste Warnsignale erkannt

"Vollwertige KI-Schwärme sind noch Theorie, aber zu den ersten Warnsignalen zählen KI-generierte Deepfakes und gefälschte Nachrichtenkanäle, die die jüngsten Wahlkampfführungen in den USA, Taiwan, Indonesien und Indien beeinflusst haben", verdeutlicht Leyton-Brown. Es gebe auch schon russlandfreundliche Netzwerke, die das Internet mit Inhalten überschwemmten und das Training von generativer KI in ihrem Sinn beeinflussen sollen.

KI-Schwärme könnten das Machtgleichgewicht in Demokratien kippen, fürchtet Leyton-Brown. "Wir sollten nicht davon ausgehen, dass die Gesellschaft unverändert bleibt, wenn diese Systeme aufkommen. Eine wahrscheinliche Folge ist ein sinkendes Vertrauen in unbekannte Stimmen in den sozialen Medien, was es für demokratische Botschaften schwieriger machen könnte, sich durchzusetzen." Die nächsten Wahlen könnten schon zum Testfeld für diese Technologie werden.

Eine kurze Interaktion mit einem Chatbot kann die Meinung eines Wählers über einen Präsidentschaftskandidaten oder eine vorgeschlagene Politik erheblich beeinflussen. Das zeigt auch eine Studie der Cornell University. So seien KI-Bots bei der politischen Überzeugungsarbeit sehr effektiv. Oft könnten sie die Präferenzen der Wähler um zehn Prozentpunkte oder mehr verschieben, und zwar sowohl zugunsten der Republikaner als auch der Demokraten in den USA., wie pressetext berichtete. (pressetext.com)