Studie deckt Erinnerungslücken zu KI-Inhalten auf
Ab August 2026 tritt eine EU-weite KI-Verordnung in Kraft, die zur Kennzeichnung KI-generierter Inhalte verpflichtet. Ein Forschungsteam der Universität Bayreuth und der Aalto University in Helsinki, Finnland, hat jedoch herausgefunden, dass sich Nutzende von KI-Systemen bereits nach nur einer Woche nicht mehr zuverlässig daran erinnern, ob erstellte Inhalte KI-generiert sind oder nicht. Über ihre Erkenntnisse haben die Forschenden auf der international wichtigsten und grössten Konferenz im Fachbereich Human-Computer Interaction, der CHI, berichtet.
Ob Zusammenfassungen, Social-Media-Captions, Infografiken, Bildbearbeitung, Slogans oder Denkanstösse – inzwischen ist die digitale Welt voll von KI. Um Täuschungen zu vermeiden und Nutzende transparent über den Ursprung von Inhalten zu informieren, gilt ab diesem Sommer eine Kennzeichnungspflicht für Inhalte, die für die Öffentlichkeit bestimmt sind. «Nach nur einer Woche kommt es allerdings bereits zu deutlichen Fehlerinnerungen, welche Ideen und Texte durch die KI entstanden sind und welche man selbst erzeugt hat», sagt Tim Zindulka, Doktorand am Lehrstuhl Mobile Intelligent User Interfaces der Universität Bayreuth und Erstautor der Studie.
Insgesamt 184 Studienteilnehmende haben im Experiment Texte mit oder ohne Hilfe von KI entwickelt. Nach einer Woche wurden die Teilnehmenden zur Entstehung der Idee und Ausformulierung des Textes befragt. «Besonders auffällig waren Workflows, in der menschliche und künstliche Intelligenz gemischt wurden, also wenn die Idee von der KI stammt, die Ausformulierung jedoch vom Mensch, und umgekehrt», sagt Prof. Dr. Daniel Buschek, Inhaber des Lehrstuhls Mobile Intelligent User Interfaces an der Universität Bayreuth. Nach sieben Tagen sinkt die Wahrscheinlichkeit, sich korrekt ans Attribut «KI-generiert» zu erinnern, auf 37,7 %, wenn eine KI-generierte Idee vom Mensch ausformuliert wurde. Umgekehrt besteht eine 64 %-ige Wahrscheinlichkeit, eine eigene Idee nach einer Woche korrekt als solche zu erkennen, wenn man sie anschliessend von einer KI hat ausformulieren lassen.
«Unsere Studie zeigt auf, dass eine rückwirkende Befragung zur Entstehung von Inhalten nicht zu realistischen Ergebnissen führt. Als Einzelperson im Umgang mit KI eignet man sich gegebenenfalls KI-Ideen als eigene an oder traut sich umgekehrt eventuell selbst weniger zu als gerechtfertigt, weil man eine eigene Idee fälschlicherweise als KI-generiert erinnert», sagt Zindulka und weiter: «Diese Ergebnisse sollten auch in der Gestaltung von KI-Systemen sowie in den Vorgaben zur KI-Kennzeichnung bedacht werden. Beispielsweise im universitären Kontext ist es unrealistisch, von Studierenden rückwirkend durch Erinnerung eine Offenlegung zu Details von KI-Nutzung bei Hausarbeiten zu erwarten. Sinnvoller ist es hier, von Anfang an den Entstehungsprozess von Inhalten mitzudokumentieren.»
Die Studie ist in Zusammenarbeit mit der Aalto University in Helsinki, Finnland, entstanden und wurde von der Deutschen Forschungsgemeinschaft (DFG; Projektnummer 525037874) gefördert.
Hintergrund der Studie
Interaktive und generative KI-Systeme werden immer häufiger bei kreativer Arbeit wie dem Ideensammeln oder Schreiben von Texten verwendet. Soll die KI-Nutzung später offengelegt werden, wie es die EU-Verordnung ab August 2026 für Inhalte für geschäftliche Zwecke fordert, ist eine korrekte Erinnerung an die Entstehung der Inhalte unabdingbar. Die Ergebnisse der Bayreuther Studie hat Konsequenzen für den Umgang von Einzelpersonen mit KI sowie für die Gestaltung von KI-Systemen und Vorgaben zur KI-Kennzeichnung.
