Anzeige
Anzeige
Anzeige
Lesedauer 3 Min.

Studie deckt Erinnerungslücken zu KI-Inhalten auf

Eine Studie zeigt, dass sich Nutzende von KI-Systemen bereits nach nur einer Woche nicht mehr zuverlässig daran erinnern, ob erstellte Inhalte KI-generiert sind oder nicht.
Themenbild zu Erinnerungslücken bei KI-Inhalten

Themenbild zu Erinnerungslücken bei KI-Inhalten

© ChatGPT

Ab August 2026 tritt eine EU-weite KI-Verordnung in Kraft, die zur Kennzeichnung KI-generierter Inhalte verpflichtet. Ein Forschungsteam der Universität Bayreuth und der Aalto University in Helsinki, Finnland, hat jedoch herausgefunden, dass sich Nutzende von KI-Systemen bereits nach nur einer Woche nicht mehr zuverlässig daran erinnern, ob erstellte Inhalte KI-generiert sind oder nicht. Über ihre Erkenntnisse haben die Forschenden auf der international wichtigsten und grössten Konferenz im Fachbereich Human-Computer Interaction, der CHI, berichtet.

Ob Zusammenfassungen, Social-Media-Captions, Infografiken, Bildbearbeitung, Slogans oder Denkanstösse – inzwischen ist die digitale Welt voll von KI. Um Täuschungen zu vermeiden und Nutzende transparent über den Ursprung von Inhalten zu informieren, gilt ab diesem Sommer eine Kennzeichnungspflicht für Inhalte, die für die Öffentlichkeit bestimmt sind. «Nach nur einer Woche kommt es allerdings bereits zu deutlichen Fehlerinnerungen, welche Ideen und Texte durch die KI entstanden sind und welche man selbst erzeugt hat», sagt Tim Zindulka, Doktorand am Lehrstuhl Mobile Intelligent User Interfaces der Universität Bayreuth und Erstautor der Studie.

Insgesamt 184 Studienteilnehmende haben im Experiment Texte mit oder ohne Hilfe von KI entwickelt. Nach einer Woche wurden die Teilnehmenden zur Entstehung der Idee und Ausformulierung des Textes befragt. «Besonders auffällig waren Workflows, in der menschliche und künstliche Intelligenz gemischt wurden, also wenn die Idee von der KI stammt, die Ausformulierung jedoch vom Mensch, und umgekehrt», sagt Prof. Dr. Daniel Buschek, Inhaber des Lehrstuhls Mobile Intelligent User Interfaces an der Universität Bayreuth. Nach sieben Tagen sinkt die Wahrscheinlichkeit, sich korrekt ans Attribut «KI-generiert» zu erinnern, auf 37,7 %, wenn eine KI-generierte Idee vom Mensch ausformuliert wurde. Umgekehrt besteht eine 64 %-ige Wahrscheinlichkeit, eine eigene Idee nach einer Woche korrekt als solche zu erkennen, wenn man sie anschliessend von einer KI hat ausformulieren lassen.

«Unsere Studie zeigt auf, dass eine rückwirkende Befragung zur Entstehung von Inhalten nicht zu realistischen Ergebnissen führt. Als Einzelperson im Umgang mit KI eignet man sich gegebenenfalls KI-Ideen als eigene an oder traut sich umgekehrt eventuell selbst weniger zu als gerechtfertigt, weil man eine eigene Idee fälschlicherweise als KI-generiert erinnert», sagt Zindulka und weiter: «Diese Ergebnisse sollten auch in der Gestaltung von KI-Systemen sowie in den Vorgaben zur KI-Kennzeichnung bedacht werden. Beispielsweise im universitären Kontext ist es unrealistisch, von Studierenden rückwirkend durch Erinnerung eine Offenlegung zu Details von KI-Nutzung bei Hausarbeiten zu erwarten. Sinnvoller ist es hier, von Anfang an den Entstehungsprozess von Inhalten mitzudokumentieren.»

Die Studie ist in Zusammenarbeit mit der Aalto University in Helsinki, Finnland, entstanden und wurde von der Deutschen Forschungsgemeinschaft (DFG; Projektnummer 525037874) gefördert.

Hintergrund der Studie

Interaktive und generative KI-Systeme werden immer häufiger bei kreativer Arbeit wie dem Ideensammeln oder Schreiben von Texten verwendet. Soll die KI-Nutzung später offengelegt werden, wie es die EU-Verordnung ab August 2026 für Inhalte für geschäftliche Zwecke fordert, ist eine korrekte Erinnerung an die Entstehung der Inhalte unabdingbar. Die Ergebnisse der Bayreuther Studie hat Konsequenzen für den Umgang von Einzelpersonen mit KI sowie für die Gestaltung von KI-Systemen und Vorgaben zur KI-Kennzeichnung.

Anzeige

Neueste Beiträge

Siemens Schweiz meldet Rekordzahlen und investiert in Campus-Ausbau
Siemens steigert den Schweizer Umsatz auf 3,171 Milliarden Franken. Weltweit legt die von Zug aus geführte Einheit Smart Infrastructure um zwölf Prozent zu. Rechenzentren treiben die Nachfrage nach Energieverteilung und Gebäudetechnik.
3 Minuten
Microsoft mit Super-GAU - Kommunikation weltweit lahmgelegt
Seit gestern Abend ist es still geworden in vielen Büros. Wer Outlook öffnet, wartet. Mails kommen nicht an, Termine bleiben leer, der Kalender dreht sich im Kreis. Auch Teams und der Helfer Copilot machen Probleme. Es ist ein grosser, nein, ein Riesen-Ausfall bei Microsoft, und er trifft viele auf einmal.
4 Minuten
13. Nov 2026
KI im Channel: Viel Bereitschaft, wenig Umsatz
Europäische IT-Partner sehen sich bereit für künstliche Intelligenz, verdienen aber bislang kaum damit. Eine Studie von TD Synnex zeigt vor allem bei Governance und Compliance ungenutztes Potenzial für zusätzliche Services.
3 Minuten
14. Nov 2026

Das könnte Sie auch interessieren

Der Autopilot steuert künftig das Unternehmen - SAP TechEd 2026 ¦ Teil 1/3
SAP treibt seine Vision des «Autonomous Enterprise» voran. An der TechEd 2026 in Berlin präsentiert der Softwarekonzern neue Funktionen, mit denen KI-Agenten künftig ganze Geschäftsprozesse steuern sollen. Dabei verändert sich nicht nur die Software, sondern auch die Rolle der Mitarbeitenden. Trotz visionärer Ansätze berücksichtigt man dabei auch die Realtität, sprich die Kunden.
5 Minuten
SAP baut das Datenfundament für KI-Agenten aus - SAP TechEd 2026 ¦ Teil 2/3
Autonome KI-Agenten benötigen mehr als leistungsfähige Sprachmodelle. Sie müssen Geschäftsdaten verstehen, Zusammenhänge erkennen und auf verlässliche Informationen zugreifen können. Aus diesen Gründen hat SAP auf der diesjährigen TechEd in Berlin verlauten lassen, dass die Business Data Cloud erweitert wird und vermehrt offene Datenarchitekturen sowie ausgewählte KI-Modelle zum Einsatz kommen.
5 Minuten
Anzeige
Anzeige
Anzeige
Anzeige
Anzeige