Anzeige
Anzeige
Anzeige
Lesedauer 4 Min.

Achtung, Manipulation: So missbrauchen Cyberkriminelle die KI

Künstliche Intelligenz ist längst nicht mehr nur ein Mittel zur Automatisierung und Effizienzsteigerung. Dieselben Modelle und Techniken, die Unternehmen für sich nutzen, werden zunehmend von Kriminellen missbraucht.
monitoring-tool ntt shutterstock.jpg
© Shutterstock / NTT

NTT DATA, ein führender Anbieter von digitalen Business- und Technologie-Services, beschreibt die wichtigsten Methoden, die Cyberkriminelle heute einsetzen, woran man die Angriffe erkennen kann und welche Gegenmassnahmen sich bewährt haben.  ​

Künstliche Intelligenz ist ein mächtiges Tool: Die Technologie skaliert nicht nur legitime Geschäftsprozesse, sondern immer häufiger auch illegale Aktivitäten. Mit GenAI beispielsweise lassen sich überzeugende Phishing-Mails formulieren oder Deepfakes erzeugen. Gleichzeitig sind KI-Modelle selbst zu neuen Angriffszielen geworden – etwa durch Data Poisoning oder Prompt Injection.

NTT DATA zeigt, wo die Gefahren lauern und wie Unternehmen sich schützen können:

  • Data Poisoning zählt zu den subtilsten Methoden. Angreifer manipulieren gezielt Trainings- oder Validierungsdaten, um ein Modell auf den falschen Weg zu bringen. Ein Spamfilter, der schädliche Inhalte plötzlich nicht mehr erkennt, oder ein Modell für die Anomalienerkennung, das ungewöhnliche Vorgänge fälschlicherweise als «normal» einstuft, sind die Folgen. Hinweise liefern etwa plötzliche Qualitätsabfälle oder statistische Auffälligkeiten in Datensätzen. Wer Herkunft und Versionierung von Daten streng kontrolliert, Integritätsprüfungen vornimmt und Modelle regelmässig neu validiert, macht es Angreifern deutlich schwerer.
  • Prompt Injection richtet sich speziell gegen KI-Modelle, die in Anwendungen wie Chatbots oder Assistenten eingebettet sind. Hier versuchen Angreifer, mit geschickt formulierten Eingaben die ursprünglichen Anweisungen auszuhebeln – etwa um vertrauliche Inhalte preiszugeben oder geschützte Aktionen auszulösen. Die Folgen reichen von ungewollten Antworten bis hin zu Datenabflüssen. Hilfreich sind mehrstufige Schutzmassnahmen: Eingabevalidierung, strenge Zugriffsrechte für angebundene Systeme sowie Ausgabefilter und Freigabeprozesse bei sicherheitsrelevanten Funktionen.
  • Phishing, Social Engineering und Deepfakes nutzen moderne Text-, Sprach- und Bildgeneratoren, um hochgradig personalisierte oder täuschend echte Inhalte zu erzeugen. Beim Pretexting geben sich Angreifer als Kollegen aus – etwa aus der IT –, um an sensible Daten wie Login-Infos zu kommen. Im Rahmen von Scareware werden Nutzer mit gefälschten Warnungen und Bedrohungen unter Druck gesetzt, damit sie unüberlegt handeln. So steigen die Erfolgschancen für CEO-Fraud oder nicht genehmigte Zahlungsfreigaben. Nachrichten wirken häufig stilistisch perfekt und inhaltlich sehr präzise. Bei Audio- oder Videomaterial fallen allenfalls leichte Unstimmigkeiten auf. Unternehmen stärken ihre Verteidigung, indem sie Identitätsprüfungen bei kritischen Vorgängen fest verankern, Mitarbeitende schulen und technische Werkzeuge zur Erkennung manipulierter Medien einsetzen.
  • Adversarial Examples wiederum greifen Modelle auf einer sehr technischen Ebene an: Winzige, für Menschen oft unsichtbare Veränderungen an Bildern, Sensordaten oder Texten können ausreichen, um ein Modell zu einer falschen Klassifikation zu verleiten. Das kann etwa Bilddetektoren oder Industrie-Sensorik aus dem Konzept bringen. Auffällig sind Inkonsistenzen zwischen Modellprognosen und realen Beobachtungen. Ein Schutz der Modelle lässt sich durch gezieltes Nachtrainieren mit manipulierten Beispielen, zusätzliche Validierungsstufen oder die Kombination mehrerer Datenquellen sicherstellen.
  • Entwicklung von Malware: Schadprogramme lassen sich schneller variieren, gezielt auf bestimmte Ziele zuschneiden oder vorab gegen Erkennungsmechanismen testen. Dadurch steigt die Zahl potenzieller Varianten, die nur schwer zu entdecken sind. Eine rein signaturbasierte Abwehr reicht nicht mehr aus – gefragt sind verhaltensbasierte Analysen, Sandboxing, Automatisierung im Threat-Intelligence-Prozess und ein schneller Patch-Turnus.

«KI ist ein Werkzeug – und wie jedes Werkzeug kann es sinnvoll genutzt oder eben missbraucht werden. Entscheidend ist, dass Unternehmen ihre Modelle, Datenpipelines und Betriebsprozesse genauso gut absichern wie klassische IT-Komponenten», betont Christian Koch, Senior Vice President Cybersecurity IT/OT, Innovations & Business Development bei NTT DATA DACH. «Nur mit einem ganzheitlichen Ansatz aus Governance, technischen Massnahmen und Prozessen lässt sich verhindern, dass KI zum Einfallstor wird.»
 

Phishing Ransomware
Anzeige

Neueste Beiträge

Henning Gronki übernimmt Führung bei dentsu Schweiz
Nach zehn Jahren bei dentsu Schweiz verlässt Vera Katz das Unternehmen per Ende November 2026 auf eigenen Wunsch, um sich einer neuen beruflichen Herausforderung zu widmen. Ihre Nachfolge als Managing Director übernimmt Henning Gronki am 1.1.2027.
2 Minuten
19. Nov 2026
Motorola startet einen eigenen Mobilfunktarif
Unter dem Namen Global Connect startet Motorola einen eigenen Mobilfunktarif für die weltweite Datennutzung. Das soll auf kompatiblen Smartphones des Herstellers über eine eSIM ermöglicht werden.
2 Minuten
19. Nov 2026
Publica lässt Umgang mit Personendaten und Sicherheitskontrollen extern untersuchen - Cyberangriff auf Softwarelieferanten
Die Kassenkommission von Publica hat im Zusammenhang mit dem Cyberangriff auf ihren Softwarelieferanten PK Softech AG eine unabhängige Untersuchung beschlossen.
3 Minuten
19. Nov 2026

Das könnte Sie auch interessieren

Der Autopilot steuert künftig das Unternehmen - SAP TechEd 2026 ¦ Teil 1/3
SAP treibt seine Vision des «Autonomous Enterprise» voran. An der TechEd 2026 in Berlin präsentiert der Softwarekonzern neue Funktionen, mit denen KI-Agenten künftig ganze Geschäftsprozesse steuern sollen. Dabei verändert sich nicht nur die Software, sondern auch die Rolle der Mitarbeitenden. Trotz visionärer Ansätze berücksichtigt man dabei auch die Realtität, sprich die Kunden.
5 Minuten
SAP baut das Datenfundament für KI-Agenten aus - SAP TechEd 2026 ¦ Teil 2/3
Autonome KI-Agenten benötigen mehr als leistungsfähige Sprachmodelle. Sie müssen Geschäftsdaten verstehen, Zusammenhänge erkennen und auf verlässliche Informationen zugreifen können. Aus diesen Gründen hat SAP auf der diesjährigen TechEd in Berlin verlauten lassen, dass die Business Data Cloud erweitert wird und vermehrt offene Datenarchitekturen sowie ausgewählte KI-Modelle zum Einsatz kommen.
5 Minuten
Green plant neuen Datacenter-Campus in Birr - Neues Rechenzentrum
Green hat in Birr rund 250’000 Quadratmeter Land von ABB gekauft. Geplant sind ein Datacenter-Campus sowie Flächen für Industrie und Gewerbe. Der kommunale Planungsbericht sah Rechenzentren bereits 2023 als mögliche Nutzung vor.
4 Minuten
Anzeige
Anzeige
Anzeige
Anzeige
Anzeige