|
Jena (ots) - Cyberkriminelle nutzen Künstliche Intelligenz zunehmend als
Einfallstor und Erfüllungsgehilfen für Betrug und Phishing. Der europäische
IT-Sicherheitshersteller ESET warnt vor einer neuen Angriffsmethode, die aktuell
in sozialen Netzwerken für Aufsehen sorgt: Beim sogenannten "Grokking" bringen
Angreifer KI-Chatbots dazu, schädliche Links selbst zu verbreiten - und zwar im
Namen vertrauenswürdiger Accounts. Ziel ist der Diebstahl sensibler Nutzerdaten.
"Der verantwortungsbewusste Umgang mit generativer KI wird immer wichtiger ",
sagt Michael Klatte, Cybersicherheitsexperte bei ESET. "Viele Nutzer vertrauen
Chatbots fast blind, besonders wenn sie auf bekannten Plattformen wie X
auftreten. Nutzer sollten beim Anklicken von Links per se immer wachsam
bleiben."
Praktische Tipps, wie Nutzer sich schützen können, hat ESET am Ende dieser
Meldung gesammelt.
Wie der Angriff funktioniert
Beim "Grokking" handelt es sich um eine neuartige Form der Prompt-Injection,
also um Manipulationen durch versteckte Befehle. Angreifer platzieren
Phishing-Links in scheinbar harmlosen Beiträgen oder Datenfeldern. Wird eine KI
gebeten, solche Inhalte zu analysieren oder zu kommentieren, liest sie die
eingebetteten Befehle aus und gibt die schädlichen Links ganz automatisch als
Kommentar weiter.
Ein Fall auf der Plattform X zeigt, wie effektiv diese Methode ist: Betrüger
versteckten eine schadhafte URL in einem Videopost und brachten den offiziellen
KI-Bot "Grok" dazu, diese im Rahmen einer Antwort zu teilen. Der Link wirkte wie
eine legitime Quelle, in Wahrheit jedoch führte er auf eine gefälschte Seite.
Grokking beschränkt sich nicht nur auf X. Auch andere soziale Netzwerke können
betroffen sein, wenn sie digitale KI-Assistenten bereitstellen.
Wachsende Gefahr durch KI-Manipulation
Laut Schätzungen von Gartner waren im vergangenen Jahr bereits 32 Prozent aller
Unternehmen von Prompt-Injection-Angriffen betroffen.
"Das Gefährliche daran ist: Diese Technik funktioniert auf jeder Plattform, die
Sprachmodelle einsetzt, also potenziell überall", warnt Klatte. "KI-Systeme
besitzen kein Bewusstsein für Absichten. Sie verarbeiten nur Text - egal ob er
harmlos oder manipulativ ist. Dadurch können sie unbeabsichtigt zu Mittätern
werden."
ESET gibt Sicherheitstipps für Nutzer
Um sich vor Angriffen wie "Grokking" zu schützen, empfehlen die ESET Experten:
- Keine Links aus KI-Antworten blind anklicken. Immer prüfen, wohin der Link
führt.
- Skepsis auch bei offiziellen Bots. Ein verifizierter Account garantiert keine
Sicherheit.
- Systeme und Sicherheitssoftware aktuell halten.
- Zwei-Faktor-Authentifizierung aktivieren und Passwortmanager nutzen.
- Im Zweifel Originalquellen prüfen, statt sich auf automatisch generierte
Inhalte zu verlassen.
Weitere Informationen zum Thema Grokking gibt es im aktuellen Blogpost auf
Welivesecurity.com: Grokking: Wenn KI-Chatbots zu Phishing-Helfern werden (https
://www.welivesecurity.com/de/tipps-ratgeber/grokking-wenn-ki-chatbots-zu-phishin
g-helfern-werden/)
Pressekontakt:
ESET Deutschland GmbH
Christian Lueg
Head of Communication & PR DACH
+49 (0)3641 3114-269
mailto:christian.lueg@eset.de
Michael Klatte
PR Manager DACH
+49 (0)3641 3114-257
mailto:Michael.klatte@eset.de
Philipp Plum
PR Manager DACH
+49 (0)3641 3114-141
mailto:Philipp.plum@eset.de
Folgen Sie ESET:
https://www.ESET.de
ESET Deutschland GmbH, Spitzweidenweg 32, 07743 Jena, Deutschland
Weiteres Material: http://presseportal.de/pm/71571/6158223
OTS: ESET Deutschland GmbH
|
