|
München (ots) -
- Darktrace / SECURE AI (TM) unterstützt Unternehmen dabei, Künstliche
Intelligenz sicher einzuführen, indem Verhalten, Absicht und Risiken über
Interaktionen zwischen Menschen und KI-Agenten hinweg verstanden werden.
- Die neue Lösung überträgt die jahrzehntelange Expertise von Darktrace im
Bereich verhaltensbasierter KI auf Transparenz und Kontrolle in Echtzeit über
den gesamten KI-Lebenszyklus hinweg.
- Sie sichert KI-Funktionen in SaaS-Anwendungen, in Hyperscaler-Umgebungen
entwickelte KI-Agenten sowie die Nutzung von Shadow AI durch Mitarbeitende ab.
- Unternehmen erhalten damit Einblick, wo KI-Systeme eingesetzt werden, auf
welche Informationen und Systeme sie zugreifen können und wie sie sich im
Zeitverlauf verhalten.
- Neue Darktrace-Studien zeigen zudem, dass sich mehr als drei Viertel der
Cybersicherheitsverantwortlichen über die Sicherheitsimplikationen der breiten
Einführung von KI-Agenten und generativen KI-Tools von Drittanbietern sorgen.
- Über einen Zeitraum von fünf Monaten hinweg beobachtete Darktrace im
Durchschnitt ungewöhnliche oder anomale Datenübertragungen an generative
KI-Dienste in einem Umfang von rund 4.700 Seiten pro Konto; in einzelnen
Fällen lag der Umfang sogar bei mehr als 200.000 Seiten.
Darktrace (https://www.darktrace.com/?r=0) , ein weltweit führender Anbieter von
KI-gestützter Cybersicherheit, gibt heute die Einführung von Darktrace / SECURE
AI (TM) bekannt. Das neue Produkt für verhaltensbasierte KI-Sicherheit wurde
entwickelt, um Unternehmen bei der Einführung und Skalierung von Künstlicher
Intelligenz zu unterstützen, indem es versteht, wie KI-Systeme sich verhalten,
mit anderen Systemen und Menschen interagieren und sich im Zeitverlauf
weiterentwickeln. Aufbauend auf der langjährigen Expertise von Darktrace im
Bereich Behavioral AI zur Erkennung von Absichten und Abweichungen ermöglicht
Darktrace / SECURE AI ein gezieltes Eingreifen, wenn KI-Systeme ungewöhnlich
agieren, von ihrem vorgesehenen Verhalten abweichen, autorisierte Zugriffe
überschreiten, Richtlinien verletzen oder Anzeichen von Manipulation zeigen, um
nicht autorisierte Aktionen auszuführen.
Während Unternehmen den Schritt von KI-Experimenten hin zum produktiven Einsatz
immer schneller vollziehen, stoßen klassische Sicherheitskontrollen bei der
Absicherung dynamischer, sprachbasierter Systeme zunehmend an ihre Grenzen. Mit
Darktrace / SECURE AI bringt Darktrace seinen bewährten verhaltensbasierten
Ansatz in diesen Kontext ein. Anders als statische Schutzmechanismen oder rein
regelbasierte Ansätze beobachtet Behavioral AI, wie generative KI- und
agentische Workflows im realen Betrieb tatsächlich funktionieren. Darktrace /
SECURE AI analysiert kontinuierlich KI-Interaktionen im gesamten Unternehmen -
einschließlich Prompt-Sprache und Datenzugriffsmustern - um auf Basis
ungewöhnlicher Aktivitäten entstehende Risiken zu erkennen, die von
herkömmlichen Sicherheitstools und statischen Guardrails häufig übersehen
werden.
"KI-Systeme scheitern nicht wie klassische Software - sie verändern sich, passen
sich an und verhalten sich mitunter auf unerwartete Weise" , sagt Mike Beck,
Chief Information Security Officer bei Darktrace . "Darktrace verfolgt seit mehr
als einem Jahrzehnt einen verhaltensbasierten Ansatz, um die unstrukturierten
und schwer vorhersehbaren Ökosysteme aus Menschen, Daten und Technologien in
Unternehmen zu verstehen und abzusichern. Mit Darktrace / SECURE AI übertragen
wir diesen Ansatz auf KI-Systeme und geben Sicherheitsteams Einblick in das, was
KI tatsächlich tut - nicht nur in das, was sie laut Richtlinie tun darf. So
können Unternehmen mit Vertrauen innovieren."
Darktrace / SECURE AI bietet CISOs einen praxisnahen Ansatz zur Steuerung von
KI, ohne deren Einführung auszubremsen. Das Produkt lässt sich in bestehende
Security-Operations integrieren und liefert umsetzbare Erkenntnisse - sowohl für
neue Standalone-Kunden als auch für Bestandskunden der Darktrace ActiveAI
Security Platform (TM). Die Lösung richtet sich an Unternehmen, die KI in
eingebetteten SaaS-Anwendungen, cloudbasierten Modellen sowie autonomen oder
teilautonomen Agenten einsetzen, die in Low-Code- und
High-Code-Entwicklungsumgebungen entstehen. Sie unterstützt Sicherheitsteams
dabei, sensible Datenabflüsse zu verhindern, interne Zugriffs- und
Nutzungsrichtlinien durchzusetzen und autonome KI-Aktivitäten über
KI-Assistenten, Agenten sowie Entwicklungs- und Bereitstellungsprozesse hinweg
zu steuern.
"Sicherheit war schon immer eine Frage des Verhaltens" , sagt Jack Stockdale,
Chief Technology Officer bei Darktrace . "Mit der zunehmenden Agentenfähigkeit
von KI werden Prompts zur Verhaltensebene: Sie kodieren Absicht, Kontext und
nachgelagerte Aktionen. Wenn man Prompt-Sprache zur Laufzeit nicht beobachten
und verstehen kann, lassen sich weder Verhaltensabweichungen noch Missbrauch
oder emergentes Verhalten erkennen. KI ohne Prompt-Transparenz abzusichern ist,
als würde man E-Mails schützen, ohne den Inhalt zu lesen. Prompts sind für KI
das, was Netzwerkverkehr für Infrastrukturen und Identitäten für Nutzer sind."
Die Einführung von KI ist inzwischen zu einer Priorität auf Vorstandsebene
geworden. Unternehmen setzen KI-Tools in großem Maßstab ein, um Produktivität,
Wachstum und Wettbewerbsfähigkeit zu steigern. Innerhalb der
Darktrace-Kundenbasis nutzen bereits mehr als 70 Prozent der Organisationen
generative KI-Tools. Mit zunehmender Reife des KI-Einsatzes kommen verstärkt
KI-Agenten zum Einsatz, die sich in Systeme einloggen, auf Daten zugreifen und
im Namen von Mitarbeitenden Aktionen ausführen können. Genehmigte Tools stellen
dabei jedoch nur einen Teil des Gesamtbildes dar. Bei Kunden mit einem
dominanten, freigegebenen KI-Tool nutzen 91 Prozent der Mitarbeitenden
zusätzlich weitere KI-Dienste - häufig Shadow-AI-Tools. Für Sicherheitsteams
fehlt damit die Transparenz darüber, welche KI-Dienste im Einsatz sind, wo sie
genutzt werden und welche Daten das Unternehmen verlassen.
Dieser Verlust an Transparenz führt bereits heute zu realen geschäftlichen
Risiken. Über einen Zeitraum von fünf Monaten hinweg beobachtete Darktrace
ungewöhnliche oder anomale Datenübertragungen zu generativen KI-Diensten von
durchschnittlich 75 MB pro Konto - das entspricht rund 4.700 Seiten an
Dokumenten. In einzelnen Fällen lag der Umfang sogar bei mehr als 200.000
Seiten. Potenziell sensible Daten verlassen Unternehmen damit in großem Umfang
und gelangen in KI-Umgebungen, in denen sie gespeichert, weiterverwendet oder
außerhalb der organisatorischen Kontrolle wiederverwendet werden können. In den
Händen von Angreifern kann bereits ein einzelner Upload für gezielte
Social-Engineering-Angriffe, Identitätsmissbrauch, den Diebstahl geistigen
Eigentums oder die Manipulation von KI-Agenten genutzt werden.
Einführung von Darktrace / SECURE AI
Darktrace / SECURE AI unterstützt Sicherheitsteams dabei, den Einsatz von KI im
gesamten Unternehmen sicher zu ermöglichen und zu steuern. Als Teil der
Darktrace ActiveAI Security Platform (TM) (https://www.darktrace.com/platform)
bietet die Lösung Transparenz und Analysefunktionen für Informationen und Daten,
die in generative KI-Tools, autonome Agenten, KI-Entwicklungsumgebungen und
Shadow-AI-Dienste eingebracht oder daraus bezogen werden. Unternehmen erhalten
so ein klares Verständnis darüber, wo KI-Systeme eingesetzt werden, auf welche
Ressourcen sie zugreifen können und wie sie sich im Zeitverlauf verhalten.
Mit Darktrace / SECURE AI können Sicherheitsteams:
- den Einsatz generativer KI in Echtzeit überwachen und steuern - über
unternehmensweite KI-Assistenten, Low-Code- und High-Code-Umgebungen sowie
SaaS-Plattformen hinweg. Dies umfasst Transparenz über Prompts, Sitzungen und
Modellantworten in Tools wie ChatGPT Enterprise und Microsoft Copilot,
eingebettete KI-Funktionen in Anwendungen wie Salesforce oder Microsoft 365,
Low-Code-Agenten-Builder wie Microsoft Copilot Studio sowie
High-Code-KI-Entwicklungsplattformen wie Amazon Bedrock. Durch das Verständnis
der Entwicklung von Prompts und Konversationen lassen sich sensible
Datenabflüsse, ungewöhnliches Prompt-Verhalten und Manipulationsversuche
erkennen.
- KI-Agenten und deren Zugriffsrechte nachverfolgen und kontrollieren , indem
aktive Agenten über Cloud-Plattformen, interne Systeme und Drittumgebungen
hinweg automatisch identifiziert werden. Die Lösung kartiert, auf welche
Systeme und Daten diese Agenten zugreifen können, und überwacht ihre
Interaktionen mit anderen Diensten - einschließlich
Model-Context-Protocol-(MCP)-Servern. So lassen sich überprivilegierte
Agenten, unerwartete Interaktionen sowie Anzeichen von Missbrauch oder
Verhaltensabweichungen erkennen und unsichere oder nicht autorisierte Aktionen
unterbinden.
- KI-Risiken in Entwicklung und Betrieb bewerten , indem Transparenz über
KI-Identitäten, Berechtigungen und Zugriffe in Low-Code-Tools,
SaaS-Plattformen, Hyperscaler-Umgebungen und internen Entwicklungsumgebungen
geschaffen wird. Sicherheitsteams erhalten Einblick in Konfigurationen,
Berechtigungen und Datenflüsse sowie in die Anbindung von KI-Komponenten an
kritische Systeme. Diese Erkenntnisse fließen direkt in die Prompt-Überwachung
ein und verknüpfen die Entwicklung von KI-Systemen mit ihrem Verhalten im
produktiven Einsatz. Durch die Korrelation von Identitätserstellung,
Build-Ereignissen und entstehenden Agentenfähigkeiten mit den zugrunde
liegenden Prompts lassen sich Risiken sowohl vor der Freigabe als auch im
laufenden Betrieb erkennen.
- Shadow AI erkennen und steuern , indem nicht genehmigte KI-Tools, unerlaubte
Agentenentwicklungen und unerwartete KI-bezogene Aktivitäten im gesamten
Unternehmen identifiziert werden. So wird sichtbar, wo unkontrollierte
KI-Nutzung entsteht, wie Daten zu externen KI-Diensten fließen und wann
genehmigte Tools auf riskante oder inkonsistente Weise eingesetzt werden.
Durch die Korrelation von Nutzeraktivitäten mit Cloud-, Netzwerk- und
Endpoint-Daten können Sicherheitsteams nicht freigegebene Tools eindämmen,
Richtlinien durchsetzen und Mitarbeitende frühzeitig auf genehmigte KI-Dienste
lenken.
Laut dem heute veröffentlichten State of AI Cybersecurity Report 2026
(https://www.darktrace.com/resource/the-state-of-ai-cybersecurity-2026) von
Darktrace sorgen sich mehr als drei Viertel der befragten
Cybersicherheitsverantwortlichen über die Sicherheitsimplikationen von
KI-Agenten (76 Prozent) und generativen KI-Tools von Drittanbietern (ebenfalls
76 Prozent). Als größte Risiken nennen sie sensible Datenabflüsse und
regulatorische Anforderungen. Nahezu die Hälfte der Führungskräfte im Bereich
IT-Sicherheit (47 Prozent) gibt an, sehr oder äußerst besorgt zu sein - ein
deutliches Zeichen dafür, wie schnell KI-Risiken zu einer zentralen
Sicherheitspriorität werden.
Weitere Informationen
- Registrieren Sie sich für den Darktrace Innovation Launch
(https://www.darktrace.com/event-hub/secure-ai-adoption-without-compromise) am
3. Februar 2026 und erfahren Sie mehr über die neuesten Innovationen im
Bereich KI-Sicherheit.
- Den State of AI Cybersecurity Report 2026
(https://www.darktrace.com/resource/the-state-of-ai-cybersecurity-2026) sowie
die zugehörige Pressemitteilung mit den wichtigsten Ergebnissen finden Sie
hier (https://www.darktrace.com/news/over-three-quarters-of-security-professio
nals-concerned-about-ai-agent-risk-new-darktrace-report-finds) .
- Erfahren Sie, wie Sie Ihr Unternehmen auf eine sichere KI-Einführung
vorbereiten können - mit dem Secure AI Readiness Program
(https://www.darktrace.com/secure-ai-readiness-program-signup) von Darktrace.
Über Darktrace
Darktrace ist ein weltweit führendes Unternehmen im Bereich KI-gestützter
Cybersicherheit. Gegründet 2013, schützt die firmeneigene KI-Plattform
Unternehmen vor unbekannten Bedrohungen - in Echtzeit und über alle digitalen
Bereiche hinweg: Netzwerk, Cloud, E-Mail, Endpunkte und mehr. Die Darktrace
ActiveAI Security Platform (TM) ermöglicht proaktive Cyber-Resilienz,
Frühwarnungen und autonome Reaktionen. Innovationen aus den
Darktrace-Forschungsteams in Cambridge (UK) und Den Haag (NL) führten zu über
200 Patentanmeldungen. Mit mehr als 2.300 Mitarbeitenden schützt Darktrace fast
10.000 Kunden weltweit.
Mehr Informationen unter: http://www.darktrace.com/
Pressekontakt:
PIABO Communications
Lukas Pfeiffer
mailto:darktrace@piabo.net
Weiteres Material: http://presseportal.de/pm/181060/6209676
OTS: Darktrace
|
