|
München (ots) - Ein aktueller Vorfall bei OpenAI zeigt, dass KI-Systeme nicht
immer dort bleiben, wo Unternehmen und Nutzer sie erwarten: In 53 Fällen
platzierten interne Forschungsagenten von OpenAI hochgeladene Nutzerbilder auf
externen Online-Plattformen. Die Links waren nicht öffentlich gelistet, konnten
jedoch aufgerufen werden. Ein Großteil der Inhalte wurde inzwischen entfernt.
Die betroffenen Bilder stammten aus Konten, deren Inhalte für die
Modellverbesserung freigegeben waren; OpenAI hatte sie zuvor von den jeweiligen
Accounts getrennt und gefiltert.
Bei einer vertraulichen Kundenakte, einem internen Vertrag oder sensiblen
Unternehmensdaten kann eine einzige KI-Panne ausreichen, um ein massives
Datenschutz- und Sicherheitsproblem auszulösen. Unternehmen brauchen deshalb
einen Plan für den Fall, dass die KI eben nicht das macht, was sie soll.
Nachfolgend erfahren Sie, welche Sicherheitsregeln Unternehmen für den Einsatz
von KI brauchen, welche Daten Mitarbeiter niemals unkontrolliert in KI-Systeme
eingeben sollten und wie sich Firmen auf Datenlecks und andere unerwartete
KI-Pannen vorbereiten können.
Verbote schaffen keine Kontrolle
KI im Unternehmen einfach zu verbieten, erscheint zunächst als sichere Lösung.
In der Praxis kann dadurch jedoch eine Schattennutzung entstehen. Laut einer
Bitkom-Befragung aus dem Jahr 2025 gehen 42 Prozent der Unternehmen davon aus
oder wissen, dass Beschäftigte private KI-Zugänge verwenden. Gleichzeitig
stellen nur 26 Prozent selbst entsprechende Zugänge bereit. Klare Regeln für den
KI-Einsatz hatten zum Zeitpunkt der Befragung weniger als ein Viertel der
Unternehmen.
Sinnvoller ist deshalb eine kontrollierte Freigabe. Unternehmen sollten
festlegen, welche Anwendungen Beschäftigte nutzen dürfen und unter welchen
Bedingungen. Dazu gehören Firmenkonten statt privater Zugänge, Vorgaben zur
Datennutzung sowie Verträge, die Training mit Unternehmensdaten ausschließen und
Speicherfristen regeln. Der OpenAI-Fall zeigt die Bedeutung solcher
Unterschiede: Business-, Enterprise- und API-Konten waren laut Unternehmen nicht
betroffen, sofern die Nutzung für das Training nicht ausdrücklich freigegeben
worden war.
Besondere Vorsicht erfordern KI-Agenten, die eigenständig Aktionen ausführen.
Sie sollten nur auf die Systeme und Informationen zugreifen können, die sie
tatsächlich benötigen. Bei sensiblen Aktionen nach außen empfiehlt sich zudem
eine Freigabe durch einen Menschen.
Für sensible Daten braucht es klare Grenzen
Beschäftigte müssen ohne langes Nachschlagen wissen, welche Informationen sie
nicht in unkontrollierte KI-Systeme eingeben dürfen. Dazu zählen
personenbezogene Kunden- und Mitarbeiterdaten, Gesundheits- und Personalakten,
Passwörter und Zugangsschlüssel. Auch Quellcode, Verträge, Kundenakten,
Geschäftsgeheimnisse sowie interne Finanz- oder Übernahmeinformationen gehören
in diese rote Zone.
Wie schnell fehlende Regeln zum Problem werden, zeigte Samsung. Nach der
Freigabe von ChatGPT wurden 2023 Medienberichten zufolge innerhalb von rund 20
Tagen in drei Fällen sensible Informationen eingegeben, darunter Quellcode,
Anlagendaten und ein Besprechungstranskript. Samsung schränkte die Nutzung
anschließend ein und verbot generative KI später auf Firmengeräten. 2026 begann
der Konzern wiederum mit der Einführung von ChatGPT Enterprise.
Das Beispiel verdeutlicht: Weder unkontrollierte Nutzung noch ein pauschales
Verbot lösen das Problem dauerhaft. Unternehmen müssen sichere Anwendungen
bereitstellen und gleichzeitig klar bestimmen, welche Informationen dort
verarbeitet werden dürfen.
Der Ernstfall muss vorbereitet sein
Auch gute Regeln können eine Panne nicht vollständig ausschließen. Deshalb muss
bereits vorher feststehen, was geschieht, wenn sensible Daten an einen
KI-Anbieter oder andere Dienste gelangen. Bei personenbezogenen Informationen
kommt Zeitdruck hinzu: Eine meldepflichtige Datenschutzverletzung muss nach der
DSGVO grundsätzlich innerhalb von 72 Stunden nach Bekanntwerden an die
zuständige Aufsichtsbehörde gemeldet werden.
Im Ernstfall müssen Unternehmen zunächst feststellen, welche Daten betroffen
sind, und den Vorfall eindämmen. KI-Agenten können gestoppt, Zugriffsrechte
entzogen oder Zugangsdaten erneuert werden. Anschließend gilt es, das Risiko zu
bewerten sowie gegebenenfalls Behörden und Betroffene zu informieren.
Auch der Anbieter gehört in diesen Prozess. Werden Informationen auf fremde
Plattformen übertragen, kann das betroffene Unternehmen sie möglicherweise nicht
selbst entfernen. Verträge sollten deshalb festlegen, wie schnell KI-Anbieter
über Sicherheitsvorfälle informieren und bei der Löschung unterstützen.
Verantwortung darf nicht zwischen Abteilungen verschwinden
Eine weitere Schwachstelle liegt häufig in der Organisation. Die IT verwaltet
das Tool, der Datenschutz prüft Verträge und die Fachabteilung entscheidet,
welche Informationen verarbeitet werden. Gleichzeitig trägt die Geschäftsleitung
das Risiko. Ohne klare Zuständigkeit kann dabei der Überblick verloren gehen.
Unternehmen sollten deshalb jederzeit wissen, welche KI-Systeme eingesetzt
werden, welche Daten sie verarbeiten und welche externen Zugriffe möglich sind.
Ebenso muss feststehen, wer bei einem Vorfall Entscheidungen trifft und
notwendige Maßnahmen einleitet.
Der OpenAI-Fall ist damit weniger ein Argument gegen KI als für einen
kontrollierten Umgang mit ihr. Unternehmen können nicht voraussetzen, dass jedes
System unter allen Umständen innerhalb der vorgesehenen Grenzen arbeitet. Neben
der Prävention kommt es deshalb darauf an, Abweichungen schnell zu erkennen,
Schäden zu begrenzen und im Ernstfall handlungsfähig zu sein.
Über René Schröder
René Schröder ist Gründer und Geschäftsführer der RegSus Consulting GmbH in
München. Seit über 20 Jahren begleitet er IT-Transformationen im
DACH-Mittelstand sowie in regulierten Branchen wie Energie, Pharma und
Finanzdienstleistungen. Sein Schwerpunkt liegt auf der Zusammenarbeit zwischen
IT und Fachbereich. Er ist Autor mehrerer Bücher zu IT und Business, zuletzt
"E-Mails über den Zaun werfen ist keine Kommunikation" und "Wir irren uns gern
gemeinsam". Mehr Informationen unter: https://regsus.de/
Pressekontakt:
RegSus Consulting GmbH
Vertreten durch: René Schröder
E-Mail: mailto:r.schroeder@regsus.de
Website: https://regsus.de/
Weiteres Material: http://presseportal.de/pm/176504/6382111
OTS: RegSus Consulting GmbH
|
