|
Berlin (ots) - TÜV/BSI-Studie: 84 Prozent befürchten Fehlentscheidungen auf
Basis falscher Informationen. Vor dem AI Summit in Dublin fordert der
TÜV-Verband verpflichtende unabhängige Prüfungen für leistungsfähige KI-Modelle
vor der Markteinführung. Einheitliche KI-Regeln in der EU statt regulatorischem
Flickenteppich.
Eine große Mehrheit der Unternehmen in Deutschland sieht erhebliche Risiken beim
Einsatz von KI-Agenten: 84 Prozent befürchten, dass die Systeme auf Grundlage
falscher oder erfundener Informationen Fehlentscheidungen treffen. Jeweils 78
Prozent sehen die Gefahr, dass über Schnittstellen zu anderen Systemen neue
Sicherheitslücken entstehen, sensible Daten oder Geschäftsgeheimnisse abfließen
oder die KI ungewollte Aktionen auslöst. Das zeigt eine repräsentative
Unternehmensbefragung des TÜV-Verbands und des Bundesamts für Sicherheit in der
Informationstechnik (BSI) zu KI-Sicherheit. Drei von vier (74 Prozent) bewerten
unklare Verantwortung und Haftung bei Fehlern als hohes Risiko, 65 Prozent eine
Manipulation von außen. KI-Agenten bearbeiten Aufgaben über mehrere Schritte
hinweg selbstständig und greifen dabei auf andere Anwendungen und Systeme zu. In
den vergangenen Monaten sind KI-Agenten wiederholt unkontrolliert aus ihren
Testumgebungen ausgebrochen.
"Sicherheitsbedenken bremsen den KI-Einsatz, solange Unternehmen nicht
beurteilen können, ob eine KI im Betrieb sicher und kontrollierbar arbeitet",
sagt Dr. Joachim Bühler, Geschäftsführer TÜV-Verband. "Diese Bedenken lassen
sich jedoch nicht mit Versprechen der Hersteller ausräumen, sondern nur mit
verlässlichen Nachweisen. Unabhängige Prüfungen liefern diese Nachweise und
schaffen damit die Vertrauensgrundlage für KI-Innovationen."
Leistungsfähige KI-Modelle vor Markteinführung prüfen
Anlässlich des internationalen AI Summit am 14. Oktober in Dublin spricht sich
der TÜV-Verband für unabhängige Prüfungen besonders leistungsfähiger KI-Modelle
aus. Auf dem Treffen der irischen EU-Ratspräsidentschaft diskutieren Vertreter
aus Politik, Wirtschaft und Forschung über den praktischen KI-Einsatz und die
Wettbewerbsfähigkeit Europas. Der TÜV-Verband fordert die EU-Kommission und
Mitgliedstaaten auf, sich international für verbindliche Sicherheitsvorgaben für
leistungsfähige KI-Modelle sogenannte Frontier-Modelle einzusetzen. Dazu gehören
verpflichtende Prüfungen vor der Markteinführung, die herstellerunabhängig und
im öffentlichen Auftrag durchgeführt werden. "Frontier-Modelle sind die
Basistechnologie für tausende Anwendungen", sagt Bühler. "Ein Sicherheitsmangel
im Modell setzt sich in jedem Produkt fort, das darauf aufbaut. Deshalb brauchen
wir international verbindliche Prüfungen vor der Markteinführung - nach
gemeinsamen Standards und durch unabhängige Stellen."
Einheitliche europäische KI-Regeln erhalten
Gleichzeitig warnt der TÜV-Verband davor, den europäischen Rechtsrahmen für
Hochrisiko-KI zu zersplittern. Kaum ist im KI-Omnibus die Entscheidung gefallen,
Medizinprodukte im direkten Anwendungsbereich des AI Acts zu belassen, droht bei
der Überarbeitung der Medizinprodukteverordnung, dass KI in Medizinprodukten
doch noch daraus herausgelöst wird. "Datenqualität, Robustheit, Cybersicherheit
und menschliche Aufsicht sind keine branchenspezifischen Fragen", sagt Bühler.
"Verteilt man die KI-Anforderungen auf einzelne Sektoren, entsteht ein
Flickenteppich. Zudem fallen viele Produkte unter mehrere Regelwerke zugleich:
Ein OP-Roboter ist Medizinprodukt und Maschine." Auch die rasante Entwicklung
von KI spricht für eine zentrale Regelung. "Es ist perspektivisch einfacher, an
einer Stellschraube im AI Act zu drehen, als ständig mehrere Einzelgesetze
parallel anzupassen", so Bühler. Aus Sicht des TÜV-Verbands muss der AI Act
deshalb europaweit einheitlich angewandt und konsequent durchgesetzt werden.
Alle Ergebnisse der Unternehmensbefragung "KI-Sicherheitsstudie" des BSI und
TÜV-Verband sind abrufbar unter:
https://www.tuev-verband.de/studien/ki-sicherheitsstudie-2026
Methodik-Hinweis: Grundlage der Studienergebnisse ist eine repräsentative
Umfrage des Marktforschungsunternehmens forsa im Auftrag des BSI und des
TÜV-Verbands unter 505 Unternehmen ab 20 Mitarbeitenden in Deutschland. Befragt
wurden Verantwortliche für KI-Nutzung, Cybersecurity- und IT-Experten sowie
Mitglieder der Geschäftsleitung. Die Befragung fand im Zeitraum vom 22. Juni bis
31. Juli 2026 statt.
Über den TÜV-Verband: Als TÜV-Verband e.V. vertreten wir die politischen
Interessen der TÜV-Prüforganisationen und fördern den fachlichen Austausch
unserer Mitglieder. Wir setzen uns für die technische und digitale Sicherheit
sowie die Nachhaltigkeit von Fahrzeugen, Produkten, Anlagen und Dienstleistungen
ein. Grundlage dafür sind allgemeingültige Standards, unabhängige Prüfungen und
qualifizierte Weiterbildung. Unser Ziel ist es, das hohe Niveau der technischen
Sicherheit zu wahren, Vertrauen in die digitale Welt zu schaffen und unsere
Lebensgrundlagen zu erhalten. Dafür sind wir im regelmäßigen Austausch mit
Politik, Behörden, Medien, Unternehmen und Verbraucher:innen.
Pressekontakt:
Linda Roy
Pressesprecherin
TÜV-Verband e. V.
Friedrichstraße 136 | 10117 Berlin
030 760095-580, mailto:presse@tuev-verband.de
http://www.tuev-verband.de | http://www.linkedin.com/company/tuevverband
Weiteres Material: http://presseportal.de/pm/65031/6370129
OTS: TÜV-Verband e. V.
|
