IT-Sicherheit Künstliche Intelligenz, KI, AI
Premiere für KI-Zertifizierung: TÜV Thüringen pilotiert Sicherheit eines KI-Systems von Phnx Alpha
Die Entwicklung Künstlicher Intelligenz ist in vielerlei Hinsicht atemberaubend und dürfte in den nächsten Jahren noch weiter Fahrt aufnehmen. Nicht nur Gesellschaft und Politik werden mitunter überholt, selbst Digital-Pioniere wie Microsoft-Gründer Bill Gates warnen vor den Risiken einer unkontrollierten KI-Entwicklung. Kein Wunder also, dass Forderungen nach stärkeren nationalen und internationalen Strukturen lauter werden und vor Gefahren für Cybersicherheit, Gesundheit und Arbeitswelt gewarnt wird. Um solche Risiken zu minimieren und eine Grundlage für Vertrauen in KI zu schaffen, entwickelt das TÜV AI.Lab derzeit zusammen mit den TÜV-Organisationen ein freiwilliges KI-Zertifizierungsprogramm. KI- und Zertifizierungs-Experten des TÜV Thüringen sind daran ganz wesentlich beteiligt und konnten kürzlich bereits ein KI-System des Softwarespezialisten Phnx Alpha aus Jena nach den kommenden KI-Prüfanforderungen und -Prüfkriterien unter die Lupe nehmen.
Für die einen verspricht KI einen epochalen Umbruch, für andere ist sie eine der gefährlichsten Erfindungen der Menschheit – in jedem Fall steckt Künstliche Intelligenz längst nicht mehr in den Kinderschuhen, sondern spielt in immer mehr Lebensbereichen eine kaum noch zu vernachlässigende Rolle. Doch bei aller Euphorie werden auch immer häufiger die Gefahren einer unkontrollierten KI-Entwicklung offensichtlich: Wenn sich Systeme verselbständigen, aus eigenem Antrieb Cyberattacken durchführen oder eigene Schutzmechanismen vor dem Eingriff des Menschen aufbauen, fehlt es offenbar an wirksamer Kontrolle und Regulierung.
Für viele Expertinnen und Experten liegt dabei auf der Hand, dass gesetzliche Regulierung allein dabei nicht ausreichend ist: Entscheidend ist, dass die Sicherheit von KI-Systemen auch technisch überprüfbar und nachvollziehbar gestaltet wird. Genau hierbei kann eine unabhängige Zertifizierung einen wichtigen Beitrag leisten. Sie schafft klare Anforderungen, macht Risiken sichtbar und gibt Unternehmen und Anwendern Orientierung, bevor KI-Systeme zum Einsatz kommen. Wie genau KI sicher geprüft und zertifiziert werden kann, beschäftigt deshalb auch Experten der Technischen Überwachungsvereine. Sie entwickeln ein freiwilliges KI-Zertifizierungsprogramm, mit dem Hersteller künftig gegenüber Kunden und Geschäftspartnern nachweisen können, dass die Qualität und Sicherheit ihrer KI-Systeme von einer unabhängigen Instanz geprüft wurden. Das Zertifizierungsrahmenprogramm ist durchgängig mit den Anforderungen der europäischen KI-Verordnung (EU AI Act) kompatibel und ergänzt diese gezielt um risikobasierte sowie technische Prüfaspekte. Das Rahmenprogramm besteht aus den einzelnen KI-Zertifizierungen „AI Core Check“ für KI-Systeme mit niedrigem Risiko, „AI Risk Coverage“ und „AI Assurance“ für Hochrisiko-KI-Systeme. Um einen einheitlichen Qualitätsmaßstab für die Prüfung von KI-Systemen zu schaffen, arbeiten der TÜV-Verband, das TÜV AI.Lab und die KI-Experten der einzelnen TÜV-Organisationen eng miteinander zusammen.
Ob sich die gemeinsam definierten Prüfanforderungen und Prüfverfahren unter realen Einsatzbedingungen bewähren, muss das Programm derzeit in einer Pilotphase unter Beweis stellen. Die dabei gewonnenen Erkenntnisse fließen direkt in die Weiterentwicklung der Zertifizierungs-Verfahren ein. KI- und Zertifizierungs-Experten des TÜV Thüringen, die maßgeblich an der Entwicklung des KI-Zertifizierungsprogramm beteiligt sind, konnten hierfür jetzt ein System des KI-Spezialisten Phnx Alpha überprüfen. In der Erprobung konnte das System des auf innovative KI-Qualitätssicherungslösungen spezialisierten Unternehmens aus Jena den AI Core Check für Niedrigrisiko-KI-Anwendungen positiv durchlaufen und zeigen, dass es den Zertifizierungskriterien entspricht. Dabei wurde die KI der Phnx Alpha GmbH einer strukturierten, KI-spezifischen Risikobewertung unterzogen und anhand der Dokumentation überprüft. Direkt vor Ort wurde bewertet, wie genau die Anforderungen umgesetzt werden.
„Es reicht nicht, KI-Modelle in der Entwicklung robust und prozesstauglich auszugestalten, man muss ihnen auch den passenden Rahmen und umfassendes Monitoring für einen sicheren und transparenten Einsatz zur Seite stellen. Die enge Zusammenarbeit mit dem TÜV Thüringen und dem TÜV AI.Lab hat uns ermöglicht, die Qualität unseres Operationalisierungs-Ansatzes zu bestätigen und regulatorischen Anforderungen der Zukunft gerecht zu werden“, erklärt Konstanze Olschewski, Geschäftsführerin der Phnx Alpha GmbH.
Die schrittweise Einführung des KI-Zertifizierungsrahmenprogramms ist für Ende des Jahres geplant. Es bietet Herstellern künftig einen verlässlichen Qualitätsmaßstab für die unabhängige Prüfung ihrer KI-Systeme – und Verbrauchern eine verlässliche Aussage darüber, ob sie einem KI-System vertrauen können.
