Vertrauen in KI: Unabhängig geprüft & zertifiziert.
Wie zuverlässig, sicher und nachvollziehbar ist Ihr KI-System?
KI-Systeme schaffen dann Vertrauen, wenn ihre Sicherheit, Qualität und Nachvollziehbarkeit unabhängig geprüft & zertifiziert sind. Das Zertifizierungsrahmenprogramm des TÜV Thüringen schafft dafür einen unabhängigen Prüfmaßstab - abgestimmt auf Ihren Anwendungsfall. Wir zeigen, wie sicher, kontrolliert und nachvollziehbar Ihr KI-System arbeitet – und schaffen damit einen klaren Nachweis gegenüber Kunden, Geschäftspartnern und Anwendern.
Das freiwillige Zertifizierungsprogramm prüft KI-Systeme entlang definierter Anforderungen an Qualität, Sicherheit, Transparenz und Risikobewertung. Es ist durchgängig mit den Anforderungen des EU AI Act kompatibel und ergänzt diese um risikobasierte und technische Prüfaspekte. Je nach Einsatzszenario, Risikoprofil und angestrebter Aussagekraft setzen wir die passende Prüfstruktur ein – von grundlegenden Qualitäts- und Sicherheitsanforderungen über eine strukturierte Risikobewertung bis zu vertieften, unabhängigen technischen Tests.
So machen Sie aus einem KI-System ein verlässliches, markttaugliches Asset: mit geprüfter Qualität, verständlicher Dokumentation und belastbarem Vertrauen für Ihren Markt, Ihre Produkte und Ihre Kunden.
Jetzt unverbindlich klären, welche KI-Zertifizierung zu Ihrem KI-System passt.
Warum KI prüfen lassen?
Aus Qualität wird nachvollziehbares Vertrauen.
KI-Systeme beeinflussen Entscheidungen, steuern Abläufe und prägen Produkte. Deshalb hilft eine unabhängige Prüfung, Qualität und Risiken fundiert einzuordnen und den Einsatz Ihrer KI gegenüber Kunden, Partnern und Stakeholdern transparent zu machen. Eine Zertifizierung schafft zudem einen belastbaren Nachweis, der Vertrauen in professionelle Technologien stärkt. Dabei identifizieren strukturierte, risikobasierte Prüfverfahren Schwachstellen frühzeitig, dokumentieren Maßnahmen nachvollziehbar und machen den sicheren Einsatz Ihrer KI nachweisbar.
Vertrauen stärken
Zeigen Sie Kunden, Anwendern und Geschäftspartnern, dass Sie die Qualität und Sicherheit Ihrer KI systematisch bewerten lassen.
Risiken sichtbar machen
Berücksichtigen Sie KI-spezifische Risiken, beispielsweise fehlerhafte Ergebnisse, Verzerrungen oder unzuverlässiges Verhalten.
Nachweise schaffen
Profitieren Sie von dokumentierten, unabhängigen Bewertungen – passend zur Anwendung und zur benötigten Prüftiefe.
Drei Prüfvarianten für sicheren KI-Einsatz
Die passende Prüfung für Ihr KI-System.
Nicht jedes KI-System benötigt dieselbe Prüftiefe: Es gibt teils erhebliche Unterschiede im Einsatzszenario, dem Risikoprofil und der angestrebten Aussagekraft. Die Prüfung muss dort ansetzen, wo Ihr KI-System tatsächlich wirkt. Das entwickelte Rahmenprogramm unterscheidet drei Schemata, von grundlegenden Anforderungen bis zu unabhängigen technischen Tests. In einem ersten Schritt analysieren wir gemeinsam den konkreten Anwendungsfall, die betroffenen Prozesse sowie die regulatorische Einordnung Ihres KI-Systems. Auf dieser Grundlage wählen wir die passende Prüfstufe aus, die den erforderlichen Nachweis in Umfang und Tiefe genau so schafft, wie es für Ihren Markt, Ihre Stakeholder und Ihre Verantwortung entscheidend ist.
Prüfschema 01
AI Core Check
Grundlegende Qualität und Sicherheit
Der Einstieg für KI-Systeme, die nicht als Hochrisiko-KI im Sinne des EU AI Acts eingeordnet sind.
___________________________
- Für KI-Anwendungen mit niedrigerem Risikoprofil
- Prüfung grundlegender Qualitätsanforderungen
- Betrachtung zentraler Sicherheitsaspekte
- Vollständig kompatibel mit EU AI Act
Prüfschema 02
AI Risk Coverage
Strukturierte KI-Risikobewertung
Eine vertiefte Prüfung mit Bewertung KI-spezifischer Risiken und Überprüfung der Umsetzung von Anforderungen.
___________________________
- Vor allem für KI-Systeme mit hohem Risiko
- Strukturierte Risikobewertung
- Prüfung relevanter Unterlagen und Nachweise
- Bewertung der Umsetzung vor Ort
- Vollständig kompatibel mit EU AI Act
Prüfschema 03
AI Assurance
Vertiefte technische Überprüfung
Die umfassendere Prüfvariante: Ausgewählte Eigenschaften des KI-Systems werden zusätzlich technisch getestet.
___________________________
- Ausschließlich für KI-Anwendungen mit hohem Risiko
- Aufbauend auf der Risikobewertung
- Unabhängige technische Tests ausgewählter Merkmale
- Vertiefte Betrachtung von Leistung und Zuverlässigkeit
- Vollständig kompatibel mit EU AI Act
Von der Anfrage zur Bewertung
So finden wir den geeigneten Prüfpfad.
Die konkrete Vorgehensweise hängt vom KI-System und dem jeweiligen Prüfschema ab. Diese Schritte dienen zur ersten Orientierung.
Anwendungsfall klären
Was leistet Ihr KI-System, wo wird es eingesetzt und welche Risiken sind relevant?
Prüftiefe bestimmen
Welche der geplanten Prüfvarianten passt zum Risikoprofil und zu Ihrem Nachweisziel? Welche Unterlagen müssen eingereicht werden?
Prüfung durchführen
Je nach Variante: Anforderungen, Dokumentation, Vor-Ort-Bewertung und technische Tests.
Zertifikat ausstellen
Basierend auf den Ergebnissen der Prüfung stellen wir Ihnen das Zertifikat zum jeweiligen Prüfschema aus.
Häufige Fragen
Was Unternehmen zum sicheren Einsatz Künstlicher Intelligenz wissen sollten
Die bekanntesten
KI-Systeme sind heute ohne Zweifel die großen Sprachmodelle wie ChatGPT, Claude
oder Gemini, mit denen man in einem Dialog Text verfassen, Fragen beantworten
oder Ideen sammeln kann. Sie sind medial präsent, leicht zugänglich und prägen das
öffentliche Bild von „KI". Im industriellen Umfeld, wie es für uns beim
TÜV relevant ist, steht jedoch eine andere Kategorie im Vordergrund:
spezialisierte, auf konkrete Aufgaben zugeschnittene KI-Systeme. Das können
Bilderkennungsverfahren sein, die auf einer Produktionslinie fehlerhafte
Bauteile in Echtzeit identifizieren. Es können prädiktive Wartungssysteme sein,
die aus Sensordaten vorhersagen, wann eine Maschine in wenigen Wochen ausfällt,
bevor es zum Stillstand kommt. Diese „industrielle KI" ist seltener im
Fokus der Schlagzeilen, arbeitet aber tagtäglich hinter den Kulissen in
Werkhallen, Laboratorien und Prüfzentren. Für unsere Arbeit ist genau diese
Gruppe der entscheidende Bezugspunkt, weil sie direkt in Sicherheitsprozesse,
Qualitätsprüfung und Normkonformität eingreift und dort ein hohes Maß an
Zuverlässigkeit und Nachvollziehbarkeit erfordert.
In den allermeisten
heutigen Anwendungen, etwa Chatbots, Bildgeneratoren oder Suchhilfen, ist KI
nicht direkt gefährlich. Die bekannten Stolpersteine sind eher
„menschlicher" Natur: KI kann Dinge behaupten, die einfach nicht stimmen,
ohne es zu „wissen". Wenn die Trainingsdaten Ungleichgewichte enthalten,
können sich diese in den Ergebnissen spiegeln. Und wie bei jedem Werkzeug kann
es auch für schlechte Zwecke eingesetzt werden, etwa für täuschend echte
Falschmeldungen. Eine abstrakte, ferne Gefahr, die in der Forschung diskutiert
wird, bezieht sich auf sehr zukünftige, stark autonome Systeme. Für den
heutigen Alltag ist das kein akutes Problem, aber ein guter Grund, die
Entwicklung im Blick zu behalten. Kurz gesagt ist die Technologie an sich wie
Feuer: nützlich, aber mit Verantwortung zu handhaben.
Stellen Sie sich vor,
Sie fragen eine KI um eine medizinische Einschätzung oder um einen juristischen
Hinweis. Wenn die Antwort zufällig gut klingt, aber inhaltlich Unsinn enthält,
kann das realen Schaden anrichten. Gute Qualität heißt in der Praxis, dass ein
System zuverlässig konsistent gute Ergebnisse liefert und nicht nur
„meistens" richtig liegt. Sie bedeutet außerdem, dass man nachprüfen kann,
warum eine bestimmte Antwort kam, und dass das System keine Personengruppen
systematisch benachteiligt. Transparenz gehört ebenfalls dazu: Nutzerinnen und
Nutzer sollten immer wissen, wann sie mit einer KI interagieren. Ohne diese
Qualität verliert man das Vertrauen, und dann nutzt auch die beste Technologie
wenig. Qualität ist also keine Zusatzoptik, sondern die Grundlage dafür, dass
KI im Alltag tatsächlich hilfreich sein kann.
Stellen Sie sich vor,
jedes Unternehmen würde seine KI nach eigenen, ungesicherten Maßstäben
einsetzen – ohne Transparenz, ohne Haftung, ohne Rücksicht auf die
Privatsphäre. Genau das will man vermeiden. Regeln, wie sie etwa in der EU mit
dem AI Act gelten, dienen in erster Linie dem Schutz der Menschen vor
Diskriminierung, Überwachung oder Manipulation durch automatisierte
Entscheidungen. Sie geben zugleich Unternehmen Rechtssicherheit, denn sie wissen
damit, was erlaubt ist und was nicht, und können langfristig planen. Ein
weiterer wichtiger Aspekt ist das Vertrauen: Wenn Nutzerinnen und Nutzer
wissen, dass Standards eingehalten werden, sind sie eher bereit, KI-Anwendungen
im Alltag zu nutzen. Und schließlich sorgen gemeinsame Regeln dafür, dass nicht
nur die größten Anbieter die Spielregeln allein setzen, sondern alle nach
denselben Maßen arbeiten. Regeln sollen Innovation also nicht blockieren,
sondern einen Rahmen schaffen, in dem sie verantwortungsvoll wachsen kann.
KI verändert die Art,
wie wir arbeiten, löst Berufe aber nicht einfach aus. Eher verschiebt sich das
Aufgabenbild: Routineaufgaben wie einfache Texterstellung, Dateneingabe oder
Standardantworten werden teils automatisiert. Gleichzeitig entstehen neue
Tätigkeiten, etwa das Prüfen, Einordnen und Anpassen von KI-Ergebnissen für
einen konkreten Fall. Wer KI als Werkzeug nutzt, kann seine Produktivität
steigern und sich stärker auf die „Menschen-Arbeit" konzentrieren – auf
Gespräche, kreatives Denken und komplexe Entscheidungen. Der wichtigste Faktor
ist daher nicht die Angst vor der Maschine, sondern die eigene Bereitschaft,
sich fortzubilden und KI als Unterstützung zu begreifen. Der Markt wird sich
anpassen, und wer mitläuft, hat gute Karten.
KI-Systeme können
Prozesse beschleunigen, Entscheidungen unterstützen und völlig neue Anwendungen
ermöglichen. Gleichzeitig entstehen neue Risiken: Ergebnisse können fehlerhaft
oder verzerrt sein, Systeme können sich im laufenden Betrieb verändern und die
Qualität ihrer Ergebnisse kann mit der Zeit nachlassen. Hinzu kommen
Anforderungen an Datenschutz, Informationssicherheit, Transparenz und
Nachvollziehbarkeit. Eine unabhängige Prüfung kann helfen, solche Risiken
systematisch zu identifizieren und die Qualität und Sicherheit eines KI-Systems
nachvollziehbar zu bewerten.
Der AI Core Check ist
Teil eines neuen gemeinsamen Zertifizierungsrahmenprogramms der
TÜV-Organisationen für Künstliche Intelligenz. Er richtet sich an KI-Systeme
mit niedrigem Risiko und soll Unternehmen die Möglichkeit geben, Qualität und
Sicherheit ihrer KI-Anwendungen unabhängig überprüfen zu lassen. Für
Hochrisiko-KI-Systeme sind mit „AI Risk Coverage“ und „AI Assurance“
weitergehende Prüfungen vorgesehen.
Der EU AI Act schafft
einen gesetzlichen Rahmen für den Einsatz Künstlicher Intelligenz und verfolgt
dabei einen risikobasierten Ansatz. Das von den TÜV-Organisationen entwickelte
Zertifizierungsrahmenprogramm ist mit den Anforderungen des EU AI Acts
kompatibel und ergänzt diese um risikobasierte und technische Prüfaspekte. Eine
unabhängige Prüfung kann Unternehmen damit unterstützen, die Qualität,
Sicherheit und Nachvollziehbarkeit ihrer KI-Systeme strukturiert zu bewerten.
Das
Zertifizierungsrahmenprogramm entsteht in Zusammenarbeit zwischen dem TÜV-Verband,
dem TÜV AI.Lab und den beteiligten TÜV-Organisationen, wie dem
TÜV Thüringen. Das TÜV AI.Lab entwickelt unter anderem fachliche Grundlagen,
Prüfanforderungen und Prüfkataloge. Die TÜV-Unternehmen bringen ihre Erfahrung
aus Prüfung, Zertifizierung und der praktischen Bewertung technischer Systeme
ein. Experten des TÜV Thüringen sind an der Entwicklung und praktischen
Erprobung des Programms intensiv beteiligt.
Grundsätzlich für
Unternehmen, die eigene KI-Systeme entwickeln, KI in Produkte oder
Dienstleistungen integrieren oder KI in relevanten Geschäfts- und
Produktionsprozessen einsetzen. Besonders interessant kann eine unabhängige
Prüfung sein, wenn Unternehmen gegenüber Kunden und Geschäftspartnern
nachvollziehbar belegen möchten, dass sie sich systematisch mit Qualität,
Sicherheit und Risiken ihrer KI-Anwendungen auseinandergesetzt haben.
Nicht unbedingt.
KI-Systeme können sich anders verhalten als klassische Software. Beispielsweise
können Veränderungen der Eingangsdaten zu einem sogenannten „Model Drift“
führen, wodurch Genauigkeit oder Zuverlässigkeit im Laufe der Zeit nachlassen
können. Deshalb spielen neben der initialen Bewertung auch geeignete Prozesse
und ein kontinuierliches Monitoring eine wichtige Rolle für einen sicheren und
transparenten KI-Einsatz.
Eine unabhängige
Zertifizierung kann einen einheitlichen und nachvollziehbaren Qualitätsmaßstab
schaffen. Anbieter und Hersteller können damit gegenüber Kunden und
Geschäftspartnern dokumentieren, dass definierte Anforderungen an Qualität und
Sicherheit geprüft wurden. Für Anwender wiederum kann eine solche Prüfung
zusätzliche Orientierung bei der Auswahl und Bewertung von KI-Systemen bieten.
Die geplanten Prüfvarianten sollen je nach Anwendungsfall unterschiedliche KI-Systeme abdecken – von eigenständigen Anwendungen bis hin zu KI als Bestandteil technischer Produkte. Welche Prüfschemata geeignet sind, wird anhand des konkreten Systems bestimmt.
Der AI Core Check prüft grundlegende Qualitäts- und Sicherheitsanforderungen für KI-Systeme außerhalb der Hochrisiko-Kategorie. AI Risk Coverage ergänzt eine strukturierte Risikobewertung und die Prüfung der Umsetzung anhand von Dokumentation und Vor-Ort-Bewertung. AI Assurance umfasst darüber hinaus unabhängige technische Tests ausgewählter Systemeigenschaften.
Nein. Das geplante freiwillige Rahmenprogramm ist mit dem EU AI Act kompatibel und ergänzt dessen Anforderungen durch risikobasierte und technische Prüfaspekte. Es ist kein pauschaler Ersatz für gesetzliche Pflichten oder vorgeschriebene Konformitätsbewertungsverfahren.
Schildern Sie uns Ihr KI-System, die Einsatzumgebung und Ihr gewünschtes Prüfziel. Über das Anfrageformular unten können Sie eine vorbereitete E-Mail an TÜV Thüringen öffnen. Eine konkrete Prüfleistung und ein möglicher Termin werden anschließend individuell geklärt.
Jetzt Kontakt aufnehmen
Machen Sie den nächsten Schritt zu vertrauenswürdiger KI.
Sie möchten Ihr KI-System unabhängig bewerten lassen oder mehr über die geplanten Zertifizierungen erfahren? Wir freuen uns auf Ihre Anfrage und klären gemeinsam die nächsten Möglichkeiten.
TÜV Thüringen
Fachgebiet Industrie Service
Fachgebiet Industrie Service
Tel.: 0800 8881990
E-Mail: ki@tuev-thueringen.de
Wir freuen uns auf Ihre Anfrage