Zum Hauptinhalt springen Zur Suche springen Zur Hauptnavigation springen

Vertrauen in KI: Unabhängig geprüft & zertifiziert.

Wie zuverlässig, sicher und nachvollziehbar ist Ihr KI-System? 

KI-Systeme schaffen dann Vertrauen, wenn ihre Sicherheit, Qualität und Nachvollziehbarkeit unabhängig geprüft & zertifiziert sind. Das Zertifizierungsrahmenprogramm des TÜV Thüringen schafft dafür einen unabhängigen Prüfmaßstab - abgestimmt auf Ihren Anwendungsfall. Wir zeigen, wie sicher, kontrolliert und nachvollziehbar Ihr KI-System arbeitet – und schaffen damit einen klaren Nachweis gegenüber Kunden, Geschäftspartnern und Anwendern. 

Das freiwillige Zertifizierungsprogramm prüft KI-Systeme entlang definierter Anforderungen an Qualität, Sicherheit, Transparenz und Risikobewertung. Es ist durchgängig mit den Anforderungen des EU AI Act kompatibel und ergänzt diese um risikobasierte und technische Prüfaspekte. Je nach Einsatzszenario, Risikoprofil und angestrebter Aussagekraft setzen wir die passende Prüfstruktur ein – von grundlegenden Qualitäts- und Sicherheitsanforderungen über eine strukturierte Risikobewertung bis zu vertieften, unabhängigen technischen Tests. 

So machen Sie aus einem KI-System ein verlässliches, markttaugliches Asset: mit geprüfter Qualität, verständlicher Dokumentation und belastbarem Vertrauen für Ihren Markt, Ihre Produkte und Ihre Kunden. Jetzt unverbindlich klären, welche KI-Zertifizierung zu Ihrem KI-System passt.
Zertifizierung KI-Systeme
Warum KI prüfen lassen? 

Aus Qualität wird nachvollziehbares Vertrauen. 

KI-Systeme beeinflussen Entscheidungen, steuern Abläufe und prägen Produkte. Deshalb hilft eine unabhängige Prüfung, Qualität und Risiken fundiert einzuordnen und den Einsatz Ihrer KI gegenüber Kunden, Partnern und Stakeholdern transparent zu machen. Eine Zertifizierung schafft zudem einen belastbaren Nachweis, der Vertrauen in professionelle Technologien stärkt. Dabei identifizieren strukturierte, risikobasierte Prüfverfahren Schwachstellen frühzeitig, dokumentieren Maßnahmen nachvollziehbar und machen den sicheren Einsatz Ihrer KI nachweisbar.
Drei Prüfvarianten für sicheren KI-Einsatz

Die passende Prüfung für Ihr KI-System.

Nicht jedes KI-System benötigt dieselbe Prüftiefe: Es gibt teils erhebliche Unterschiede im Einsatzszenario, dem Risikoprofil und der angestrebten Aussagekraft. Die Prüfung muss dort ansetzen, wo Ihr KI-System tatsächlich wirkt. Das entwickelte Rahmenprogramm unterscheidet drei Schemata, von grundlegenden Anforderungen bis zu unabhängigen technischen Tests. In einem ersten Schritt analysieren wir gemeinsam den konkreten Anwendungsfall, die betroffenen Prozesse sowie die regulatorische Einordnung Ihres KI-Systems. Auf dieser Grundlage wählen wir die passende Prüfstufe aus, die den erforderlichen Nachweis in Umfang und Tiefe genau so schafft, wie es für Ihren Markt, Ihre Stakeholder und Ihre Verantwortung entscheidend ist.
Praxis aus der Pilotphase

TÜV Thüringen hat einen KI-Prüfansatz bereits in der Praxis erprobt.

Bei einem Pilotprojekt mit Phnx Alpha aus Jena wurde ein KI-System anhand kommender Prüfkriterien untersucht. Das Beispiel zeigt, wie die Verfahren unter realen Bedingungen weiterentwickelt werden.

Von der Anfrage zur Bewertung

So finden wir den geeigneten Prüfpfad. 

Die konkrete Vorgehensweise hängt vom KI-System und dem jeweiligen Prüfschema ab. Diese Schritte dienen zur ersten Orientierung.
1. Anwendungsfall klären
2. Prüftiefe festlegen
3. Prüfung durchführen
4. Ergebnisse einordnen

Anwendungsfall klären 

Was leistet Ihr KI-System, wo wird es eingesetzt und welche Risiken sind relevant?

Prüftiefe bestimmen  

Welche der geplanten Prüfvarianten passt zum Risikoprofil und zu Ihrem Nachweisziel? Welche Unterlagen müssen eingereicht werden?

Prüfung durchführen  

Je nach Variante: Anforderungen, Dokumentation, Vor-Ort-Bewertung und technische Tests.

Zertifikat ausstellen

Basierend auf den Ergebnissen der Prüfung stellen wir Ihnen das Zertifikat zum jeweiligen Prüfschema aus.
Häufige Fragen 

Was Unternehmen zum sicheren Einsatz Künstlicher Intelligenz wissen sollten

Die bekanntesten KI-Systeme sind heute ohne Zweifel die großen Sprachmodelle wie ChatGPT, Claude oder Gemini, mit denen man in einem Dialog Text verfassen, Fragen beantworten oder Ideen sammeln kann. Sie sind medial präsent, leicht zugänglich und prägen das öffentliche Bild von „KI". Im industriellen Umfeld, wie es für uns beim TÜV relevant ist, steht jedoch eine andere Kategorie im Vordergrund: spezialisierte, auf konkrete Aufgaben zugeschnittene KI-Systeme. Das können Bilderkennungsverfahren sein, die auf einer Produktionslinie fehlerhafte Bauteile in Echtzeit identifizieren. Es können prädiktive Wartungssysteme sein, die aus Sensordaten vorhersagen, wann eine Maschine in wenigen Wochen ausfällt, bevor es zum Stillstand kommt. Diese „industrielle KI" ist seltener im Fokus der Schlagzeilen, arbeitet aber tagtäglich hinter den Kulissen in Werkhallen, Laboratorien und Prüfzentren. Für unsere Arbeit ist genau diese Gruppe der entscheidende Bezugspunkt, weil sie direkt in Sicherheitsprozesse, Qualitätsprüfung und Normkonformität eingreift und dort ein hohes Maß an Zuverlässigkeit und Nachvollziehbarkeit erfordert.
In den allermeisten heutigen Anwendungen, etwa Chatbots, Bildgeneratoren oder Suchhilfen, ist KI nicht direkt gefährlich. Die bekannten Stolpersteine sind eher „menschlicher" Natur: KI kann Dinge behaupten, die einfach nicht stimmen, ohne es zu „wissen". Wenn die Trainingsdaten Ungleichgewichte enthalten, können sich diese in den Ergebnissen spiegeln. Und wie bei jedem Werkzeug kann es auch für schlechte Zwecke eingesetzt werden, etwa für täuschend echte Falschmeldungen. Eine abstrakte, ferne Gefahr, die in der Forschung diskutiert wird, bezieht sich auf sehr zukünftige, stark autonome Systeme. Für den heutigen Alltag ist das kein akutes Problem, aber ein guter Grund, die Entwicklung im Blick zu behalten. Kurz gesagt ist die Technologie an sich wie Feuer: nützlich, aber mit Verantwortung zu handhaben.
Stellen Sie sich vor, Sie fragen eine KI um eine medizinische Einschätzung oder um einen juristischen Hinweis. Wenn die Antwort zufällig gut klingt, aber inhaltlich Unsinn enthält, kann das realen Schaden anrichten. Gute Qualität heißt in der Praxis, dass ein System zuverlässig konsistent gute Ergebnisse liefert und nicht nur „meistens" richtig liegt. Sie bedeutet außerdem, dass man nachprüfen kann, warum eine bestimmte Antwort kam, und dass das System keine Personengruppen systematisch benachteiligt. Transparenz gehört ebenfalls dazu: Nutzerinnen und Nutzer sollten immer wissen, wann sie mit einer KI interagieren. Ohne diese Qualität verliert man das Vertrauen, und dann nutzt auch die beste Technologie wenig. Qualität ist also keine Zusatzoptik, sondern die Grundlage dafür, dass KI im Alltag tatsächlich hilfreich sein kann.
Stellen Sie sich vor, jedes Unternehmen würde seine KI nach eigenen, ungesicherten Maßstäben einsetzen – ohne Transparenz, ohne Haftung, ohne Rücksicht auf die Privatsphäre. Genau das will man vermeiden. Regeln, wie sie etwa in der EU mit dem AI Act gelten, dienen in erster Linie dem Schutz der Menschen vor Diskriminierung, Überwachung oder Manipulation durch automatisierte Entscheidungen. Sie geben zugleich Unternehmen Rechtssicherheit, denn sie wissen damit, was erlaubt ist und was nicht, und können langfristig planen. Ein weiterer wichtiger Aspekt ist das Vertrauen: Wenn Nutzerinnen und Nutzer wissen, dass Standards eingehalten werden, sind sie eher bereit, KI-Anwendungen im Alltag zu nutzen. Und schließlich sorgen gemeinsame Regeln dafür, dass nicht nur die größten Anbieter die Spielregeln allein setzen, sondern alle nach denselben Maßen arbeiten. Regeln sollen Innovation also nicht blockieren, sondern einen Rahmen schaffen, in dem sie verantwortungsvoll wachsen kann.
KI verändert die Art, wie wir arbeiten, löst Berufe aber nicht einfach aus. Eher verschiebt sich das Aufgabenbild: Routineaufgaben wie einfache Texterstellung, Dateneingabe oder Standardantworten werden teils automatisiert. Gleichzeitig entstehen neue Tätigkeiten, etwa das Prüfen, Einordnen und Anpassen von KI-Ergebnissen für einen konkreten Fall. Wer KI als Werkzeug nutzt, kann seine Produktivität steigern und sich stärker auf die „Menschen-Arbeit" konzentrieren – auf Gespräche, kreatives Denken und komplexe Entscheidungen. Der wichtigste Faktor ist daher nicht die Angst vor der Maschine, sondern die eigene Bereitschaft, sich fortzubilden und KI als Unterstützung zu begreifen. Der Markt wird sich anpassen, und wer mitläuft, hat gute Karten.
KI-Systeme können Prozesse beschleunigen, Entscheidungen unterstützen und völlig neue Anwendungen ermöglichen. Gleichzeitig entstehen neue Risiken: Ergebnisse können fehlerhaft oder verzerrt sein, Systeme können sich im laufenden Betrieb verändern und die Qualität ihrer Ergebnisse kann mit der Zeit nachlassen. Hinzu kommen Anforderungen an Datenschutz, Informationssicherheit, Transparenz und Nachvollziehbarkeit. Eine unabhängige Prüfung kann helfen, solche Risiken systematisch zu identifizieren und die Qualität und Sicherheit eines KI-Systems nachvollziehbar zu bewerten.
Der AI Core Check ist Teil eines neuen gemeinsamen Zertifizierungsrahmenprogramms der TÜV-Organisationen für Künstliche Intelligenz. Er richtet sich an KI-Systeme mit niedrigem Risiko und soll Unternehmen die Möglichkeit geben, Qualität und Sicherheit ihrer KI-Anwendungen unabhängig überprüfen zu lassen. Für Hochrisiko-KI-Systeme sind mit „AI Risk Coverage“ und „AI Assurance“ weitergehende Prüfungen vorgesehen.
Der EU AI Act schafft einen gesetzlichen Rahmen für den Einsatz Künstlicher Intelligenz und verfolgt dabei einen risikobasierten Ansatz. Das von den TÜV-Organisationen entwickelte Zertifizierungsrahmenprogramm ist mit den Anforderungen des EU AI Acts kompatibel und ergänzt diese um risikobasierte und technische Prüfaspekte. Eine unabhängige Prüfung kann Unternehmen damit unterstützen, die Qualität, Sicherheit und Nachvollziehbarkeit ihrer KI-Systeme strukturiert zu bewerten.
Das Zertifizierungsrahmenprogramm entsteht in Zusammenarbeit zwischen dem TÜV-Verband, dem TÜV AI.Lab und den beteiligten TÜV-Organisationen, wie dem TÜV Thüringen. Das TÜV AI.Lab entwickelt unter anderem fachliche Grundlagen, Prüfanforderungen und Prüfkataloge. Die TÜV-Unternehmen bringen ihre Erfahrung aus Prüfung, Zertifizierung und der praktischen Bewertung technischer Systeme ein. Experten des TÜV Thüringen sind an der Entwicklung und praktischen Erprobung des Programms intensiv beteiligt.

Grundsätzlich für Unternehmen, die eigene KI-Systeme entwickeln, KI in Produkte oder Dienstleistungen integrieren oder KI in relevanten Geschäfts- und Produktionsprozessen einsetzen. Besonders interessant kann eine unabhängige Prüfung sein, wenn Unternehmen gegenüber Kunden und Geschäftspartnern nachvollziehbar belegen möchten, dass sie sich systematisch mit Qualität, Sicherheit und Risiken ihrer KI-Anwendungen auseinandergesetzt haben.
Nicht unbedingt. KI-Systeme können sich anders verhalten als klassische Software. Beispielsweise können Veränderungen der Eingangsdaten zu einem sogenannten „Model Drift“ führen, wodurch Genauigkeit oder Zuverlässigkeit im Laufe der Zeit nachlassen können. Deshalb spielen neben der initialen Bewertung auch geeignete Prozesse und ein kontinuierliches Monitoring eine wichtige Rolle für einen sicheren und transparenten KI-Einsatz.

Eine unabhängige Zertifizierung kann einen einheitlichen und nachvollziehbaren Qualitätsmaßstab schaffen. Anbieter und Hersteller können damit gegenüber Kunden und Geschäftspartnern dokumentieren, dass definierte Anforderungen an Qualität und Sicherheit geprüft wurden. Für Anwender wiederum kann eine solche Prüfung zusätzliche Orientierung bei der Auswahl und Bewertung von KI-Systemen bieten.

Die geplanten Prüfvarianten sollen je nach Anwendungsfall unterschiedliche KI-Systeme abdecken – von eigenständigen Anwendungen bis hin zu KI als Bestandteil technischer Produkte. Welche Prüfschemata geeignet sind, wird anhand des konkreten Systems bestimmt.
Der AI Core Check prüft grundlegende Qualitäts- und Sicherheitsanforderungen für KI-Systeme außerhalb der Hochrisiko-Kategorie. AI Risk Coverage ergänzt eine strukturierte Risikobewertung und die Prüfung der Umsetzung anhand von Dokumentation und Vor-Ort-Bewertung. AI Assurance umfasst darüber hinaus unabhängige technische Tests ausgewählter Systemeigenschaften.
Nein. Das geplante freiwillige Rahmenprogramm ist mit dem EU AI Act kompatibel und ergänzt dessen Anforderungen durch risikobasierte und technische Prüfaspekte. Es ist kein pauschaler Ersatz für gesetzliche Pflichten oder vorgeschriebene Konformitätsbewertungsverfahren.

Schildern Sie uns Ihr KI-System, die Einsatzumgebung und Ihr gewünschtes Prüfziel. Über das Anfrageformular unten können Sie eine vorbereitete E-Mail an TÜV Thüringen öffnen. Eine konkrete Prüfleistung und ein möglicher Termin werden anschließend individuell geklärt.

Jetzt Kontakt aufnehmen

Machen Sie den nächsten Schritt zu vertrauenswürdiger KI.

Sie möchten Ihr KI-System unabhängig bewerten lassen oder mehr über die geplanten Zertifizierungen erfahren? Wir freuen uns auf Ihre Anfrage und klären gemeinsam die nächsten Möglichkeiten.


TÜV Thüringen
Fachgebiet Industrie Service

Wir freuen uns auf Ihre Anfrage
Datenschutz
Die mit einem Stern (*) markierten Felder sind Pflichtfelder.