KI-Zertifizierung im Härtetest KI-Zertifizierung: Wie Künstliche Intelligenz vertrauenswürdig wird

Anbieter zum Thema

Universität des Saarlandes

Schneider Electric GmbH

becos gmbH

Ein deutsch-brasilianisches Forschungsprojekt will den Schlüssel finden, um KI durch Zertifizierung sicherer und vertrauenswürdiger zu machen.

Wie kann die Zertifizierung von KI-Systemen helfen, Künstliche Intelligenz zu regulieren und so Vertrauen in die Technologie stärken? Dieser Frage gehen deutsche und brasilianische Forschungsteams auf den Grund. Das Forschungsprojekt, an dem Arbeitsgruppen der Universitäten des Saarlandes und Sao Paulo zusammenarbeiten, wird von der Deutschen Forschungsgemeinschaft DFG und der brasilianischen Partnerorganisation Capes gefördert. Am 1. August veranstaltet das Saarbrücker Institut für Rechtsinformatik einen internationalen Workshop zur KI-Zertifizierung. Die Online-Teilnahme ist kostenlos.
Bestätigt eine unabhängige Stelle schwarz auf weiß, dass gewisse Anforderungen und Standards sicher erfüllt sind, schafft dies Vertrauen. Mit Zertifizierungen weisen Unternehmen daher in ihrem eigenen Interesse nach, dass ihre Produkte oder Leistungen hohe Standards einhalten. Zertifizierungsstellen wie TÜV, DEKRA oder das Bundesamt für Sicherheit in der Informationstechnik prüfen und bestätigen Qualität und Sicherheit. Kunden können sich hierauf verlassen. „Auch KI-Systeme können mit Zertifizierungen an Vertrauen und Akzeptanz gewinnen“, sagt der Direktor des Instituts für Rechtsinformatik der Universität des Saarlandes Professor Georg Borges.

"Regulierungsbedürfnis nach Kontrolle und Sicherheit"

„Künstliche Intelligenz birgt großes Potenzial, aber ihre Risiken erzeugen Unsicherheit. Hier setzen wir mit unserem Forschungsprojekt an und beleuchten die KI-Zertifizierung als Regulierungsinstrument für Künstliche Intelligenz. In der Zertifizierung liegt eine vielversprechende Lösung, die einerseits der rasanten Dynamik der digitalen Märkte und andererseits dem Regulierungsbedürfnis nach Kontrolle und Sicherheit gerecht wird“, erläutert Georg Borges. Gemeinsam mit den Teams von Informatikprofessor Holger Hermanns, ebenfalls von der Universität des Saarlandes, und Jura-Professor Juliano Souza de Albuquerque Maranhao von der brasilianischen Universität Sao Paulo untersucht der Experte für IT-Recht und Rechtsinformatik die rechtlichen Auswirkungen der KI-Zertifizierung in Europa, Deutschland und Brasilien. „Potenziale der Zertifizierung von KI-Systemen bei der Regulierung von Künstlicher Intelligenz" lautet der Titel des Forschungsprojektes, das im Mai 2025 gestartet ist.

"Verantwortungsvolle und vertrauenswürdige KI"

Die Forschungsteams loten verschiedene Zertifizierungsarten und ihre Regelungen aus und bewerten diese. „Zertifizierungen können bestätigen, dass KI-Systeme geltende Standards, gesetzliche Vorschriften und sonstige Vorgaben erfüllen. Damit attestieren sie nicht nur, dass sie technisch zuverlässig laufen, sondern vor allem auch, dass sie sicher, transparent und fair arbeiten und verantwortungsvoll mit Daten umgehen“, sagt Georg Borges. „Wir untersuchen verschiedene Aspekte, die für verantwortungsvolle und vertrauenswürdige KI ausschlaggebend sind, ebenso wie die Einheitlichkeit und Angemessenheit internationaler Standards“, erläutert Georg Borges. Ziel des Projektes ist es, einen sicheren Einsatz von KI-Systemen in verschiedenen Wirtschafts- und Lebensbereichen zu ermöglichen.

Produktionsplanung und KI

Nicht überall, wo KI draufsteht, ist auch KI drin

Debatte in USA: Künstliche Intelligenz jeglicher staatlichen Kontrolle entziehen

„Zertifizierungen haben das Potenzial, sich auch international zu einem vielversprechenden Regulierungsinstrument zu entwickeln, auch in Ländern, die keine staatliche Regulierung wollen. Sie liegen nicht nur im Interesse der Nutzer, die sichere KI-Systeme fordern, sondern auch im Interesse der KI-Anbieter, die so ihre Qualität nachweisen – insoweit können Zertifizierungen auch wichtige Anreize zur Einhaltung von Vorschriften bieten“, sagt Georg Borges. Wie mit einem Rechtsrahmen für Künstliche Intelligenz umzugehen ist, wird weltweit sehr unterschiedlich gesehen. Europa hat sich für Regulierung entschieden, in Brasilien durchläuft derzeit ein KI-Gesetz den Gesetzgebungsprozess, das vom EU-KI-Gesetz beeinflusst ist. Demgegenüber steht etwa in den USA zur Debatte, KI jeglicher staatlichen Kontrolle zu entziehen.

Intelligente Systeme erklärbar und transparent gestalten

Das Projekt, das von der Deutschen Forschungsgemeinschaft DFG und der brasilianischen Partnerorganisation Capes gefördert wird, knüpft an zahlreiche Forschungsarbeiten der Saarbrücker Arbeitsgruppen an. Georg Borges und Holger Hermanns forschen bereits seit Jahren mit weiteren Teams verschiedener Fachdisziplinen auf dem Saarbrücker Campus daran, intelligente Systeme erklärbar und transparent zu gestalten. Ihr gemeinsames Projekt „Erklärbarkeit intelligenter Systeme“ (EIS) wird von der VolkswagenStiftung gefördert und ist Teil der Initiative „Künstliche Intelligenz – Ihre Auswirkungen auf die Gesellschaft von morgen“.
Im Auftrag des Bundeswirtschaftsministeriums hat Georg Borges bereits eine Datenschutzzertifizierung am Beispiel von Cloud-Diensten samt Teststandard, dem sogenannten „Trusted Cloud Data Protection for Cloud Services (TCDP)“ erarbeitet und einen dazugehörigen Verhaltenskodex entwickelt.