Aktuelle News zum Projekt
ZERTIFIZIERTE KI
Künstliche Intelligenz sicher und vertrauenswürdig gestalten
Das Fraunhofer IAIS entwickelt gemeinsam mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI) und dem Deutschen Institut für Normung (DIN) sowie weiteren Forschungspartnern Prüfverfahren für die Zertifizierung von Systemen der Künstlichen Intelligenz (KI).
Ziel ist es, die technische Zuverlässigkeit und einen verantwortungsvollen Umgang mit der Technologie zu gewährleisten. Hierbei werden industrielle Bedarfe durch die aktive Einbindung von zahlreichen assoziierten Unternehmen und Organisationen berücksichtigt, welche unterschiedliche Branchen wie etwa Telekommunikation, Banken, Versicherungen, Chemie, und Handel repräsentieren.

Entwicklung von KI-Prüfgrundlagen, KI-Prüfkriterien

Untersuchung von neuen Businessmodellen und Märkten für KI-Prüfungen und KI-Zertifizierungen

Ermittlung von Unternehmensbedarfen und Setzen von Standards

Entwicklung von Prototypen für KI-Prüfwerkzeuge und Verfahren zur Absicherung von KI-Systemen

Ganzheitliche Betrachtung unter Einbezug von rechtswissenschaftlichen und philosophisch-ethischen Fragestellungen
Stimmen zum Projekt ZERTIFIZIERTE KI
»Dieses wichtige Projekt mit starken Partnern aus NRW zeigt die große Innovationskraft, die zur Etablierung der Marke ‚KI made in Germany‘ beiträgt.«
Prof. Dr. Andreas Pinkwart, Minister für Wirtschaft, Innovation, Digitalisierung und Energie des Landes Nordrhein-Westfalen
Projektpartner und assoziierte Partner
Für eine zielgerichtete und praxisorientierte Entwicklung von KI-Prüfverfahren sind an dem Projekt neben Wissenschaftler*innen auch eine große Anzahl DAX-Konzerne und weitere Wirtschaftsunternehmen sowie Verbände als assoziierte Partner beteiligt. Erfahren Sie mehr über die Partner des Projekts ZERTIFIZIERTE KI.
Aktuelle Veranstaltungen
ZERTIFIZIERTE KI auf der Hannover Messe 2022
Getreu dem Motto »Let’s create the industry of tomorrow« fokussierte sich Deutschlands größte Industriemesse 2022 auf die Zukunftsthemen »Digitalisierung und Nachhaltigkeit«. Schlüssel der Digitalisierung sind Systeme und Anwendungen mit Künstlicher Intelligenz – deren technische Zuverlässigkeit und einen verantwortungsvollen Umgang mit der Technologie durch standardisierte Prüfverfahren zu gewährleisten, ist Ziel des Projekts ZERTIFIZIERTE KI.
Vom 30. Mai bis zum 2. Juni haben Mitarbeiter*innen des Fraunhofer IAIS und des DIN auf dem Gemeinschaftsstand des Landes Nordrhein-Westfalen die Besucher*innen über das Projekt und die ersten Ergebnisse informiert. Neben persönlichem Austausch und Networking mit den Projektexpert*innen konnte auch der neue Demonstrator „uncertAInty explorer“ ausprobiert und so erste konkrete Eindrücke von KI‑Prüfverfahren »made in Germany« gewonnen werden.
Workshops
In den Anwenderkreisen des Projekts werden regelmäßig Workshops durchgeführt, um Unternehmensbedarfe und Schwerpunktthemen der KI‑Prüfung zu erarbeiten. Detailinformationen zur Anmeldung und zur jeweiligen Agenda finden Sie zu gegebener Zeit auf der entsprechenden Workshop-Infoseite.
Publikationen
Entdecken Sie mehr Veröffentlichungen des Projektteams rund um den vertrauenswürdigen und sicheren Einsatz von Künstlicher Intelligenz.

KI-Prüfkatalog
Leitfaden zur Gestaltung vertrauenswürdiger Künstlicher Intelligenz
Wie können Unternehmen ihre KI-Systeme vertrauenswürdig gestalten? Mit dieser Frage beschäftigt sich das Projekt ZERTIFIZIERTE KI. Das Fraunhofer IAIS hat eine wichtige inhaltliche Grundlage geschaffen: Ein über 160 Seiten starker KI-Prüfkatalog befähigt Unternehmen, Anforderungen an die Vertrauenswürdigkeit intelligenter Systeme für die Entwicklung individueller KI-Anwendungen zu operationalisieren. Dieser in ersten Pilotprojekten erprobte Leitfaden fließt nun in die Projekt-Zusammenarbeit ein und ist ab sofort für die Öffentlichkeit zugänglich. Ziel ist es, Standards für KI-Prüfungen zu schaffen und den Weg für eine unabhängige KI-Zertifizierung zu ebnen.
Der KI-Prüfkatalog ist online kostenfrei zugänglich unter www.iais.fraunhofer.de/ki-pruefkatalog


Das Land Nordrhein-Westfalen (NRW) hat im Dezember 2018 die Kompetenzplattform für Künstliche Intelligenz KI.NRW ins Leben gerufen, um die Kompetenzen im Bereich Künstliche Intelligenz (KI) zu bündeln, zu stärken und weiter auszubauen. Wesentlich für die KI-Strategie des Landes ist ein verantwortungsvoller Ansatz in der Entwicklung und im Umgang mit Künstlicher Intelligenz, der stets den Menschen in den Mittelpunkt stellt. Daher wurde bereits im Dezember 2018 eine Initiative zur KI-Zertifizierung gestartet.
Unter Leitung des Fraunhofer IAIS hat eine interdisziplinäre Forschungsgruppe mit Vertreter*innen der Universität Bonn und der Universität zu Köln Handlungsfelder für einen vertrauenswürdigen Einsatz von KI definiert. Daneben wurde eine Kooperation mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI) aufgebaut. Wesentliche Inhalte dieser Kooperationsvereinbarung werden im Rahmen des vom Bundesland Nordrhein-Westfalen geförderten KI.NRW-Flagship-Projekts »Zertifizierte KI« erarbeitet und umgesetzt. Mit der Dachmarke »Flagships powered by KI.NRW« unterstützt die Kompetenzplattform Künstliche Intelligenz Nordrhein-Westfalen vom Land geförderte Vorhaben als KI-Leuchtturmprojekte. Ziel ist es, einen effizienten Technologietransfer und die enge Zusammenarbeit von Mittelstand, Start-ups, Universitäten, Hochschulen sowie Forschungseinrichtungen in NRW zu gewährleisten und zu unterstützen.
Das Land NRW hat damit beim Thema KI-Zertifizierung eine Vorreiterrolle eingenommen.