Aktuelle News zum Projekt
ZERTIFIZIERTE KI
Künstliche Intelligenz sicher und vertrauenswürdig gestalten
Das Fraunhofer IAIS entwickelt gemeinsam mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI) und dem Deutschen Institut für Normung (DIN) sowie weiteren Forschungspartnern Prüfverfahren für die Zertifizierung von Systemen der Künstlichen Intelligenz (KI).
Ziel ist es, die technische Zuverlässigkeit und einen verantwortungsvollen Umgang mit der Technologie zu gewährleisten. Hierbei werden industrielle Bedarfe durch die aktive Einbindung von zahlreichen assoziierten Unternehmen und Organisationen berücksichtigt, welche unterschiedliche Branchen wie etwa Telekommunikation, Banken, Versicherungen, Chemie, und Handel repräsentieren.
Entwicklung von KI-Prüfgrundlagen, KI-Prüfkriterien
Untersuchung von neuen Businessmodellen und Märkten für KI-Prüfungen und KI-Zertifizierungen
Ermittlung von Unternehmensbedarfen und Setzen von Standards
Entwicklung von Prototypen für KI-Prüfwerkzeuge und Verfahren zur Absicherung von KI-Systemen
Ganzheitliche Betrachtung unter Einbezug von rechtswissenschaftlichen und philosophisch-ethischen Fragestellungen
Stimmen zum Projekt ZERTIFIZIERTE KI
»Wichtig für die Akzeptanz neuer Technologien ist das Vertrauen der Anwendenden. Dies entsteht unter anderem durch transparente Prüfung, Bewertung und Zertifizierung von KI-Systemen.«
Arne Schönbohm, Präsident des Bundesamts für Sicherheit in der Informationstechnik
Projektpartner und assoziierte Partner
Für eine zielgerichtete und praxisorientierte Entwicklung von KI-Prüfverfahren sind an dem Projekt neben Wissenschaftler*innen auch eine große Anzahl DAX-Konzerne und weitere Wirtschaftsunternehmen sowie Verbände als assoziierte Partner beteiligt. Erfahren Sie mehr über die Partner des Projekts ZERTIFIZIERTE KI.
Der Fraunhofer-Podcast
Dr. Maximilian Poretschkin (Fraunhofer IAIS) und Filiz Elmas (DIN) im Gespräch über das Flagship-Projekt
Workshops
In den Anwenderkreisen des Projekts werden regelmäßig Workshops durchgeführt, um Unternehmensbedarfe und Schwerpunktthemen der KI‑Prüfung zu erarbeiten. Detailinformationen zur Anmeldung und zur jeweiligen Agenda finden Sie zu gegebener Zeit auf der entsprechenden Workshop-Infoseite.
Publikationen
Entdecken Sie mehr Veröffentlichungen des Projektteams rund um den vertrauenswürdigen und sicheren Einsatz von Künstlicher Intelligenz.
KI-Prüfkatalog
Leitfaden zur Gestaltung vertrauenswürdiger Künstlicher Intelligenz
Wie können Unternehmen ihre KI-Systeme vertrauenswürdig gestalten? Mit dieser Frage beschäftigt sich das Projekt ZERTIFIZIERTE KI. Das Fraunhofer IAIS hat eine wichtige inhaltliche Grundlage geschaffen: Ein über 160 Seiten starker KI-Prüfkatalog befähigt Unternehmen, Anforderungen an die Vertrauenswürdigkeit intelligenter Systeme für die Entwicklung individueller KI-Anwendungen zu operationalisieren. Dieser in ersten Pilotprojekten erprobte Leitfaden fließt nun in die Projekt-Zusammenarbeit ein und ist ab sofort für die Öffentlichkeit zugänglich. Ziel ist es, Standards für KI-Prüfungen zu schaffen und den Weg für eine unabhängige KI-Zertifizierung zu ebnen.
Der KI-Prüfkatalog ist online kostenfrei zugänglich unter www.iais.fraunhofer.de/ki-pruefkatalog
Das Land Nordrhein-Westfalen (NRW) hat im Dezember 2018 die Kompetenzplattform für Künstliche Intelligenz KI.NRW ins Leben gerufen, um die Kompetenzen im Bereich Künstliche Intelligenz (KI) zu bündeln, zu stärken und weiter auszubauen. Wesentlich für die KI-Strategie des Landes ist ein verantwortungsvoller Ansatz in der Entwicklung und im Umgang mit Künstlicher Intelligenz, der stets den Menschen in den Mittelpunkt stellt. Daher wurde bereits im Dezember 2018 eine Initiative zur KI-Zertifizierung gestartet.
Unter Leitung des Fraunhofer IAIS hat eine interdisziplinäre Forschungsgruppe mit Vertreter*innen der Universität Bonn und der Universität zu Köln Handlungsfelder für einen vertrauenswürdigen Einsatz von KI definiert. Daneben wurde eine Kooperation mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI) aufgebaut. Wesentliche Inhalte dieser Kooperationsvereinbarung werden im Rahmen des vom Bundesland Nordrhein-Westfalen geförderten KI.NRW-Flagship-Projekts »ZERTIFIZIERTE KI« erarbeitet und umgesetzt. Mit der Dachmarke »Flagships powered by KI.NRW« unterstützt die Kompetenzplattform Künstliche Intelligenz Nordrhein-Westfalen vom Land geförderte Vorhaben als KI-Leuchtturmprojekte. Ziel ist es, einen effizienten Technologietransfer und die enge Zusammenarbeit von Mittelstand, Start-ups, Universitäten, Hochschulen sowie Forschungseinrichtungen in NRW zu gewährleisten und zu unterstützen.
Das Land NRW hat damit beim Thema KI-Zertifizierung eine Vorreiterrolle eingenommen.
