Aktuelle News zum Projekt

KI-Prüfkatalog

BSI und Fraunhofer IAIS machen Unternehmen fit für KI-Prüfungen. Eine neu gegründete Arbeitsgruppe hat zum Ziel, standardisierungsreife Prüfgrundlagen und Kriterienwerke für KI-Systeme zu definieren. In die Zusammenarbeit fließt der jetzt veröffentlichte KI-Prüfkatalog des Fraunhofer IAIS ein.

KI-Workshops

Für eine zielorientierte und bedarfsgerechte Gestaltung des Projektes sind verschiedene Workshops für Projektpartner, assozierte Partner sowie weitere interessierte Expert*innen geplant. Hier finden Sie das aktuelle Angebot

Podcast

Im aktuellen Podcast der Fraunhofer-Gesellschaft sprechen Dr. Maximilian Poretschkin, Senior Data Scientist am Fraunhofer IAIS und Projektleiter des KI.NRW Flagships, und Filiz Elmas, Leiterin Geschäftsfeldentwicklung Künstliche Intelligenz beim Deutschen Institut für Normung (DIN) über KI-Zertifizierung »made in Germany«.

Pressemitteilung vom 24. November 2020

Künstliche Intelligenz sicher und vertrauenswürdig gestalten – Nächster großer Schritt Richtung KI-Zertifizierung »made in Germany«

Fraunhofer IAIS und Bundesamt für Sicherheit in der Informationstechnik BSI starten strategische Kooperation zur Entwicklung von Prüfverfahren für die Zertifizierung von Systemen der Künstlichen Intelligenz

Ziele des Projektes

ZERTIFIZIERTE KI

Künstliche Intelligenz sicher und vertrauenswürdig gestalten

Das Fraunhofer IAIS arbeitet gemeinsam mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI) und dem Deutschen Institut für Normung (DIN) sowie weiteren Forschungspartnern an der Entwicklung von Prüfverfahren für die Zertifizierung von Systemen der Künstlichen Intelligenz.

Ziel ist es, die technische Zuverlässigkeit und einen verantwortungsvollen Umgang mit der Technologie zu gewährleisten. Hierbei werden industrielle Bedarfe durch die aktive Einbindung von zahlreichen assoziierten Unternehmen und Organisationen berücksichtigt, welche unterschiedliche Branchen wie etwa Telekommunikation, Banken, Versicherungen, Chemie, und Handel repräsentieren.

Entwicklung von KI-Prüfgrundlagen, KI-Prüfkriterien

Untersuchung von neuen Businessmodellen und Märkten für KI-Prüfungen und KI-Zertifizierungen

Ermittlung von Unternehmensbedarfen und Setzen von Standards

Entwicklung von Prototypen für KI-Prüfwerkzeuge und Verfahren zur Absicherung von KI-Systemen

Ganzheitliche Betrachtung unter Einbezug von rechtswissenschaftlichen und philosophisch-ethischen Fragestellungen

Dimensionen zur Beurteilung
der Qualität und Vertrauenswürdigkeit von KI

Als Grundlage für die Zertifizierung von KI-Systemen wurden in interdisziplinärer Zusammenarbeit sieben Dimensionen der Vertrauenswürdigkeit identifiziert.
Die Entwicklung der technischen Prüfverfahren setzt hier an.

Auf Basis der Erarbeitung technischer Prüfverfahren soll auch der interdisziplinäre Diskurs zur Gestaltung ethischer und rechtlicher Rahmenbedingungen weitergeführt werden. Ziel ist es, das Vertrauen und die Akzeptanz bei Unternehmen, Anwender*innen und gesellschaftlichen Akteuren in KI-basierte Anwendungen zu stärken. Die Entwicklung des Prüfkatalogs orientiert sich an den Empfehlungen der »Datenethikkommission« der Bundesregierung und die von der Europäischen Kommission beauftragte »High Level Expert Group on AI« und soll ein breites Spektrum technischer Qualitätskriterien, das neben Verlässlichkeit und Sicherheit auch Kriterien der Transparenz und Fairness abdeckt, berücksichtigen.

Der Fraunhofer-Podcast

Maximilian Poretschkin (Fraunhofer IAIS) und Filiz Elmas (DIN) im Gespräch über das Flagship-Projekt

Workshops

Zu Beginn des Projekts werden Workshops durchgeführt, um den aktuellen Stand bei KI-Prüfungen zu diskutieren und Unternehmensbedarfe und Schwerpunktthemen zu ermitteln. Detailinformationen zur Anmeldung und zur jeweiligen Agenda finden Sie zu gegebener Zeit auf der entsprechenden Workshop-Seite.

Workshop 1

Ansätze zur Prüfung von KI-Systemen

23. Juni 2021
10.00 – 14.30 Uhr

Workshop 2 (nur projektintern)

KI Risiken systematisch bewerten

16. September 2021
9.00 – 12.30 Uhr

Workshop 3

Werkzeuge für KI-Qualität

2. November 2021
9.00 – 12.30 Uhr

Workshop 4 (nur projektintern)

Systematische Evaluation des Standardisierungsbedarfes

7. Dezember 2021
vsl. 9.00 – 13.00 Uhr

Zusätzlich werden zeitnah Anwenderkreise gebildet. In diesen Anwenderkreisen werden relevante Use Cases identifiziert und diskutiert, an denen die entwickelten Prüfgrundlagen getestet und weiterentwickelt werden und Absicherungstechniken erörtert werden. Auf diese Weise können Hypothesen der Prüfgrundlagen verifiziert und neu konzipierte Prüfwerkzeuge in einer realen Betriebsumgebung getestet werden. Aus dem dadurch gewonnenen tieferen Verständnis anwenderspezifischer Familien von Use Cases werden Prüfprofile erstellt und standardisiert, welche die Prüfung vergleichbarer KI-Anwendungen ermöglichen und somit zur Marktfähigkeit der entwickelten Verfahren beitragen.

Publikationen

BSI und Fraunhofer IAIS machen Unternehmen fit für KI-Prüfungen

Wie können Unternehmen ihre KI-Systeme vertrauenswürdig gestalten? Mit dieser Frage beschäftigt sich eine neu gegründete Arbeitsgruppe des Bundesamts für Sicherheit in der Informationstechnik BSI und des Fraunhofer IAIS im Rahmen des KI.NRW Flagship-Projekts »Zertifizierte KI«. Die Arbeitsgruppe hat zum Ziel, standardisierungsreife Prüfgrundlagen und Kriterienwerke für KI-Systeme zu definieren. Das Fraunhofer-Team hat eine wichtige inhaltliche Grundlage geschaffen: Ein über 160 Seiten starker KI-Prüfkatalog befähigt Unternehmen, Anforderungen an die Vertrauenswürdigkeit intelligenter Systeme für die Entwicklung individueller KI-Anwendungen zu operationalisieren. Dieser in ersten Pilotprojekten erprobte Leitfaden fließt nun in die Zusammenarbeit mit dem BSI ein und ist ab sofort für die Öffentlichkeit zugänglich. Ziel ist es, Standards für KI-Prüfungen zu schaffen und den Weg für eine unabhängige KI-Zertifizierung zu ebnen.

Der KI-Prüfkatalog ist ab sofort online zugänglich unter www.iais.fraunhofer.de/ki-pruefkatalog

Vertrauenswürdiger Einsatz von Künstlicher Intelligenz

Das Team der Universitäten Bonn und Köln sowie des Fraunhofer IAIS stellt seinen interdisziplinären Ansatz in einem Whitepaper für die Zertifizierung von KI-Anwendungen vor und erläutert die Handlungsfelder aus philosophischer, ethischer, rechtlicher und techno­logi­scher Sicht. Die Publikation bildet die Grundlage für die weitere Entwicklung der KI-Zertifizierung.

Normungsroadmap KI

Handlungsempfehlungen für Standardisierung rund um Künstliche Intelligenz

Impulspapier Zertifizierung von KI-Systemen

Welchen Nutzen eine KI-Zertifizierung verspricht und welche Anforderungen sich mit Blick auf technische Umsetzung, Gemeinwohl und Erhalt der Innovationskraft stellen, skizzieren Expert*innen der Plattform Lernende Systeme in diesem Impulspapier. Es gibt einen Überblick über bestehende Zertifizierungsprojekte in Deutschland und bildet die Grundlage für weiterführende Diskussionen.

Kompass für die Entwicklung und Anwendung vertrauenswürdiger KI-Systeme

Die Autor*innen adressieren offene Fragen, etwa dazu, wann KI-Systeme zertifiziert werden sollten, an welchen Kriterien sich diese Zertifizierung orientieren soll und wie eine effiziente Infrastruktur ausgestaltet sein sollte. Das Whitepaper wurde auf der Basis von Experteninterviews mit Mitgliedern und Vertreter*innen der in der Plattform Lernende Systeme beteiligten Forschungseinrichtungen und Unternehmen sowie Gastautor*innen erstellt.

Projektpartner

Fraunhofer IAIS

Das Fraunhofer-Institut IAIS leitet das Konsortium ZERTIFIZIERTE KI. Im Projekt erarbeitet es zusammen mit dem BSI Prüfgrundlagen für KI-Anwendungen und gestaltet zusammen mit dem DIN die Anwenderkreise, wo der Transfer der Ergebnisse in die industrielle Praxis erfolgt. Darüber hinaus baut das IAIS eine Plattform mit Demonstratoren und prototypischen Prüfwerkzeugen auf. Schließlich ist das Fraunhofer IAIS für die Dissemination der Ergebnisse in die breite Öffentlichkeit und die Projektkommunikation zuständig.

Universität Bonn

Informatik
Das Institut für Informatik III der Universität Bonn verantwortet im Projekt die Entwicklung von prototypischen Prüfwerkzeugen für KI-Anwendungen und die Behandlung von informatischen Fragestellungen zur Absicherung von KI-Anwendungen.

Philosophie
Das Center for Science and Thought ist für die Ausarbeitung ethisch relevanter Parameter für KI Use Cases sowie die Entwicklung von allgemeinen und kontextspezifischen Mindestanforderungen hinsichtlich philosophisch-ethischer Prinzipien zuständig.

BSI

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) ist die zentrale Zertifizierungsstelle für IT-Sicherheit in Deutschland. Es verantwortet im Projekt die ganzheitliche Erarbeitung einer formalen Prüfmethodologie für KI-Anwendungen sowie die Überprüfung und Sicherstellung der Anschlussfähigkeit der zu erarbeitenden Prüfverfahren an bestehende Prüfkriterien und -Grundlagen.

DIN

Das Deutsche Institut für Normung e.V. (DIN) ist zusammen mit dem IAIS für die Organisation der Anwenderkreise zuständig. Ferner initiiert es die Überführung der Projektergebnisse in die Normung und Standardisierung und übernimmt die Harmonisierung mit europäischen und internationalen Standardisierungsaktivitäten bei CEN/CENELEC und ISO/IEC.

Universität zu Köln

Der Lehrstuhl für Strafrecht, Strafprozessrecht, Rechtsphilosophie und Rechtsvergleichung arbeitet allgemeine rechtliche Kernvoraussetzungen für den Einsatz von KI-Anwendungen heraus und präzisiert diese. Dabei geht es insbesondere um Fragen des Schutzes der Autonomie, des notwendigen Maßes an Transparenz, des Datenschutzes und der Diskriminierungsfreiheit. Zudem werden sektorspezifische Analysen durchgeführt, um rechtliche Leitlinien für verschiedene Branchen zu entwickeln.

RWTH Aachen University

Das Institut für Technologie- und Innovationsmanagement der RWTH Aachen University verantwortet die Strukturierung und Quantifizierung des Bedarfs an KI-Prüf- und -Zertifizierungsdienstleistungen für unterschiedliche Anwendungsfelder, die Quantifizierung der Wirkung von KI-Zertifizierungen auf Anwender und Verbraucher sowie die Entwicklung von Geschäftsmodellen und Vertriebskonzepten für die Verwertung und Verstetigung.

Assoziierte Partner

Breites Spektrum an aktiven Partnern aus der Wirtschaft sorgt für hohe Praxisrelevanz

Für eine zielgerichtete und praxisorientierte Entwicklung einer KI-Zertifizierung sind an dem Projekt neben den mitarbeitenden Projektpartner auch eine große Anzahl DAX-Konzerne und Wirtschafts-Unternehmen als assoziierte Partner beteiligt. Die Einflüsse aus unterschiedlichen Branchen von Telekommunikation über Banken, Versicherungen und Chemie bis in den Handel sollen die Entwicklung von relevanten Prozessen unterstützen, die für viele Branchen anwendbar sind.

Für die beteiligten Partner wie die Deutsche Telekom, die Allianz, die Commerzbank oder REWE Digital bietet die Projektteilnahme neben produktiven und praxisnahen Workshops auch eine geschützte Austauschplattform zum aktiven Networking und konstruktiven Austausch untereinander.

Das Land Nordrhein-Westfalen (NRW) hat im Dezember 2018 die Kompetenzplattform für Künstliche Intelligenz (KI) KI.NRW ins Leben gerufen, um die Kompetenzen im Bereich KI zu bündeln, zu stärken und weiter auszubauen. Wesentlich für die KI-Strategie des Landes ist ein verantwortungsvoller Ansatz in der Entwicklung und im Umgang mit Künstlicher Intelligenz, der stets den Menschen in den Mittelpunkt stellt. Daher wurde bereits im Dezember 2018 eine Initiative zur KI-Zertifizierung gestartet.

Unter Leitung des Fraunhofer IAIS hat eine interdisziplinäre Forschungsgruppe mit Vertreter*innen der Universität Bonn und der Universität zu Köln Handlungsfelder für einen vertrauenswürdigen Einsatz von KI definiert. Daneben wurde eine Kooperation mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI) aufgebaut. Wesentliche Inhalte dieser Kooperationsvereinbarung werden im Rahmen des vom Bundesland Nordrhein-Westfalen geförderten KI.NRW-Flagship-Projekts »Zertifizierte KI« erarbeitet und umgesetzt. Mit der Dachmarke »Flagships powered by KI.NRW« unterstützt die Kompetenzplattform Künstliche Intelligenz Nordrhein-Westfalen vom Land geförderte Vorhaben als KI-Leuchtturmprojekte. Ziel ist es, einen effizienten Technologietransfer und die enge Zusammenarbeit von Mittelstand, Start-ups, Universitäten, Hochschulen sowie Forschungseinrichtungen in NRW zu gewährleisten und zu unterstützen.

Das Land NRW hat damit beim Thema KI-Zertifizierung eine Vorreiterrolle eingenommen.

Möchten Sie assoziierter Partner werden oder haben Sie Fragen zum Projekt?

Nehmen Sie gerne mit dem Projektteam Kontakt auf.

Sie erhalten eine automatische Bestätigungsmail, nachdem Sie Ihre Nachricht abgeschickt haben.

Wir freuen uns auf Ihre Nachricht!

Mit dem Absenden des Formulars bestätige ich, dass ich die Datenschutzerklärung zur Kenntnis genommen habe. Ich bin damit einverstanden, dass die von mir angegebenen Daten elektronisch erhoben und gespeichert werden. Mit dem Absenden des Kontaktformulars willige ich ein, dass ich mit der Verarbeitung einverstanden bin.

Die von Ihnen zuvor mitgeteilte E-Mail-Adresse verwenden wir, um Sie zukünftig per E-Mail über eigene ähnliche Angebote (z.B. Veranstaltungen) zu informieren. Sie können dieser Verwendung jederzeit gegenüber Fraunhofer, insbes. unter widerspruch@iais.fraunhofer.de widersprechen.
Sie können weitere Informationen zu dem Thema Datenschutz bei Fraunhofer, insbesondere zu den gesetzlich vorgeschrieben Informationspflichten, jederzeit über unsere Datenschutzerklärung einsehen.


*Pflichtfelder