Ziele des Projektes

ZERTIFIZIERTE KI

Künstliche Intelligenz sicher und vertrauenswürdig gestalten

Das Fraunhofer IAIS arbeitet gemeinsam mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI) und dem Deutsches Institut für Normierung (DIN) sowie weiteren Forschungspartnern an der Entwicklung von Prüfverfahren für die Zertifizierung von Systemen der Künstlichen Intelligenz.

Ziel ist es, die technische Zuverlässigkeit und einen verantwortungsvollen Umgang mit der Technologie zu gewährleisten. Hierbei werden industrielle Bedarfe durch die aktive Einbindung von zahlreichen assoziierten Unternehmen und Organisationen berücksichtigt, welche unterschiedliche Branchen wie etwa Telekommunikation, Banken, Versicherungen, Chemie, und Handel repräsentieren.

Entwicklung von KI-Prüfgrundlagen, KI-Prüfkriterien

Untersuchung von neuen Businessmodellen und Märkten für KI-Prüfungen und KI-Zertifizierungen

Ermittlung von Unternehmensbedarfen und Setzen von Standards

Entwicklung von Prototypen für KI-Prüfwerkzeuge und Verfahren zur Absicherung von KI-Systemen

Ganzheitliche Betrachtung unter Einbezug von rechtswissenschaftlichen und philosophisch-ethischen Fragestellungen

KI-Zertifizierung »made in Germany«

Die rasante Entwicklung der Künstlichen Intelligenz (KI) eröffnet große Chancen für neue technische Anwendungen, digitale Businessmodelle und bietet praktische Erleichterungen im Alltagsleben. Während KI-Systeme immer komplexere Aufgaben übernehmen und zunehmend autonom agieren, erfordert der Umgang mit der Technologie ein hohes Maß an Verantwortung. Das enorme wirtschaftliche Potenzial lässt sich in Deutschland und Europa nur mit einem hohen Maß an Sicherheit und Vertrauen in die Technologie realisieren. Dabei helfen prüfbare technische Standards und Normen, die eine neutrale Bewertung der Systeme ermöglichen und die auch Anwendenden sowie Verbraucher*innen vertrauenswürdige Auskünfte über zugesicherte Eigenschaften von KI-Technologien geben. Die Projektpartner wollen technische Produkt- und Prozessprüfungen von KI-Systemen in der Wirtschaft etablieren und so die Entwicklung einer KI-Zertifizierung »made in Germany« vorantreiben.

Leuchtturm-Projekt aus NRW legt Bedarfe fest und führt Pilotprüfungen durch

Das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS leitet die interdisziplinäre Forschungsgruppe aus renommierten Institutionen aus Wissenschaft und Anwendung zur Sicherung der Praxistauglichkeit und Marktfähigkeit innerhalb des Flagship-Projektes. Dazu gehören das BSI, die Universitäten Bonn und Köln, die RWTH Aachen, das Deutsche Institut für Normung DIN sowie zahlreiche DAX-30- und weiteren Unternehmen aus unterschiedlichen Branchen wie Telekommunikation, Banken, Versicherungen, Chemie und Handel.

In branchen- und technologiebezogenen Anwenderkreisen definieren die Beteiligten konkrete Bedarfe, legen Kriterien und Maßstäbe für eine Prüfung in der Praxis fest und führen Pilotprüfungen durch. Mit diesem breiten Beteiligungsprozess wird sichergestellt, dass sich die Verfahren zu allgemein akzeptierten Standards für KI-Systeme und deren Überprüfung entwickeln und gleichzeitig durch rechtliche, ethische und philosophische Betrachtungen flankiert werden.

Ausgeprägte Beteiligungsprozesse der assoziierten und Projektpartner

Für eine zielgerichtete und praxisorientierte Entwicklung einer KI-Zertifizierung sind an dem Projekt neben den mitarbeitenden Projektpartner auch eine große Anzahl DAX-Konzerne und Wirtschafts-Unternehmen als assoziierte Partner beteiligt. Die Einflüsse aus unterschiedlichen Branchen von Telekommunikation über Banken, Versicherungen und Chemie bis in den Handel sollen die Entwicklung von relevanten Prozessen unterstützen, die für möglichst viele Branchen anwendbar sind.