Publikationen aus dem Projekt ZERTIFIZIERTE KI
Hier finden Sie die Publikationen des Projektes ZERTIFIZIERTE KI sowie relevante Veröffentlichungen aus dem direkten Projektumfeld und von Projektpartnern.
Unter Weiterführende und projektrelevante Publikationen finden Sie die entsprechenden Veröffentlichungen der einzelnen Projektpartner. Standardisierungsaktivitäten wie die DIN SPEC aus dem Projekt finden Sie hier.

KI-Prüfkatalog
Leitfaden zur Gestaltung vertrauenswürdiger Künstlicher Intelligenz
Wie können Unternehmen ihre KI-Systeme vertrauenswürdig gestalten? Mit dieser Frage beschäftigt sich das Projekt ZERTIFIZIERTE KI. Das Fraunhofer IAIS hat eine wichtige inhaltliche Grundlage geschaffen: Ein über 160 Seiten starker KI-Prüfkatalog befähigt Unternehmen, Anforderungen an die Vertrauenswürdigkeit intelligenter Systeme für die Entwicklung individueller KI-Anwendungen zu operationalisieren. Dieser in ersten Pilotprojekten erprobte Leitfaden fließt nun in die Projekt-Zusammenarbeit ein und ist ab sofort für die Öffentlichkeit kostenfrei verfügbar. Ziel ist es, Standards für KI-Prüfungen zu schaffen und den Weg für eine unabhängige KI-Zertifizierung zu ebnen.
Der KI-Prüfkatalog steht kostenfrei auf Deutsch und Englisch zum Download bereit: www.iais.fraunhofer.de/ki-pruefkatalog
Whitepaper

KI-Anwendungen systematisch prüfen und absichern
Das neue Whitepaper stellt ein Prüf-Framework vor, das als Plattform zur Integration von KI-Prüfwerkzeugen dient. Außerdem werden ausgewählte KI-Prüfwerkzeuge, die für unterschiedliche Anwendungsbereiche genutzt werden können, sowie ihre Funktionalitäten im Detail erklärt.
Wissenschaftliche Publikationen
Weiterführende und projektrelevante Publikationen
Whitepaper

Vertrauenswürdiger Einsatz von Künstlicher Intelligenz
Das Team der Universitäten Bonn und Köln sowie des Fraunhofer IAIS stellt seinen interdisziplinären Ansatz in einem Whitepaper für die Zertifizierung von KI-Anwendungen vor und erläutert die Handlungsfelder aus philosophischer, ethischer, rechtlicher und technologischer Sicht. Die Publikation bildet die Grundlage für die weitere Entwicklung der KI-Zertifizierung.

Normungsroadmap Künstliche Intelligenz
Mit der Normungsroadmap Künstliche Intelligenz legt Deutschland als erstes Land weltweit eine umfassende Analyse des Bestands und des Bedarfs an internationalen Normen und Standards für diese Schlüsseltechnologie
vor. Die Normungsroadmap gibt Handlungsempfehlungen zur Ethik, Qualität/Konformitätsbewertung, Zertifizierung und IT-Sicherheit von KI-Systemen.

Normungsroadmap Künstliche Intelligenz (zweite Ausgabe)
Die zweite Ausgabe der Normungsroadmap KI schreibt die Ergebnisse der ersten Ausgabe fort und liefert eine erweiterte und aktualisierte Analyse des Bestands und des Bedarfs an internationalen Normen und Standards für KI. Somit wird eine Grundlage gebildet, um „Artificial Intelligence made in Germany“ als weltweit anerkanntes Gütesiegel für eine vertrauenswürdige Technologie zu schaffen. Die Roadmap ist Teil der KI-Strategie der Bundesregierung und erfolgt im Auftrag des Bundesministeriums für Wirtschaft und Klimaschutz (BMWK).

Impulspapier Zertifizierung von KI-Systemen
Welchen Nutzen eine KI-Zertifizierung verspricht und welche Anforderungen sich mit Blick auf technische Umsetzung, Gemeinwohl und Erhalt der Innovationskraft stellen, skizzieren Expert*innen der Plattform Lernende Systeme in diesem Impulspapier. Es gibt einen Überblick über bestehende Zertifizierungsprojekte in Deutschland und bildet die Grundlage für weiterführende Diskussionen.

Kompass für die Entwicklung und Anwendung vertrauenswürdiger KI-Systeme
Die Autor*innen adressieren offene Fragen, etwa dazu, wann KI-Systeme zertifiziert werden sollten, an welchen Kriterien sich diese Zertifizierung orientieren soll und wie eine effiziente Infrastruktur ausgestaltet sein sollte. Das Whitepaper wurde auf der Basis von Experteninterviews mit Mitgliedern und Vertreter*innen der in der Plattform Lernende Systeme beteiligten Forschungseinrichtungen und Unternehmen sowie Gastautor*innen erstellt.