Vertrauenswürdige KI ist längst kein abstraktes Leitbild mehr: Mit dem EU AI Act und ersten Entwürfen harmonisierter Standards liegen die Leitplanken für den Einsatz von KI-Systemen auf dem Tisch. Offen blieb lange die entscheidende Frage: Wie lassen sich diese Anforderungen tatsächlich umsetzen – aussagekräftig, vergleichbar und wirtschaftlich tragfähig?
Genau hier hat das Projekt »Zertifizierte KI« angesetzt. In interdisziplinärer Zusammenarbeit von Informatik, Recht, Ethik, Wirtschaftswissenschaften und Normung wurden Dimensionen der Vertrauenswürdigkeit zu konkreten Prüfkriterien weiterentwickelt, ein einheitliches Vorgehen zur Spezifikation von KI-Prüfobjekten erarbeitet, prototypische Prüfwerkzeuge für Modelle und Daten gebaut und Unternehmen aus verschiedenen Branchen erprobt. Ergänzt wurde dies durch Analysen zum wirtschaftlichen Potenzial von KI-Zertifizierungen sowie durch die Auseinandersetzung mit rechtlichen, ethischen und gesellschaftlichen Rahmenbedingungen.
Zum Projektabschluss ziehen wir Bilanz und blicken nach vorn: Was ist entstanden, was hat sich in der Praxis bewährt – und was bedeutet das für Unternehmen, die sich auf die KI-Regulatorik vorbereiten? Die Projektpartner Fraunhofer IAIS, Universität Bonn (Informatik sowie Philosophie/Ethik), RWTH Aachen (Wirtschaftswissenschaften), DIN Deutsches Institut für Normung und Universität zu Köln (Rechtswissenschaften) stellen ihre Ergebnisse vor, zeigen Prüfwerkzeuge im Einsatz und diskutieren, wie ein belastbares Prüfökosystem für KI »made in Germany« weiterwachsen kann.
Wir laden herzlich dazu ein, gemeinsam auf den Weg von abstrakten Anforderungen zur praxistauglichen KI-Prüfung zurückzublicken – und die nächsten Schritte mitzugestalten.
Zielgruppe
Die Abschlussveranstaltung richtet sich an Interessierte aus Wirtschaftsunternehmen und Organisationen, die KI-Systeme entwickeln, einsetzen oder verantworten und sich über konkrete Prüfansätze informieren sowie mit Expertinnen und Experten austauschen und vernetzen wollen. Ebenso herzlich eingeladen sind Vertreter*innen aus Prüf- und Zertifizierungsstellen, Normung, Forschung und Politik.
Organisiert von:
Speaker

Dr. Daniel Becker
Fraunhofer IAIS
Teamleiter AI Assessment Operations

Paul Frederik Höller
MWIKE NRW
Staatssekretär

Manoj Kahdan
RWTH Aachen University
AI Governance & Responsible AI | PhD

Fabian Malms
Fraunhofer IAIS
Projektleiter „Zertifizierte-KI“, Abteilung AI Assurance & Assessments

Dr. Maria Mensch
DIN
Innovationsmanagerin

Dr. Maximilian Poretschkin
Fraunhofer IAIS
Abteilungsleiter AI Assurance & Assessments

Prof. Dr. Dr. Frauke Rostalski
Universität zu Köln
Professorin für Strafrecht, Strafprozessrecht, Rechtsphilosophie und Rechtsvergleichung

Prof. Dr. Torsten-Oliver Salge
RWTH Aachen University
Professor und Leiter des Instituts für Technologie- und Innovationsmanagement

Mathias Schuh
Universität zu Köln
Doktorand für Strafrecht, Strafprozessrecht, Rechtsphilosophie und Rechtsvergleichung

Dr. Christian Temath
KI.NRW
Geschäftsführer

Dr. Erik Weiss
Universität zu Köln
Habilitand Strafrecht, Strafprozessrecht, Rechtsphilosophie und Rechtsvergleichung

Johannes Wellhöfer
DIN
Themenentwickler und Projektmanager

Prof. Dr. Stefan Wrobel
Fraunhofer IAIS, Universität Bonn
Institutsleiter, Professor für Informatik
Themenblöcke der Agenda
Technische Implementierung
Von AI-Act-Anforderungen zu nachweisbarer KI-Konformität
Erfahren Sie, wie Unternehmen die Anforderungen des AI Acts in der Praxis umsetzten und die Vertrauenswürdigkeit ihrer KI-Systeme systematisch nachweisen können. Lernen Sie den aktualisierten KI-Prüfkatalog kennen, der Organisationen dabei unterstützt, Risiken zu bewerten, geeignete Maßnahmen abzuleiten und belastbare Nachweise zu erbringen. Darüber hinaus erhalten Sie Einblicke in innovative Prüfwerkzeuge und eine Prüfplattform, die KI-Prüfungen effizienter, reproduzierbarer und skalierbarer machen.
Rechtliche Einordnung
Rechtliche Anforderungen an KI-Systeme und ihre Operationalisierung
Die KI-Verordnung verfolgt einen risikobasierten Ansatz: In Abhängigkeit von der Kritikalität eines KI-Systems bzw. eines KI-Modells werden abgestufte Anforderungen aufgestellt. Im Bereich der Hochrisiko-KI-Systeme zählen hierzu insbesondere Anforderungen an die Daten und Daten-Governance, gewisse Transparenzpflichten sowie die Verpflichtung zur Gewährleistung einer menschlichen Aufsicht.
Die Frage, wie diese Vorgaben im Einzelfall konkretisiert werden können, steht aktuell im Fokus einschlägiger Debatten. Anhand ausgewählter Schwerpunkte möchte das rechtswissenschaftliche Projektteam aufzeigen, wie und in welchem Umfang eine aktualisierte Version des im Projekt entwickelten Prüfkatalogs zu einer Konformität entsprechender KI-Systeme mit den jeweiligen Vorgaben beitragen kann.
Normung
Normung und Standardisierung – Projektergebnisse nachhaltig verankern
Normen und Standards schaffen eine gemeinsame Sprache für Entwicklung, Prüfung und Einsatz von KI-Systemen. Der Themenblock zeigt, wie Erkenntnisse und Ergebnisse aus ZERTIFIZIERTE KI in die Normung und Standardisierung überführt werden können.
Vorgestellt werden im Projekt entwickelte oder angestoßene Standardisierungsansätze, beispielsweise DIN-SPECs, sowie ihre mögliche Bedeutung für Unternehmen und Prüforganisationen. Zudem wird die Einbettung in europäische und internationale Aktivitäten bei CEN/CENELEC und ISO/IEC betrachtet.
Innovationsmanagement
Umsetzung und Kommunikation der Vertrauenswürdigkeit von KI-Systemen
In diesem Teil werden wirtschaftswissenschaftliche Forschungserkenntnisse und praktische Erfahrungen zusammengeführt, um einen effektiven Wissenstransfer zwischen Regulierung, Wissenschaft und Unternehmenspraxis zu ermöglichen. Der wissenschaftliche Beitrag präsentiert aktuelle Studienergebnisse dazu, wie Zertifizierungsansätze die wahrgenommene Vertrauenswürdigkeit von KI-Anwendungen bei Kund:innen beeinflussen und welche Gestaltungsmerkmale besonders wirksam sind.
Philosophische Perspektive
Was bedeutet vertrauenswürdige KI? Eine philosophische Perspektive
Vertrauenswürdigkeit ist ein zentraler Begriff in der Debatte um KI – zugleich bleibt häufig offen, was genau darunter zu verstehen ist. Der philosophische Themenblock fragt daher, wer einer KI, ihren Entwicklern oder den sie einsetzenden Organisationen vertraut und auf welcher Grundlage dieses Vertrauen entstehen kann.
Vertrauenswürdige KI entsteht nicht allein durch ein Zertifikat, sondern durch das Zusammenspiel von Technik, Organisation, Recht und gesellschaftlicher Verantwortung.
Programm
Das Programm wird fortlaufend aktualisiert. Stand: 30.09.2026
Location
Deutsches Museum Bonn
Ahrstraße 45, 53175 Bonn
Erleben, verstehen, mitgestalten – das ist die »Mission KI« des Deutschen Museums
Bonn. Dynamische Erlebnisräume laden zum Eintauchen in die Welt der Künstlichen
Intelligenz (KI) ein. Interaktive Exponate und Erlebnisstationen machen die Grundlagen
und aktuelle Entwicklungen der KI greifbar und verständlich.
Das Deutsche Museum Bonn – Forum für Künstliche Intelligenz ist die einzige
Zweigstelle des weltberühmten Deutschen Museums außerhalb Bayerns und wird
hauptsächlich gefördert vom Ministerium für Heimat, Kommunales, Bau und
Digitalisierung des Landes Nordrhein-Westfalen.



Fotos: Deutsches Museum/Lichtenscheidt
Anmeldung

Prof. Dr. Stefan Wrobel
Fraunhofer IAIS, Universität Bonn
Institutsleiter, Professor für Informatik
Prof. Dr. Stefan Wrobel ist Professor für Informatik an der Universität Bonn, Leiter des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS und Bonner Direktor des Lamarr-Instituts für Maschinelles Lernen und Künstliche Intelligenz.
Nach Stationen in Berlin und Sankt Augustin wurde er Professor für Informatik an der Universität Magdeburg, bevor er dann den Ruf auf seine aktuelle Position annahm. Weiterhin ist er geschäftsführender Direktor des Bonn-Aachen International Center for Information Technology (b-it), Sprecher der Fraunhofer-Allianz Big Data und Künstliche Intelligenz sowie stellvertretender Sprecher des Fraunhofer-Verbunds Informations- und Kommunikationstechnologien.

Dr. Daniel Becker
Fraunhofer IAIS
Teamleiter AI Assessment Operations
Daniel Becker leitet das Team AI Assessment Operations (AAOps) der Abteilung AI Assurance & Assessments am Fraunhofer IAIS. Er und sein Team adressieren die Frage, wie sich real eingesetzte KI-Systeme vertrauenswürdig gestalten lassen, aus einer technischen Perspektive. Seine Forschungsschwerpunkte liegen in der Entwicklung neuer Prüfmethoden und -werkzeuge für KI-Systeme sowie der Konzeptionierung und Implementierung von KI-Prüfinfrastruktur.
Er hat an der Universität Hamburg in theoretischer Physik promoviert, als Postdoc an der Universität Basel im Bereich Quantum Computing geforscht und als quantitativer Analyst im algorithmischen Börsenhandel gearbeitet.

Johannes Wellhöfer
DIN
Themenentwickler und Projektmanager
Johannes Wellhöfer ist Themenentwickler und Projektmanager bei DIN e. V. mit Schwerpunkt auf IT-Normung und Stakeholdervernetzung. Im Projekt Zertifizierte KI (ZertKI) verantwortete er den Transfer der Projektergebnisse in die Normung und Standardisierung, unterstützte die Einbindung relevanter Stakeholder und repräsentierte das Projekt auf unterschiedlichen Fachveranstaltungen. Sein Schwerpunkt liegt auf der Vernetzung von Expert*innen aus Wirtschaft, Wissenschaft und Normung sowie der Entwicklung neuer Standardisierungsthemen.

Dr. Maria Mensch
DIN
Innovationsmanagerin
Dr. Maria Mensch ist Innovationsmanagerin bei DIN und beschäftigt sich themenoffen mit der Entwicklung von DIN SPECs sowie mit Foresight Themen in der Standardisierung. In ZertKI betreute sie die Erarbeitung einer DIN SPEC und begleitete die Einbindung der Projektergebnisse in die Standardisierung und repräsentierte DIN e.V. auf mehreren Konferenzen für das Projekt. Ihr Schwerpunkt liegt auf der Identifikation neuer Themenfelder und der Entwicklung innovativer Standardisierungsvorhaben.

Prof. Dr. Dr. Frauke Rostalski
Universität zu Köln
Professorin für Strafrecht, Strafprozessrecht, Rechtsphilosophie und Rechtsvergleichung
Frauke Rostalski wurde am 6. Januar 1985 in Bad Nauheim geboren. Von 2004 bis 2009 studierte sie Rechtswissenschaften an der Philipps-Universität Marburg und legte anschließend das Erste Juristische Staatsexamen ab. 2011 promovierte sie dort zum Dr. iur. mit einer Arbeit zum Thema „Gesinnung und Straftat“. Nach ihrem juristischen Vorbereitungsdienst in Marburg und dem Zweiten Juristischen Staatsexamen habilitierte sie sich 2017 im Fach Strafrecht. Im selben Jahr erwarb sie außerdem einen Doktorgrad in Philosophie an der Friedrich-Schiller-Universität Jena. Seit 2018 ist Rostalski Professorin für Strafrecht, Strafprozessrecht, Rechtsphilosophie und Rechtsvergleichung an der Universität zu Köln. Seit 2020 ist sie zudem Mitglied des Deutschen Ethikrats. Zu ihren wissenschaftlichen Schwerpunkten gehören unter anderem Fragen des Strafrechts, der Rechtsphilosophie sowie ethische und gesellschaftliche Herausforderungen in Medizin und Künstlicher Intelligenz. Auch zu aktuellen gesellschaftspolitischen Themen veröffentlicht sie Bücher. In „Die vulnerable Gesellschaft“ beschäftigt sie sich mit dem Umgang mit Verletzlichkeit und Schutzbedürfnissen in der Gesellschaft. In ihrem Buch „Wer soll was tun?“ setzt sie sich mit Fragen rund um den Klimaschutz, individuelle Verantwortung und die Verteilung von Verantwortung auseinander.“

Mathias Schuh
Universität zu Köln
Doktorand für Strafrecht, Strafprozessrecht, Rechtsphilosophie und Rechtsvergleichung
Mathias Schuh ist Doktorand am Lehrstuhl für Strafrecht, Strafprozessrecht, Rechtsphilosophie und Rechtsvergleichung von Frau Professorin Rostalski an der Universität zu Köln. Zugleich ist er Teammitglied im rechtswissenschaftlichen Teilprojekt des interdisziplinären Forschungsprojekts „Zertifizierte KI“. In seiner Forschung beschäftigt er sich mit den Implikationen und Regelungsinstrumenten (europäischer) KI-Regulierung. Einen besonderen Schwerpunkt bilden die in der KI-Verordnung getroffenen Regulierungsentscheidungen sowie deren Konkretisierung und Anwendung im Einzelfall.

Dr. Erik Weiss
Universität zu Köln
Habilitand Strafrecht, Strafprozessrecht, Rechtsphilosophie und Rechtsvergleichung
Dr. Erik Weiss ist akademischer Rat a.Z. und Habilitand am Lehrstuhl für Strafrecht, Strafprozessrecht, Rechtsphilosophie und Rechtsvergleichung von Frau Professorin Rostalski an der Universität zu Köln. Gemeinsam mit Frau Rostalski leitet er die rechtswissenschaftlichen Teilprojekte im Rahmen der Verbundprojekte „Zertifizierte KI“ und „EMAS-KI“. Zu seinen zentralen Forschungsinteressen zählen insbesondere das Recht der Digitalisierung und die interdisziplinäre Rechtsforschung. Er befasst sich u.a. mit den Herausforderungen für das Recht durch den Einsatz Künstlicher Intelligenz.

Prof. Dr. Torsten-Oliver Salge
RWTH Aachen University
Professor und Leiter des Instituts für Technologie- und Innovationsmanagement
Torsten-Oliver Salge studierte Betriebswirtschaftslehre an Universitäten in Deutschland, Frankreich, Italien und England. Sein Masterstudium (M.Phil.) führte er genauso wie seine Promotion (Ph.D.) an der Universität Cambridge durch. Seit April 2013 leitet er das Institut für Technologie- und Innovationsmanagement an der RWTH Aachen University. Zuvor war er als Vertretungsprofessor an der Universität Duisburg-Essen (2012-2013), als Juniorprofessor an der Ruhr-Universität Bochum (2009-2012) und als Post-Doktorand an der Universität Cambridge (2009) tätig. Seine Forschungs- und Projektschwerpunkte liegen unter anderem im Bereich der verantwortungsvollen künstlichen Intelligenz sowie dem Einsatz von künstlicher Intelligenz im Gesundheitswesen.

Manoj Kahdan
RWTH Aachen University
AI Governance & Responsible AI | PhD
Manoj Kahdan ist seit April 2021 als wissenschaftlicher Mitarbeiter am Institut für Technologie- und Innovationsmanagement der RWTH Aachen University tätig. Mit einem akademischen Hintergrund in Wirtschaftsinformatik (M.Sc.), den er an der Goethe-Universität Frankfurt am Main erworben hat, leitet er das Flagship-Projekt „Zertifizierte KI” Seitens der RWTH. Im Rahmen des Projekts liegt der Fokus auf empirischen Studien zur Wirkung einer möglichen KI-Zertifizierung sowie auf der Entwicklung tragfähiger Geschäftsmodelle. Seine Expertise im Bereich Responsible AI konnte er unter anderem im Rahmen eines Forschungsaufenthalts am Centre for Human-Inspired Artificial Intelligence der University of Cambridge vertiefen. In seiner gegenwärtigen Forschung konzentriert er sich vorrangig auf die Bereiche Responsible AI und AI Governance.

Fabian Malms
Fraunhofer IAIS
Projektleiter „Zertifizierte-KI“, Abteilung AI Assurance & Assessments
Fabian Malms ist Projektleiter in der Abteilung AAA „AI Assurance and Assessments” und leitet unter anderem das Flaggschiff-Projekt „Zertifizierte KI”. Er hat zwei Master of Laws (LL.M.) in Europäischem Recht/Wirtschaftsrecht von der Universität Maastricht und verfügt somit über einen juristischen akademischen Hintergrund. Der Schwerpunkt seiner Arbeit liegt auf KI-Governance und der Frage, wie durch ein KI-Qualitäts- und Risikomanagement eine „AI Act Compliance by design” in Organisationen erreicht werden kann.
Zuvor war er zehn Jahre im Finanzsektor tätig, unter anderem in Compliance-Funktionen sowie in der Unternehmensentwicklung mit Fokus auf Digitalisierung, Produktentwicklung und Transformation. In dieser Zeit war er als Projektmanager unter anderem für den Aufbau eines „KI-Labs“ und die inhaltliche Entwicklung und Einführung verschiedener KI-Systeme in einer europäischen Großbank verantwortlich.

Dr. Maximilian Poretschkin
Fraunhofer IAIS
Abteilungsleiter AI Assurance & Assessments
Dr. Maximilian Poretschkin ist Abteilungsleiter der Abteilung AI Assurance & Assessments (AAA) am Fraunhofer IAIS. Seine Forschungsinteressen liegen im Bereich Prüfung und Absicherung von KI-Systemen hinsichtlich Vertrauenswürdigkeit, was insbesondere auch die Aspekte Zuverlässigkeit und Sicherheit umfasst.
Seine Erfahrungen hat er sowohl im Rahmen öffentlich geförderter Forschungsprojekte auf nationaler und europäischer Ebene als auch über Beteiligung an zahlreichen Industrie- und Wirtschaftsprojekten erworben, wo er als Forscher, Projekt- und Konsortialleiter tätig war.

Dr. Christian Temath
KI.NRW
Geschäftsführer
Dr. Christian Temath ist seit September 2020 Geschäftsführer der Kompetenzplattform KI.NRW und arbeitet am Fraunhofer IAIS in Sankt Augustin mit seinem Team daran, die Marke »KI made in NRW« zu etablieren und die technologische Souveränität des Landes NRW zu stärken.
Als promovierter Wirtschaftsinformatiker verfügt er über langjährige Erfahrung in der Managementberatung im Bereich Technologie sowie in der praktischen Anwendung von KI-Technologien bei einem internationalen e-Commerce-Unternehmen. Sein Team aus KI-Manager*innen bündelt Wissen und Erfahrung aus den Bereichen Künstliche Intelligenz, Digitalisierung, Netzwerkarbeit und Beratung mit dem Ziel, Unternehmen, mittelständischen Firmen und Start-ups den Einstieg in die KI zu erleichtern.

Johannes Wellhöfer
DIN Deutsches Institut für Normung e. V.
IT-Themenentwickler in der Normung und Standardisierung
Johannes Wellhöfer ist IT-Themenentwickler und Projekt Manager im Bereich Normung und Standardisierung bei DIN, in der Abteilung Industrie und Informationstechnologie. Er unterstützt deutsche Stakeholder*innen dabei ihre technischen und strategischen Interessen effektiv in der Normung zu verfolgen. Sein Fokus liegt auf der Vernetzung der Normung nationalen interessierten Kreisen.
Die Normung ist das international etablierte System zur konsensorientierten Entwicklung technischer Regeln (Normen und Standards), an der deutsche Stakeholder über DIN konkret mitwirken.
