Der MISSION KI Qualitätsstandard für Low Risk AI: Vertrauen schaffen, effizient prüfen – anschlussfähig zum AI Act

Der MISSION KI Qualitätsstandard setzt dort an, wo der EU AI Act nur wenige Vorgaben macht, Qualität aber entscheidend für Vertrauen und Akzeptanz sein kann. Der Vortrag zeigt, wie der Standard als freiwilliger, praxistauglicher Rahmen Organisationen dabei unterstützt, die Qualität von Niedrigrisiko-KI-Systemen strukturiert und effizient zu bewerten und die Ergebnisse nachvollziehbar zu kommunizieren. Zudem wird das MISSION KI Prüfportal vorgestellt, das die Qualitätsprüfung digital als klaren Schritt-für-Schritt-Prozess unterstützt – von der Erfassung des KI Use Cases bis zum teilbaren Prüfbericht.

Rebekka Görge ist als Senior Data Scientist am Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS in Sankt Augustin tätig. Ihre Forschungsschwerpunkte liegen im Bereich der vertrauenswürdigen KI, insbesondere bei der Erkennung und Minderung von Verzerrungen in großen Sprachmodellen unter Verwendung soziolinguistischer Grundlagen sowie bei der Entwicklung neuer Ansätze zur Bewertung und Prüfung von KI-Systemen.

Sie leitet für Fraunhofer IAIS Industrie- und Forschungsprojekte wie unter anderem das Projekt „MISSION KI“, eine groß angelegte Initiative für vertrauenswürdige KI in Deutschland. Darüber hinaus ist sie als Trainerin in der Fraunhofer Big Data Alliance für Datenwissenschaft und vertrauenswürdige KI tätig. 

Wie könnte die Marktüberwachung von KI gestaltet werden?

Uncertainty Quantification Standards for AI Safety: funktionale Sicherheit und KI

Der Vortrag verdeutlicht, wie funktionale Sicherheit und KI im Kontext des AI Acts zusammenwirken und welche Rolle Normung für vertrauenswürdige KI Systeme spielt. Er erläutert die Motivation der DIN SPEC 92005 Quantifizierung von Unsicherheiten im Maschinellen Lernen als Ergebnis von ZERTIFIZIERTE KI sowie ihren Übergang zur internationalen ISO/IEC TS 25223. Zudem ordnet er diese Entwicklungen in den aktuellen Stand der europäischen und internationalen KI Normung ein.

Einsatz von Künstlicher Intelligenz in der Praxis – Wie gelingt das erfolgreiche Navigieren im Spannungsfeld zwischen Innovation, Vertrauenswürdigkeit und regulatorischer Compliance?

Der Vortrag gibt einen praxisorientierten Überblick über den aktuellen Stand des KI-Einsatzes in Organisationen ausgewählter Branchen – mit einem ehrlichen Blick auf Erfolge und bestehende Herausforderungen.

Anhand von Erkenntnissen aus dem Gesundheitssektor als Hochrisiko-Bereich wird aufgezeigt, wie das Spannungsfeld zwischen Innovation, Vertrauenswürdigkeit und regulatorischer Compliance erfolgreich navigiert werden kann.

Best-Practice-Beispiele aus dem T-Health Universum illustrieren konkrete Lösungsansätze und typische Hürden bei der Implementierung vertrauenswürdiger KI-Lösungen.

Schneller zur Konformität: Ansätze und Erfahrungen aus Bayern

Dieser Vortrag beleuchtet die Frage, ob Konformität mit dem AI Act zum Wettbewerbsvorteil werden kann und welche Herausforderungen sich aufgrund der Komplexität und Dynamik des Regelwerks stellen. Vor diesem Hintergrund werden Ansätze und Erfahrungen des Bayerischen KI-Innovationsbeschleunigers geteilt – ein gefördertes Projekt des Bayerischen Staatsministeriums für Digitales, das KMU, Startups und den öffentlichen Sektor bei der Umsetzung des AI Act unterstützt.

»AI Act« als Chance: Umsetzung der KI-Verordnung für Unternehmen – Risiken minimieren, Qualität sichern, Vertrauen fördern

Mit der Verabschiedung des EU AI Acts treten wichtige regulatorische Anforderungen für den Einsatz von KI in Kraft. Für Unternehmen ist es nun entscheidend, die Übergangsfrist zu nutzen, um diese effizient und möglichst pragmatisch umzusetzen. Der Vortrag zur Umsetzung des AI Acts gibt einen Überblick über die Kernelemente der KI-Verordnung und zeigt, wie sich diese operationalisieren lassen. Dabei werden Projektergebnisse aus dem KI.NRW-Flaggschiffprojekt „Zertifizierte KI” präsentiert.

Bridging the Gap – Ansätze und Werkzeuge zur Umsetzung der KI-Verordnung

Der Vortrag nimmt die Chancen und Herausforderungen bei der Umsetzung der KI-Verordnung in den Blick. Im Zentrum stehen dabei die systematische Überbrückung der Kluft zwischen regulatorischer und technischer Ebene sowie das AI Assessment Framework des TÜV AI.Lab. Darüber hinaus werden spezifische Ansätze und Werkzeuge vorgestellt, die das TÜV AI.Lab für die Operationalisierung der KI-Verordnung zur Verfügung stellt.

Dr. Maximilian Poretschkin ist Abteilungsleiter der Abteilung AI Assurance & Assessments (AAA) am Fraunhofer IAIS. Seine Forschungsinteressen liegen im Bereich Prüfung und Absicherung von KI-Systemen hinsichtlich Vertrauenswürdigkeit, was insbesondere auch die Aspekte Zuverlässigkeit und Sicherheit umfasst.

Seine Erfahrungen hat er sowohl im Rahmen öffentlich geförderter Forschungsprojekte auf nationaler und europäischer Ebene als auch über Beteiligung an zahlreichen Industrie- und Wirtschaftsprojekten erworben, wo er als Forscher, Projekt- und Konsortialleiter tätig war.

TrustworthyAI Operations (TAIOps)« als Brücke zwischen AI Governance und Entwicklungspraxis

In dem Vortrag »TrustworthyAI Operations (TAIOps) als Brücke zwischen AI Governance und Entwicklungspraxis« zeigt die Referentin auf, wie BITMARCK eine belastbare Verbindung zwischen Compliance‑Anforderungen und der täglichen Entwicklungspraxis schafft. Am Beispiel von TAIOps als operativem Rahmenwerk demonstriert sie, wie regulatorische Vorgaben in umsetzbare Prozesse übersetzt werden können. Hierbei erläutert sie, wie TAIOps Teams befähigt werden, Risiken frühzeitig zu erkennen sowie mit Hilfe definierter Artefakte Transparenz, Nachvollziehbarkeit und damit auch Vertrauenswürdigkeit sicherzustellen.

Maike Scholz ist Senior Compliance Expertin mit Fokus auf Compliance- und KI-Governance, digitale Ethik und Corporate Digital Responsibility. Als Squad Lead „Digital Ethics“ bei der Deutschen Telekom koordiniert sie die Implementierung der KI-Governance für den Konzern und ist aktiv in der deutschen Verbandsarbeit engagiert. Hier kann sie auf jahrzehntelange Erfahrung in den Bereichen Projekt-Management, Unternehmenssicherheit, Lage-, Notfall- und Krisenmanagement sowie Compliance, Integritäts- und Change-Management zurückblicken.

Umsetzung eines AI Governance Frameworks

Diese Session beleuchtet die Umsetzung der KI-Verordnung entlang des Lebenszyklus von KI-Systemen. Wir zeigen auf, wie die Brücke zwischen rechtlichen Vorgaben und konkreter technischer sowie organisatorischer Implementierung geschlagen werden kann. Erfahren Sie, wie ein globaler Konzern den AI Act mit verteilten Verantwortlichkeiten implementiert.

Den Bock zum Gärtner machen: Risikomanagement in der KI-VO

Die KI-VO der EU setzt weltweit Maßstäbe für die Regulierung von Künstlicher Intelligenz. U.a. verlangt sie ein Qualitätsmanagement und Transparenz. Gleichwohl zeigt ein genauerer Blick auf die Regulierungsmechanismen, dass an der Effektivität dieser Vorgaben Zweifel bestehen können. Viele Vorschriften belassen Risikodefinition und Gegenmaßnahmen in denselben Händen.

Der Vortrag stellt diesen Konflikt vor und analysiert die Strukturen der KI-Verordnung und ihre Wirksamkeit.

KI.NRW Flagship »Zertifizierte KI« – Technische Antworten auf Regulierung

Künstliche Intelligenz entwickelt sich rasant – doch mit zunehmender Leistungsfähigkeit wächst auch die Verantwortung. In seinem Impuls zeigt Dr. Christian Temath (KI.NRW), warum vertrauenswürdige KI zum entscheidenden Erfolgsfaktor für Wirtschaft und Gesellschaft wird und wie Nordrhein-Westfalen mit dem Flagship-Projekt „Zertifizierte KI“ bereits seit Jahren an konkreten Lösungen arbeitet.

Freuen Sie sich auf Einblicke in aktuelle Entwicklungen, praktische Perspektiven zur Umsetzung der KI-Verordnung und einen Ausblick darauf, warum jetzt der richtige Zeitpunkt ist, aktiv zu werden.

KI-Regulierung aus einer zivilgesellschaftlichen Perspektive: Vertrauen ist gut, Kontrolle ist besser?

Damit KI-Systeme vertrauenswürdig sein können, braucht es gerade im Hochrisikobereich umfassende Vorgaben – in sachlicher ebenso wie in prozeduraler Hinsicht. Die unternehmerische Praxis verlangt operationalisierbare Kriterien und Vorgaben, bestenfalls abhakbare Listen und effiziente Dokumentation. Ein ganzheitlicher, sozio-technischer Ansatz verlangt dagegen über den gesamten Lebenszyklus hinweg neben Transparenz und menschlicher Kontrolle immer wieder Stakeholder- und Betroffenenbeteiligung, Reflexion, Abwägung und Entscheidung. An vielen Stellen ein Zielkonflikt, doch kann dies für die Unternehmen auch erhebliche Chancen bieten für bessere KI-Systeme, für bessere Innovations- und Changeprozesse und mehr Vertrauen im Unternehmen wie außerhalb.

Johannes Wellhöfer ist IT-Themenentwickler und Projekt Manager im Bereich Normung und Standardisierung bei DIN, in der Abteilung Industrie und Informationstechnologie. Er unterstützt deutsche Stakeholder*innen dabei ihre technischen und strategischen Interessen effektiv in der Normung zu verfolgen. Sein Fokus liegt auf der Vernetzung der Normung nationalen interessierten Kreisen.

Die Normung ist das international etablierte System zur konsensorientierten Entwicklung technischer Regeln (Normen und Standards), an der deutsche Stakeholder über DIN konkret mitwirken.

Als erfahrene TV-Moderatorin steht Susanne von Hopffgarten seit über 15 Jahren auch als versierte Veranstaltungsmoderatorin für Zukunftsthemen rund um Künstliche Intelligenz und Digitalisierung auf der Bühne.

Mit fundiertem Hintergrundwissen und stilvoller Präsenz gestaltet sie den Dialog zu Regulierung, Innovation und vertrauenwürdiger KI. Ihr Studium in Moderationstechnik und Medienpräsentation sowie ihre langjährige Erfahrung als freie Redakteurin bei SAT.1 bilden das professionelle Fundament ihrer Arbeit.“

Franziska Weindauer ist Geschäftsführerin des TÜV AI.Lab, einem eigenständigen Joint Venture zentraler Akteure der globalen Prüfungs- und Zertifizierungswirtschaft. Das TÜV AI.Lab ebnet den Weg für vertrauenswürdige KI, indem es Konformitätskriterien und Prüfverfahren für KI-Systeme entwickelt.

Zuvor war Franziska Weindauer Senior Advisor für Digitalpolitik im Bundeskanzleramt, Leiterin des Politik-Teams beim Bitkom und Beraterin eines zentralen Europaabgeordneten im Europäischen Parlament. Sie hat European Studies an Universitäten in den Niederlanden, dem Vereinigten Königreich und der Türkei absolviert.