Die Prüf-Toolsuite
Werkzeuge und Verfahren zur KI-Prüfung
Prüfungen sind ein wichtiger Baustein von Entwicklungsprozessen und der Qualitätskontrolle. Sie können freiwillig erfolgen, z.B. mit dem Ziel, eine starke und zuverlässige Marke zu schaffen, dienen aber auch häufig als Grundlage für die Zulassung und das Inverkehrbringen von Produkten, wenn dies durch Regulierungen und Standards gefordert ist. Gerade bei KI-Systemen gelten diese Motivationen in besonderem Maße, denn nicht nur Unternehmen, die Hochrisiko-KI-Anwendungen entwickeln oder einsetzen, müssen sich mit der Qualitätssicherung ihrer Anwendungen auseinandersetzen. Dafür entwickeln wir Prüfwerkzeuge und Verfahren, die KI-Anwendungen in Bezug auf ihre Verlässlichkeit, Fairness, Robustheit, Transparenz oder Datenschutz hin untersuchen und bewerten.
Unsere Prüf-Toolsuite ermöglicht eine umfangreiche Prüfung von KI-Anwendungen. Das Paket an Prüfwerkzeugen deckt eine große Bandbreite verschiedener Dimensionen der Vertrauenswürdigkeit ab – darunter Transparenz, Verlässlichkeit, Robustheit.
Auf dieser Seite möchten wir Ihnen unsere Lösungen mittels einer Serie von Demonstratoren näher bringen.
Unsicherheitsbewertung
Wissen, wie viel man nicht weiß
Die Zuverlässigkeit von KI-Modellen ist insbesondere in sicherheitskritischen Anwendungen Voraussetzung für deren vertrauenswürdigen Einsatz. Daher ist es wichtig, die Unsicherheiten in den Vorhersagen eines Modells eingeschätzt werden. Anschließend können problematische Ausgaben erkannt und so fehlerhafte Vorhersagen vermieden werden, oder es können im Fehlerfall entsprechende Mitigationsstrategien ermöglicht werden.
Unsere Prüfplattform
Reproduzierbare KI-Testing-Pipelines leicht gemacht
Eingebettet sind die unterschiedlichen Werkzeuge in eine Prüftool-Plattform – eine Software-Umgebung, in welcher die Prüfwerkzeuge operieren können. So können die Tools einfacher in der Praxis eingesetzt werden: Sie sind dann nicht nur miteinander kompatibel, sondern auch mit einer großen Bandbreite verschiedener Daten- und Modellformate. Die graphische Oberfläche der Prüfplattform bietet einen leicht verständlichen Zugang für ein breites Spektrum an Nutzer*innen.
