Das von uns entwickelte kostenlose Werkzeug zur Beurteilung von Anwendungen generativer KI hinsichtlich ihrer Risiken wurde um einen AI Act Check und eine kleine DSFA erweitert und ins Deutsche übersetzt.
Die erste Version unseres Werkzeugs "Generative AI Risk Assessment" (GAIRA) haben wir im Herbst 2023 als kostenlose Open Source veröffentlicht. Es wird bereits in etlichen Unternehmen zur Beurteilung und Dokumentation von Risiken im Zusammenhang mit Anwendungen generativer KI eingesetzt; an der Schulthess "Data Privacy" Tagung vom März in Zürich etwa haben verschiedene Referenten in ihren Praxisberichten schon darauf hingewiesen. Im Januar 2024 haben wir das Werkzeug um "GAIRA Light" erweitert, eine vereinfachte Prüfung für Anwendungen, die mutmasslich kein hohes Risiko bergen. Das Werkzeug lag bisher allerdings nur in Englisch vor.
Wir haben es nun um zwei Funktionen erweitert:
- AI Act Check: Mit dem "AI Act Check" ist es möglich, durch das Beantworten einiger Fragen einschätzen zu lassen, ob ein Unternehmen mit einer bestimmten KI-Anwendung dem "EU AI Act" unterliegt und wie es das tut (z.B. welche Rolle und ob ein Hochrisiko-KI-System vorliegt). Die wichtigsten daraus folgenden Pflichten werden auch aufgeführt. Der AI Act Check ist sowohl in "GAIRA Light" integriert als auch in Form eines separaten Arbeitsblatts verfügbar.
- Datenschutz-Folgenabschätzung (DSFA): Eine DSFA war bereits in "GAIRA Comprehensive" integriert, dem Werkzeug für KI-Anwendungen mit höheren Risiken. Wir haben nun auch GAIRA Light um eine einfache DSFA erweitert, so dass diese in einem Zug mit der restlichen Risikobeurteilung durchgeführt werden kann. GAIRA Light enthält auch eine Schwellenwertprüfung, d.h. es wird auch geprüft, ob eine DSFA wirklich nötig ist.
Beides ist noch als Beta-Test markiert. Dieser wird voraussichtlich 1-2 Monate dauern. Wir nehmen gerne Feedback entgegen.
Ferner haben wir ,mit Ausnahme des optionalen Arbeitsblatts "Compliance-Checks", das Werkzeug auch ins Deutsche übersetzt. Die deutsche Übersetzung ist im selben Excel enthalten. GAIRA kann hier kostenlos bezogen werden. Das Merkblatt mit einer Kurzanleitung wurde ebenfalls angepasst und kann hier bezogen werden; im Hinblick auf die DSFA haben wir die Zeitangabe zum Ausfüllen von 60 auf 90 Minuten erhöht. Eine DSFA muss allerdings nicht in allen Fällen durchgeführt werden. Das Merkblatt enthält auch einen Fragebogen mit den wichtigsten Punkten von "GAIRA Light", damit jene, die eine KI-Anwendung realisieren wollen, bereits vorab prüfen können, ob sie an die wichtigen Punkte gedacht haben.
Eine ausführliche Anleitung für Risiko-Beurteilungen haben wir schon im Februar 2024 hier im Rahmen unserer KI-Blog-Serie publiziert. Die einzelnen Teile können hier abgerufen werden.
Autor: David Rosenthal
