Teil 15: Worauf rechtlich beim Einsatz von KI-Providern zu achten ist

Die Liste der relevanten Aspekte ist recht lang, was damit zu tun hat, dass sie unterschiedliche Konstellationen und Themen abdeckt. Diese spielen nicht in allen Projekten eine Rolle oder sind gleich wichtig. Die wichtigsten Punkte, auf die an sich fast immer geachtet werden sollte, haben wir mit einem Stern markiert.

Entscheidet ein Unternehmen sich für die Nutzung eines KI-Services, dann muss es sich zunächst bewusst werden, in welchen Bereichen es rechtlich durch den Einsatz von KI exponiert sein könnte. Wir unterscheiden hierbei grob vier Bereiche:

1. Datenschutz: Er ist immer dann relevant, wenn mit dem Service personenbezogene Daten bearbeitet werden sollen, also Information über Mitarbeitende, Mitarbeitende von Kunden, Konsumenten und andere natürliche Personen, die sich direkt oder indirekt identifizieren lassen. In diesen Fällen wird ein Unternehmen jedenfalls unter der DSGVO oder dem Schweizer Datenschutzgesetz mindestens einen Auftragsverarbeitungsvertrag (auch AVV, ADV oder DPA genannt) abschliessen müssen. Das ist bei einigen Providern standardmässig möglich, bei anderen ist es nicht vorgesehen oder nur für grössere Unternehmenskunden. Hat ein Provider keinen solchen Vertrag, obwohl er Auftragsverarbeiter ist, ist das ein Zeichen für mangelnde Maturität und fehlendes Verständnis für (europäischen) Datenschutz und es ist Vorsicht geboten. Keinen solchen Vertrag braucht es in der Regel jedoch dann, wenn die Login- und Account-Daten die einzigen personenbezogenen Daten sind, die der Provider bearbeitet; in Bezug auf diese ist er in der Regel kein Auftragsverarbeiter. Trotzdem kann ein Unternehmen das Bedürfnis haben, die Bearbeitung dieser Daten vertraglich schützen zu wollen, so dass z.B. die Daten, die bei der Nutzung des Service anfallen, nicht missbraucht werden. Weitere typische Punkte, die im Vertrag zum Schutz von personenbezogenen Daten geregelt werden sollten, ist der Transfer der Daten in andere Länder (namentlich in die USA oder sonst in Länder ohne angemessenen Datenschutz) und ob der Provider die Daten des Kunden auch selbst benutzen oder sogar an Dritte verkaufen darf (z.B. für das Training seiner eigenen oder fremder KI-Modelle). Letzteres werden Unternehmen meist untersagen wollen. Wenn ein Auftragsverarbeitungsvertrag abgeschlossen wird, sieht dieser immer auch Massnahmen zur Informationssicherheit vor. Sind diese Massnahmen getroffen, so steht in Bezug auf den Provider dem Einsatz von Personendaten datenschutzrechtlich an sich nichts entgegen. Wir erinnern daran, dass Provider von KI-Services letztlich in aller Regel Provider wie alle anderen Cloud- und SaaS-Provider sind, die Unternehmen inzwischen meist ohne Bedenken auch für die Verarbeitung von personenbezogenen Daten nutzen. Die Risiken sind in allen Fällen meist ähnlich (z.B. mangelnde Sicherheit, Verwendung der Daten auch für eigene Zwecke, mangelnde Vertragstreue). Trotzdem beobachten wir eine Zurückhaltung von Unternehmen, ihren Mitarbeitenden die Verwendung solcher Tools mit Personendaten zu erlauben. Das kann mit der allgemeinen Verunsicherung zu tun haben, die heute noch in Bezug auf viele KI-Services herrscht; daran sind die Provider gehörig mit schuld, da viele von ihnen leider noch sehr intransparent in Bezug auf ihre Services und Datenbearbeitungen und auch vertraglich nicht gut unterwegs sind. Die kritische Haltung vieler Unternehmen hat aber auch damit zu tun, dass diese ihren Mitarbeitenden schlicht nicht trauen, dass sie diese KI-Services richtig einsetzen. Denn ganz unabhängig davon, ob der Vertrag mit dem Provider datenschutzrechtlich passt, muss immer auch geprüft werden, ob der Service an sich zulässig ist, welche datenschutzrechtlichen Massnahmen hierfür zu treffen sind und welche Risiken damit einhergehen. In Bezug auf die Risikoprüfung verweisen wir auf Teil 4 unserer Blog-Serie und unser kostenloses Werkzeug "GAIRA", mit welchem entsprechende Risikobeurteilungen vorgenommen werden können.
2. Geheimnisse: Unternehmen müssen nicht nur allfällige personenbezogene Daten schützen, die sie mit KI-Services bearbeiten, sondern immer auch alle möglichen sonstigen Geheimnisse. Das können eigene Geschäftsgeheimnisse sein, aber auch solche von Dritten, die dem Unternehmen anvertraut worden sind. Bestimmte Unternehmen sind auch an ein klassisches Berufsgeheimnis gebunden, wie etwa Banken, Anwälte, Fernmeldedienstanbieter oder Krankenhäuser – und etliche der von ihnen beauftragten Dritten. Darum ist es wichtig, dass Verträge mit KI-Service-Providern neben den Datenschutzbestimmungen auch passende Geheimhaltungspflichten enthalten. Das ist leider weniger selbstverständlich als es vermutet werden könnte. Die meisten Provider versprechen ihren Kunden zwar gewisse technische und organisatorische Massnahmen der Datensicherheit (sog. TOMS), mindestens jedenfalls im Rahmen einer Auftragsverarbeitung. Das ist aber nicht zu verwechseln mit dem Versprechen, ihnen anvertraute Geheimnisse nicht Dritten weiterzugeben oder für eigene oder fremde Zwecke zu verarbeiten und sie vor dem Zugriff Dritter zu schützen, d.h. sie geheim zu halten; diese Pflichten müssen ebenfalls vorgesehen werden. Sie dürfen zudem nicht nur für die Mitarbeitenden gelten, sondern müssen dies auch für den Provider selbst (und seine Subunternehmer) und sie müssen über das Vertragsende hinaus andauern, was ebenfalls in vielen Verträgen nicht selbstverständlich ist. Handelt es sich um Geheimnisse, die dem Berufsgeheimnis unterliegen (oder dem Amtsgeheimnis), müssen zusätzliche Klauseln wie eine "Defend-your-data"-Bestimmung vereinbart werden und die Zusage, dass Mitarbeitende des Providers normalerweise nicht auf die Daten im Klartext zugreifen werden. Geheimhaltungsklauseln gehören zudem nicht in Auftragsverarbeitungsverträge, weil diese in der Regel nur für personenbezogene Daten und nur für eine Auftragsverarbeitung gelten; in der Praxis unterliegen aber auch andere Daten der Geheimhaltung, und auch Daten, die der Provider in eigener datenschutzrechtlichen Verantwortung bearbeitet.
3. Eigentum, IP-Rechte: Dieses Thema haben wir in Teil 14 unserer Blog-Serie einlässlich behandelt, einschliesslich Vertragsfragen.Zu berücksichtigen ist bei diesem Thema sowohl der Schutz des Geistigen Eigentums des Unternehmens selbst als auch der geschützten Inhalte Dritter, die das Unternehmen womöglich im Rahmen der KI-Services einsetzen will. Hier muss analog zum Datenschutz und Berufsgeheimnis darauf geachtet werden, dass der Provider diese Inhalte nicht für andere Zweck verwendet (z.B. ein eigenes Training oder Verkauf an Dritte) und dass er sie geheim hält. Weiter muss der Vertrag daraufhin geprüft werden, ob der Output des KI-Service, also zum Beispiel die generierten Texte, Bilder, Videos und Töne vom Unternehmen frei benutzt werden können oder ob der Provider seinen Kunden Beschränkungen auferlegt. Optimalerweise erklärt er, dass diese KI-Outputs dem Kunden gehören und er diese frei verwenden darf. Es ist aber nicht unüblich, dass der Provider bestimmte Verhaltensregeln aufstellt und somit festlegt, welche Inputs und Outputs nicht geduldet werden, auch wenn der Kunde sie generiert hat. Achtung: Gewisse Provider erlauben zwar die Verwendung der Outputs grundsätzlich für beliebige Zwecke, verbieten aber die Verwendung für das Training eigener KI-Systeme und andere automatisierte Nutzungen.
4. KI-Regulierung: Auch wenn die Regelungen des EU AI Act zum Zeitpunkt dieses Beitrags noch nicht gelten, sollten sich Unternehmen trotzdem darauf vorbereiten – ganz speziell dann, wenn sie Verträge mit Providern von KI-Services abschliessen, deren Services und Produkte möglicherweise davon erfasst sein werden. Auch hier kann im Vertrag heute schon einiges geregelt werden. Dabei geht es zum einen darum, dass der Provider verpflichtet wird, die nötigen Pflichten einzuhalten, die dereinst auf ihn zu kommen. Auch wenn der Kunde eines Providers nicht für dessen Compliance verantwortlich ist, so könnte eine Verletzung des EU AI Act, soweit anwendbar, trotz allem Auswirkungen auf den Provider und die Verfügbarkeit des Services oder Produkts haben; daran wird selbst ein Kunde, auf welchen der AI Act keine Anwendung findet, kein Interesse haben. Zum anderen können den Kunden selbst auch Pflichten unter dem AI Act treffen, bei welchen er wiederum auf Unterstützung des Providers angewiesen sein könnte. Das gilt vor allem dann, wenn sich zeigen sollte, dass der Kunde ebenfalls als "Provider" unter dem AI Act gilt. Darauf kann sich ein Unternehmen beim Abschluss seiner Verträge heute schon einstellen.

In der Praxis können die obigen Punkte bzw. die Punkte auf der Checkliste auf unterschiedlichste Weise in den Vertrag eingebunden werden. Wir haben erste (grössere) Unternehmen gesehen, die von ihren Lieferanten die Unterzeichnung eines "AI Annex" verlangen, in welchem diese insbesondere verpflichtet werden, von sich aus den Einsatz von KI offenzulegen. Das hat durchaus eine gewisse Logik, denn Unternehmen sind zur Einhaltung der einschlägigen Vorgaben an KI-Systeme z.B. unter dem AI Act auch dann verpflichtet, wenn sie gar nicht wissen, dass sie solche Systeme einsetzen. Wir verweisen auf unseren ausführlichen Beitrag zum EU AI Act in Teil 7 unserer Blog-Serie. Es macht daher durchaus Sinn, dass Unternehmen auch seitens ihrer Lieferanten Schritte unternehmen um zu verstehen, welche der von ihnen eingekauften Services und Produkte "KI" beinhalten, also Systeme, die ganz oder teilweise auf Basis eines Trainings statt einer Programmierung arbeiten.

Eine weitere Entwicklung, die wir in der Praxis beobachten, ist die starke Zunahme an Unternehmen, die die von ihnen angebotene KI nicht selbst betreiben, sondern dies wiederum an Subunternehmer ausgelagert haben. Das ist auch nachvollziehbar, ist es doch heute für viele Unternehmen viel einfacher, KI-Basisfunktionalität bei einem der grossen Hyperscaler einzukaufen und dort betreiben zu lassen. Hinsichtlich der Verträge und Compliance macht es die Sache allerdings komplizierter, da ein Provider seinem Kunden vertraglich natürlich maximal nur jene Zusagen machen will, die er von seinem Subunternehmer bestätigt erhalten hat. Mit diesen werden solche ISVs aber nur beschränkt verhandeln können. Jeder zusätzliche Subunternehmer ist zudem ein weiterer "Point of Failure" in der Leistungserbringung.  

Die dritte Entwicklung, die wir beobachten, ist der zunehmende Einsatz von Anbietern, welche KI-Lösungen entwickeln und dann in der IT-Infrastruktur ihrer Kunden implementieren. Teilweise betreiben dann nur noch die Kunden die Systeme, teils tun das noch die Anbieter. Nach aussen hin ist jedoch der Kunde rechtlich gesehen der (primäre) Anbieter der KI-Lösung. Das klassische Beispiel ist der Chatbot auf der Website eines Unternehmens, mit welchem es seinen Kundendienst entlastet. In diesen Fällen kommt es teilweise zu Diskussionen, welche Rolle diese Anbieter haben und wie weit sie in die Pflicht genommen werde können. Aus unserer Sicht sind hier Absprachen in Bezug auf die Einhaltung des rechtlichen Rahmens und entsprechende vertragliche Zusagen auch dann sinnvoll, wenn diese Anbieter lediglich als Technologielieferanten und Implementationspartner auftreten und nicht als Service-Provider. Dabei geht es um Angaben zu den verwendeten KI-Modellen, wie die Lösungen gegen Missbräuche geschützt sind und ob die Lösungen die künftigen Vorgaben wie z.B. bezüglich der Markierung von generierten Texten, Bildern und Videos einhalten oder einhalten werden.

In der Checkliste haben wir schliesslich noch jeweils den Fall erwähnt, dass ein Drittunternehmen nicht als klassischer Dienstleister auftritt, sondern als Partner in einem gemeinsamen KI-Projekt. Zu denken ist etwa an Situationen, in denen ein Unternehmen eine bestimmte Lösung eines anderen Anbieters an die eigene Systemwelt anbinden will, ihn aber nicht als ihren Auftragsverarbeiter betrachtet, sondern als eigenständigen Verantwortlichen. Auch in diesen Fällen sind vertragliche Regelungen angezeigt.

Ohnehin ist das Thema KI - und das Interesse, von Kunden gewonnene Daten für KI-Trainings einzusetzen - nicht nur auf Dienstleister beschränkt, die ihrerseits KI-Services und -Produkte anbieten. Früher oder später werden die meisten Unternehmen sich Gedanken dazu machen, ob und wie sie ihre Daten auch aus Kundenprojekten für KI-Zwecke einsetzen können. Entsprechende vertragliche Regelungen (wie in der Checkliste aufgeführt) können daher auch in anderen Partner- und Lieferantenverträgen sinnvoll sein. Einen "Grundschutz" liefert bereits eine Geheimhaltungsklausel, die auch besagt, dass vertrauliche Informationen des Vertragspartners nicht für andere Zwecke als den Vertrag benutzt werden dürfen.

David Rosenthal

Wir unterstützen Sie bei allen Fragen zu Recht und Ethik beim Einsatz von künstlicher Intelligenz. Wir reden nicht nur über KI, sondern setzen sie auch selbst ein. Weitere Hilfsmittel und Publikationen von uns zum Thema finden Sie hier.