Begriff der KI-Governance

KI-Governance umfasst die Rahmenbedingungen, Richtlinien und Praktiken, die gewährleisten, dass KI verantwortungsvoll, ethisch und im Einklang mit menschlichen Werten entwickelt und genutzt wird. Ziel ist es, die Entwicklung und Anwendung von KI-Systemen so zu steuern, dass sie gesellschaftlichen Interessen dienen, Risiken minimieren und positive Auswirkungen maximieren. Wichtige Aspekte der KI-Governance sind daher neben Compliance und Datenschutz, auch Transparenz, Sicherheit, Fairness und Verantwortlichkeit.

Ziele und wesentliche Prinzipien der KI-Governance

Eine KI-Governance dient der Schaffung von Rahmenbedingungen und Prozessen sowie der Definition von Zuständigkeiten für den Einsatz von KI im Unternehmen. Ziel einer richtig verstandenen KI-Governance ist nicht die Beschränkung oder gar Verhinderung des Einsatzes künstlicher Intelligenz, sondern die Gewährleistung eines sicheren Unternehmensumfeldes, das den Einsatz von KI ermöglicht und im Sinne der Unternehmensziele fördert. Durch die Setzung von revisionsoffenen Rahmenbedingungen und die Einrichtung von transparenten Prozessen schafft die KI-Governance einen offenen Innovationsraum. Eine so verstandene KI-Governance fördert Innovation, steigert die Effizienz von Geschäftsprozessen und stärkt dadurch die Nachhaltigkeit und erhöht die Wettbewerbsfähigkeit von Unternehmen. 

Die KI-Governance stellt zugleich sicher, dass Risiken frühzeitig identifiziert und adressiert werden und die Einhaltung wichtiger Unternehmensgrundsätze sichergestellt wird. Übergeordnetes Ziel ist mithin eine steuernde Rahmensetzung unter Beachtung der folgenden Prinzipien:

Quelle: Eigene Darstellung

Im Hinblick auf die schnelle Weiterentwicklung der KI und die noch nicht abgeschlossene Entwicklung der maßgeblichen rechtlichen und gesellschaftspolitischen Rahmenbedingungen muss die KI Governance auch selbst entwicklungsoffen ausgestaltet sein und durch prozessimmanente Kontrollen eine laufende Fortentwicklung ermöglichen. Wichtig für die erfolgreiche unternehmensinterne Implementierung der KI-Governance ist zudem, dass die KI-Governance hinsichtlich ihrer Komplexität auf das Unternehmen und die unternehmensspezifische Bedeutung von Einsatzfeldern der künstlichen Intelligenz zugeschnitten ist. Insofern wird man zudem zwischen der Perspektive als Anbieter und Entwickler von KI-Systemen und als Verwender von KI-Systemen differenzieren müssen.

Rahmenbedingungen einer KI-Governance

Für die Ausgestaltung der KI-Governance im Unternehmen ergeben sich viele Leitplanken aus den einschlägigen rechtlichen Vorgaben. Zentrale Bedeutung haben hier zunächst die KI-Verordnung und EU-Produkthaftungsrichtlinie, sowie die künftig zu erwartende KI-Haftungsrichtlinie. Weitere rechtliche Rahmenbedingungen ergeben sich etwa aus den Bereichen Datenschutz, Urheberrecht und sonstige Bereiche des Geistigen Eigentums, Arbeitsrecht (beispielsweise Fragen der Mitbestimmung und des Beschäftigtendatenschutzes) und Gesellschaftsrecht bzw. Corporate Governance. Erhebliche Bedeutung können zudem sektorspezifische Vorgaben, etwa in der Versicherungswirtschaft, im Bank- oder Gesundheitswesen, haben.

Während die rechtlichen Anforderungen den äußeren Handlungsrahmen für alle Marktteilnehmer beschreiben, obliegt es jedem Unternehmen selbst, innerhalb dieses Handlungsrahmens Vorgaben für den Umgang mit KI zu definieren. Diese Vorgaben zu setzen und eine KI-Strategie zu definieren obliegt der Unternehmensleitung. Die KI-Governance muss sich an den so definierten Vorgaben orientieren und diese umsetzen.

Voraussetzung einer funktionierenden KI-Governance ist zudem Transparenz hinsichtlich des Einsatzes von KI im Unternehmen. Hierzu sollten die unternehmensintern bereits bestehenden KI-Projekte und Use Cases systematisch erfasst werden. Die genutzten Systeme und deren Einsatz können in einem unternehmensweiten KI-Register erfasst werden, das ähnlich dem Verzeichnis der Verarbeitungstätigkeiten nach Art. 30 DSGVO die wesentlichen Informationen zur Verwendung von KI im Unternehmen enthält.

Das KI-Register ist Grundlage für das KI-bezogene Risikomanagement. Die aus der Verwendung von KI folgenden Risiken sind zu identifizieren, zu bewerten und zu steuern.

Haben Sie Fragen?

Sie beschäftigen sich selbst mit KI-Governance oder interessieren sich für Themen rund um die KI-Governance? Gern kommen wir mit Ihnen ins Gespräch. Wir freuen uns auf Ihre Nachricht an ki-governance [at] goerg.de (ki-governance[at]goerg[dot]de).