KI-Governance schafft Raum für Innovation

Eine KI-Governance dient der Schaffung von Rahmenbedingungen und Prozessen sowie der Definition von Zuständigkeiten für den Einsatz von KI im Unternehmen. Ziel ist nicht die Einschränkung oder gar Verhinderung des Einsatzes künstlicher Intelligenz, sondern die Gewährleistung eines sicheren und effizienten Unternehmensumfeldes, das den Einsatz von KI fördert und mit den Unternehmenszielen in Einklang bringt.

Durch die Einführung revisionssicherer Rahmenbedingungen und transparenter Prozesse schafft eine gut gestaltete KI-Governance einen offenen Raum für Innovation. Sie fördert nicht nur die Entwicklung neuer Technologien, sondern auch die Effizienz von Geschäftsprozessen. Dies stärkt die Nachhaltigkeit und erhöht die Wettbewerbsfähigkeit des Unternehmens.

Im Hinblick auf die rasante Weiterentwicklung der KI sowie die noch unvollständige Entwicklung der rechtlichen und gesellschaftspolitischen Rahmenbedingungen sollte die KI-Governance dynamisch und flexibel ausgestaltet werden. Prozessimmanente Kontrollen ermöglichen eine kontinuierliche Weiterentwicklung und Anpassung an neue Anforderungen.

Maßgeschneiderte KI-Governance entwickeln

Für eine erfolgreiche Implementierung ist es entscheidend, die Komplexität der Governance auf die unternehmensspezifischen Anforderungen und die relevanten Einsatzbereiche der KI zuzuschneiden. Dabei müssen insbesondere zwei Perspektiven unterschieden werden: die der Anbieter und Entwickler von KI-Systemen, die rechtliche und ethische Standards frühzeitig berücksichtigen müssen und die der Anwender von KI-Systemen, die sich auf sichere und regelkonforme Nutzung fokussieren.

Eine durchdachte KI-Governance sorgt zudem dafür, dass Risiken frühzeitig identifiziert und adressiert werden und die Einhaltung wichtiger Unternehmensgrundsätze sichergestellt wird.

Vier Prinzipien der KI-Governance

Die Zielsetzung einer KI-Governance orientiert sich an folgenden Prinzipien:

• Schaffung revisionssicherer und transparenter Rahmenbedingungen
• Sicherstellung der regulatorischen Compliance
• Förderung von Fairness und Diskriminierungsfreiheit
• Gewährleistung von Datensicherheit und ethischer Verantwortung

KI-Governance entwicklungsoffen gestalten

Im Hinblick auf die schnelle Weiterentwicklung der KI und die noch nicht abgeschlossene Entwicklung der maßgeblichen rechtlichen und gesellschaftspolitischen Rahmenbedingungen muss die KI Governance auch selbst entwicklungsoffen ausgestaltet sein und durch prozessimmanente Kontrollen eine laufende Fortentwicklung ermöglichen. Wichtig für die erfolgreiche unternehmensinterne Implementierung der KI-Governance ist zudem, dass die KI-Governance hinsichtlich ihrer Komplexität auf das Unternehmen und die unternehmensspezifische Bedeutung von Einsatzfeldern der künstlichen Intelligenz zugeschnitten ist. Insofern wird man zudem zwischen der Perspektive als Anbieter und Entwickler von KI-Systemen und als Verwender von KI-Systemen differenzieren müssen.

Rechtliche Leitplanken

Für die Ausgestaltung der KI-Governance im Unternehmen ergeben sich zahlreiche Leitplanken aus den einschlägigen rechtlichen Vorgaben. Von zentraler Bedeutung sind:

• KI-Verordnung (EU AI Act): Grundlage für rechtssicheren und verantwortungsvollen Einsatz von KI.
• EU-Produkthaftungsrichtlinie und KI-Haftungsrichtlinie: Neue Standards für Haftungsfragen im Zusammenhang mit KI.
• Datenschutz und Urheberrecht: Schutz sensibler Daten und geistigen Eigentums.
• Arbeitsrecht: Regelungen zur Mitbestimmung und zum Beschäftigtendatenschutz.
• Gesellschaftsrecht und Corporate Governance: Vorgaben zur unternehmensinternen Verantwortung.

Zudem können sektorspezifische Vorgaben, etwa in der Versicherungswirtschaft, im Bankensektor oder im Gesundheitswesen, erhebliche Bedeutung haben.

Vorgaben und Strategie im Unternehmen

Während die rechtlichen Anforderungen den äußeren Handlungsrahmen für alle Marktteilnehmer definieren, liegt es in der Verantwortung jedes Unternehmens, innerhalb dieses Rahmens eigene Richtlinien und Vorgaben für den Umgang mit KI zu entwickeln.

Die Definition dieser Vorgaben und die Entwicklung einer KI-Strategie obliegen der Unternehmensleitung. Die KI-Governance dient dazu, diese strategischen Ziele operativ umzusetzen und sicherzustellen, dass alle relevanten Prozesse darauf abgestimmt sind.

Transparenz im Einsatz von KI

Transparenz ist eine zentrale Voraussetzung für eine funktionierende KI-Governance. Unternehmen sollten:

• Bestehende KI-Projekte und Anwendungsfälle systematisch erfassen.
• Ein unternehmensweites KI-Register einführen, das ähnlich wie das Verzeichnis der Verarbeitungstätigkeiten nach Art. 30 DSGVO wesentliche Informationen zur Nutzung von KI-Systemen enthält.

Das Register dokumentiert Einsatzbereiche, genutzte Systeme und Verantwortlichkeiten, um einen umfassenden Überblick über den KI-Einsatz zu schaffen.

Risikomanagement durch KI-Register

Das KI-Register bildet die Grundlage für das KI-bezogene Risikomanagement. Dabei werden Risiken im Zusammenhang mit der Nutzung von KI identifiziert, bewertet und durch geeignete Maßnahmen gesteuert.

Das Ziel ist es, die Risiken zu minimieren und die Einhaltung rechtlicher Vorgaben sicherzustellen.