Mit dem stufenweisen Geltungsbeginn der Verordnung über Künstliche Intelligenz (KI-VO) wurde ein wichtiger Schritt hin zu einer umfassenden Regulierung von KI-Systemen und deren verantwortungsvollem Einsatz in Europa gemacht. Auch wenn am 2. Februar 2025 zunächst die Regelungen zu verbotenen Praktiken wirksam werden, tritt gleichzeitig Art. 4 KI-VO in Kraft (hierzu Legal Update vom 12.07.2024) und nimmt systemübergreifend eine zentrale Rolle bei der strategischen Ausrichtung von Unternehmen hinsichtlich KI-Governance und der Minimierung von Haftungsrisiken ein.
Während der Begriff „AI literacy“ mit der zunehmenden Verbreitung von KI-Technologien kein unbekannter Begriff gewesen ist, erklärt Art. 4 KI-VO die „KI-Kompetenz“ zum Rechtsbegriff. Die Einführung dieses Begriffs unterstreicht seine zentrale Bedeutung für Unternehmen, da dieser eine systematische Vermittlung von Fähigkeiten, Kenntnissen und Verständnis im Umgang mit KI-Systemen erfordert.
In den nächsten Monaten stehen Unternehmen somit vor der Aufgabe, Mitarbeitende und betroffene Personen mit einem Konzept auszustatten, das geeignet ist, die hinreichende KI-Kompetenz im Sinne des Art. 4 KI-VO zu vermitteln.
Rechtsnatur des Art. 4 KI-VO
Entgegen seines Wortlautes lässt sich dem Art. 4 KI-VO aufgrund der fehlenden Rechtsfolge keine Verpflichtung im klassischen Sinne entnehmen. Dennoch sollte dies keinesfalls als Rechtfertigung verstanden werden, die Vermittlung von KI-Kompetenz zu vernachlässigen und somit mögliche Verletzungen von allgemeinen Sorgfaltspflichten und daraus resultierenden Rechtsfolgen herbeizuführen.
Unternehmen sollten daher aktiv geeignete Maßnahmen ergreifen, um sicherzustellen, dass ihre Mitarbeitenden ausreichend geschult sind und über die notwendigen Kompetenzen im Umgang mit KI verfügen.
Anforderungen der KI-Kompetenz
Die Legaldefinition von KI-Kompetenz findet sich in Art. 3 Nr. 56 KI-VO. Hiernach wird KI-Kompetenz definiert als „die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI‑Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.“ Dieser Definition ist ein Dreiklang von Anforderungen zu entnehmen, welche sich gliedern lassen in:
- Fähigkeit,
- Kenntnis und
- Verständnis
Diese Anforderungen der Kompetenzvermittlung beziehen sich insbesondere auf die Fähigkeit, eine risikobasierte Abwägung treffen zu können, die Kenntnis von technischem Grundlagenwissen, sowie das Verständnis der rechtlichen und ethischen Rahmenbedingungen. Als Adressaten werden hierbei Anbieter und Betreiber angesprochen. In Unternehmen richtet sich diese Zielgruppe insbesondere an solche Mitarbeitende, die in einem direkten Kontakt zu KI-Systemen stehen.
Welche Maßnahmen sind sinnvoll, um KI-Kompetenz im Unternehmen sicherzustellen?
Schulungskonzept und konkrete Schulungen als zentrales Mittel
Ein zentrales Mittel zur Förderung von KI-Kompetenz sind zielgruppenspezifische Schulungen, die modular aufgebaut sind und sich am individuellen Wissensstand sowie an den konkreten Aufgabenbereichen der Mitarbeitenden orientieren. Ein solcher Schulungsansatz sollte sich an den jeweiligen Zielgruppen orientieren und regelmäßig aktualisiert werden, damit alle Beteiligten mit direktem Kontakt zu KI-Systemen auf dem neuesten Stand bleiben.
Damit Schulungen effektiv umgesetzt werden können, sollte ein übergeordnetes Schulungskonzept bestehen, das eine systematische Planung und Umsetzung ermöglicht. Dieses Konzept sollte unter anderem eine Priorisierung der Schulungsmaßnahmen beinhalten, um sicherzustellen, dass die relevanten Zielgruppen zum richtigen Zeitpunkt die notwendigen Schulungen erhalten. Zudem sollten regelmäßige Evaluierungen und Anpassungen erfolgen, um die Wirksamkeit der Schulungen sicherzustellen.
Die folgenden Schulungsformate haben sich in der Praxis für ähnliche Schulungsziele bewährt:
- Grundlagenschulung für alle
Alle Mitarbeitenden mit direktem Kontakt zu KI-Systemen sollten zunächst ein Basiskonzept zu den Funktionsweisen von KI kennenlernen. Auch ein Überblick über die grundlegenden rechtlichen Rahmenbedingungen sowie ethische Aspekte sollte Bestandteil dieser Schulungen sein. Auf diese Weise erhalten alle Mitarbeitenden ein breites Verständnis für die Chancen und Risiken von KI.
- Spezifische Schulungen für Entscheidungsträger
Führungskräfte und Mitglieder der Geschäftsleitung sollten zusätzlich in strategischen Fragen geschult werden. Dazu gehört die Risikoeinschätzung, insbesondere bei der Auswahl und Implementierung von KI-Systemen, sowie die Berücksichtigung aufsichtsrechtlicher Pflichten. Solche Schulungen sollen den Entscheidungsträgern die nötigen Kenntnisse vermitteln, um fundierte Entscheidungen zu treffen.
- Technische Vertiefung für IT-Fachleute
Mitarbeitende in der IT-Abteilung oder in der Softwareentwicklung benötigen ein tiefergehendes Verständnis von Algorithmen, maschinellem Lernen, Datensicherheit und Fehlersuche. Daher sollten sie in speziellen Schulungen lernen, wie sie die Datenqualität sicherstellen, Modelltraining effektiv gestalten und die Systeme laufend optimieren können. Solche Schulungen können auch dazu genutzt werden, einen Einblick in fortgeschrittene Aspekte der KI zu gewähren, damit technische Herausforderungen frühzeitig erkannt und geeignete Lösungen unternehmensintern entwickelt werden können.
- Workshops für externe Partner und Dienstleister
Auch externe Partner oder Dienstleister sollten über ein ausreichendes Maß an KI-Kompetenz verfügen. Hierfür können Unternehmen Workshops anbieten, die den Grundaufbau der im Unternehmen eingesetzten KI-Technologie erklären und die rechtlichen sowie ethischen Anforderungen vermitteln. Dies stellt sicher, dass auch Personen außerhalb des Unternehmensumfelds zuverlässig und regelkonform mit den KI-Systemen umgehen.
Interne Richtlinien als weiteres Mittel
Neben den Schulungsangeboten ist die Etablierung klarer Richtlinien im Unternehmen ein entscheidender Faktor, um einen verantwortungsvollen Umgang mit KI-Anwendungen zu gewährleisten. Diese Richtlinien sollten als verbindlicher Rahmen für alle Mitarbeitenden dienen und die Standards, die bei der Nutzung von KI-Anwendungen einzuhalten sind, definieren.
Um einen möglichst hohen Nutzwert zu erzielen, empfiehlt es sich, in einer internen KI-Richtlinie mindestens folgende Punkte zu berücksichtigen:
- Verhaltens- und Nutzungsregeln,
- Zuständigkeiten und Prozesse bei Fehlfunktionen,
- Risikobewusstsein und Missbrauchsszenarien,
- branchenspezifische Anforderungen.
Da technische Neuerungen und rechtliche Anforderungen einem ständigen Wandel unterliegen, sollten diese Richtlinien regelmäßig überprüft und aktualisiert werden.
Praxistipps zur Implementierung
Unternehmen, die KI-Technologien einsetzen, sollten nicht nur Fachwissen über KI vermitteln, sondern dieses in ein ganzheitliches KI-Governance-Konzept einbetten. Durch eine strukturierte Herangehensweise kann sichergestellt werden, dass Schulungen nicht isoliert erfolgen, sondern ein integraler Bestandteil der Unternehmensstrategie sind. Dadurch wird eine nachhaltige und praxisnahe Kompetenzentwicklung gefördert, die den langfristigen Erfolg im Umgang mit KI unterstützt.
Weitere Autorin: Viktoria von Pfeil, Legal Tech Manager
