Verpflichtendes KI-Training für Arbeitnehmer:innen nach dem EU-AI-Act

Erstellt von Mag. Sylvia Unger |
Arbeitsrecht , Unternehmensrecht

1. Einleitung

Am 01.08.2024 ist die EU-Verordnung 2024/1689 über künstliche Intelligenz (AI Act) in Kraft getreten. Ab 02.08.2026 gilt der AI Act vollständig, einzelne Kapitel gelten bereits davor. Der AI Act verfolgt das Ziel, durch die Förderung einer vertrauenswürdigen Künstlichen Intelligenz (KI) den EU-Binnenmarkt zu stärken, Grundrechte zu schützen und Innovation zu fördern. 

Seit 02.02.2025 gelangen die ersten Bestimmungen, nämlich die Verpflichtungen zur KI-Kompetenz (Kapitel I, insbesondere Art 4) und Verbote bestimmter KI-Systeme (Kapitel II, Art 5) zur Anwendung. Dieser Beitrag fokussiert sich auf die KI-Kompetenz.

 

2. Anwendungsbereich des AI Acts (Art 2)

Der Anwendungsbereich des AI Acts ist sehr weit -> er gilt für alle Unternehmen, die KI-Systeme in Verkehr bringen, in Betrieb nehmen, betreiben (= verwenden), einführen, handeln, entwickeln und/oder entwickeln lassen.

Welche Maßnahmen konkret gesetzt werden müssen, hängt davon ab, welcher Risikostufe das genutzte KI-System angehört. Unterschieden wird zwischen "minimalen", "begrenzten", "hohen" und "inakzeptablen" Risikostufen.

 

3. KI-Kompetenzverpflichtung (Art 4)

Für alle Unternehmen relevant sind die seit 02.02.2025 geltenden Bestimmungen zur KI-Kompetenz.

Art 4 verpflichtet Anbieter und Betreiber von KI-Systemen, dafür zu sorgen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit Betrieb und Nutzung von KI-Systemen befassen, über ein ausreichendes Maß an Kenntnissen im Bereich der künstlichen Intelligenz verfügen (= KI-Kompetenz). Diese Kompetenz umfasst technische, rechtliche und ethische Kenntnisse, Risikobewusstsein und praktische Anwendungsfähigkeit. Zur Umsetzung dieser Vorgaben gibt es keine konkreten Vorgaben, wobei gem Art 4 Folgendes zu berücksichtigen ist:

  • technische Kenntnisse, Erfahrung und Ausbildung,

  • Kontext, in dem die KI-Systeme eingesetzt werden,

  • Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen.

Aufgrund der weiten Anwendung dieser Regelung spielt auch die Risikostufe eine Rolle. Beschäftigt sich ein Unternehmen nur mit der Anwendung eines KI-Systems, befindet es sich grundsätzlich nur im begrenzten Risikobereich (zB Verwendung von Chatbots). Dementsprechend gestaltet sich auch eine Schulung anders als in einem Unternehmen, das KI-Systeme zB entwickelt und sich daher in einem höheren Risikobereich befindet.  

Beispiele für KI-Kompetenzen, die vermittelt werden sollten:

  • grundlegendes Verständnis von KI-Systemen und digitaler Kompetenz, zB Kenntnisse über die Funktions- und Arbeitsweise von KI.

  • Wissen über die korrekte Nutzung und Anwendung im Kontext des Unternehmens, zB durch Durchführung von Prompting-Workshops.

  • Fähigkeit Vor- und Nachteile von KI und ethische Bedenken zu erkennen und KI-Ergebnisse dementsprechend zu beurteilen und kritisch zu hinterfragen, zB das Bestehen von Bias (= wenn KI-Systeme systematisch verzerrte Ergebnisse liefern, die bestimmte Gruppen oder Individuen ungerecht bevorzugen oder benachteiligen).

  • Kenntnisse relevanter rechtlicher Aspekte, zB Datenschutz, Arbeitsrecht, Urheberrecht. 

 

4. To-Dos: was ist für Unternehmen zu tun?

Unternehmen, die die Verpflichtung zur KI-Kompetenz trifft, sollten folgende Maßnahmen setzen:

  • Feststellung, welche KI-Systeme im Unternehmen genutzt werden. 

    Hinweis: Da viele Softwareprodukte KI-Systeme nutzen, ist es möglich, dass diese unbewusst verwendet werden!

  • Strategie, wie und welche KI konkret eingesetzt werden soll

  • Erstellung einer internen Richtlinie

  • Erstellen und Durchführen eines Schulungsprogramms: dabei sollte Rücksicht auf die spezifischen Bedürfnisse des Unternehmens und der Mitarbeitenden genommen werden. Außerdem sollten sie möglichst benutzerfreundlich sein (zB Online-Kurse, Vermeidung von juristischem Fachjargon)

  • regelmäßige Aktualisierung der Schulungsprogramme, um sicherzustellen, dass die jeweils neuesten KI-Fortschritte berücksichtigt werden

  • Dokumentation der Schulungsmaßnahmen 

Überlegungen und Erarbeitungen einer KI-Strategie sowie die Details von Schulungen (Art, Veranstalter, Inhalt und Zeitpunkt) sind schriftlich zu dokumentieren.