EU-AI-Act: Alles zum Einsatz von AI im Unternehmen

Unternehmen setzen zunehmend künstliche Intelligenz (KI) ein – damit steigen die rechtlichen und organisatorischen Anforderungen. Eine KI-Unterweisung sensibilisiert Mitarbeiter für Chancen, Risiken und den regelkonformen Einsatz. Der Beitrag erklärt rechtliche Grundlagen der EU-KI-Verordnung und zeigt die Relevanz von Unterweisungen.

Inhaltsverzeichnis:

• Was ist die EU-KI-Verordnung?
• Welche Pflichten ergeben sich aus dem AI Act für Unternehmen?
• Was versteht man unter KI-Kompetenz?
• Welche Unternehmen sind von der Pflicht zur KI-Unterweisung betroffen?
• Welche Konsequenzen drohen, bei Verstößen gegen die Schulungspflicht?
• Warum KI-Unterweisungen relevant sind – Nutzen für Unternehmen und Mitarbeiter

Zusammenfassungsbox “Auf einen Blick”

• Der EU-AI Act ist seit dem 01.08.2024 in Kraft und bildet den Rechtsrahmen für die Nutzung und Entwicklung von KI-Systemen in Unternehmen.
• Ein wesentlicher Bestandteil der KI-Verordnung ist die KI-Kompetenz, die Unternehmen sicherstellen müssen, wenn KI-Systeme genutzt werden.
• Eine Pflicht, die sich für Unternehmen aus dem AI Act ergibt, ist die KI-Unterweisung.

Was ist die EU-KI-Verordnung?

Die EU-KI-Verordnung (EU) 2024/1689 (auch AI Act oder KI-VO genannt) bildet den rechtlichen, europaweiten Rahmen für die Entwicklung und die Nutzung von KI-Systemen. Der AI Act ist im August 2024 in Kraft getreten. Hierbei handelt es sich um das erste umfassende KI-Gesetz der EU.

Welche Pflichten ergeben sich aus dem AI Act für Unternehmen?

Die Pflichten, die sich aus der KI-VO ergeben, hängen von der jeweiligen Rolle des Unternehmens in der Wertschöpfungskette ab.

Übergreifend für alle Unternehmen
Egal ob Unternehmen KI entwickeln, integrieren oder vertreiben: Verbotene Praktiken (z. B. sozialer Score, ungezieltes Scraping für Gesichtsdatenbanken, bestimmte Emotionserkennung in Arbeit/Schule) sind tabu. Zudem gelten gezielte Transparenzpflichten sowie eine Pflicht, KI‑Kompetenz im Unternehmen zu fördern.

Die eingeführte gesetzliche Regelung etabliert eine verbindliche Schulungspflicht (Art. 4 KI-VO) für alle Unternehmen, die Künstliche Intelligenz einsetzen, entwickeln oder anbieten.

Diese Verpflichtung zur Sicherstellung einer grundlegenden „KI-Kompetenz“ für alle betroffenen Mitarbeiter ist seit dem 2. Februar 2025 in Kraft. Ziel ist es, ein solides Verständnis für die Technologie, ihre Chancen sowie die damit verbundenen Risiken und rechtlichen Rahmenbedingungen zu schaffen.

Transparenz bei bestimmten KI‑Einsätzen
KI‑Systeme, die direkt mit Menschen interagieren, müssen so gestaltet sein, dass Nutzer erkennen, dass sie mit KI sprechen – außer es liegt auf der Hand. Anbieter generativer Systeme müssen Ausgaben maschinenlesbar als künstlich erzeugt/manipuliert markierbar machen.

Anwender, die Deep‑Fakes oder täuschend echte KI‑Medien veröffentlichen, müssen deren künstliche Herkunft klar kenntlich machen; bei Emotionserkennung oder biometrischer Kategorisierung sind exponierte Personen zu informieren und Datenschutzrecht zu wahren.

Was versteht man unter KI-Kompetenz?

Gemäß Art. 3 Nr. 56 der KI-Verordnung umfasst die KI-Kompetenz die Fähigkeiten, Kenntnisse und das Verständnis, die es Anbietern, Betreibern und betroffenen Personen ermöglichen:

• KI-Systeme sachkundig einzusetzen.
• Sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.

Genauer heißt es hier:

„Die Anbieter und Betreiber von KI‑Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI‑Systemen befasst sind, über ein ausreichendes Maß an KI‑Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI‑Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI‑Systeme eingesetzt werden sollen, zu berücksichtigen sind.“ (Art. 3 Nr. 56 der KI-Verordnung).

Welche Unternehmen sind von der Pflicht zur KI-Unterweisung betroffen?

Die Schulungspflicht betrifft alle Unternehmen, die als Anbieter oder Betreiber von KI-Systemen agieren, unabhängig von ihrer Größe.

• Anbieter: Unter Anbieter ist eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle zu verstehen, die ein KI-System mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und unter eigenem Namen auf den Markt bringt oder in Betrieb nimmt. Dabei ist unerheblich, ob dies entgeltlich oder unentgeltlich erfolgt. (Art. 3 KI-VO Nr. 3)
• Betreiber: Ein Betreiber ist eine natürliche oder juristische Person, eine Behörde, Einrichtung oder sonstige Stelle, die ein KI-System im Rahmen der beruflichen Tätigkeit in eigener Verantwortung einsetzt. Davon ausgenommen ist der Einsatz eines KI-Systems im persönlichen Rahmen. (Art. 3 KI-VO Nr. 4)

Weitere Begriffsbestimmungen ergeben sich aus Art. 3 KI-VO.

Welche Konsequenzen drohen bei Verstößen gegen die Schulungspflicht?

Die Nichteinhaltung dieser Unterweisungspflicht kann schwerwiegende Konsequenzen haben. Seit dem 2. August 2025 drohen Unternehmen bei Verstößen gegen die KI-Verordnung empfindliche Bußgelder von bis zu 35 Millionen Euro. Bei Verstößen gegen verbotene Praktiken sind es sogar 7 % des weltweiten Jahresumsatzes.

Damit nicht genug. Die Nichteinhaltung führt zu einem höheren Haftungsrisiko. Unternehmen haften für Schäden, die durch den fehlerhaften Einsatz von KI entstehen. Hierunter fallen z.B. die Veröffentlichung von internen Daten oder von personenbezogenen Informationen in KI-Systemen. Außerdem droht ein Reputationsverlust, wenn unsichere oder unethische KI-Praktiken eingesetzt werden.

Praxisempfehlung: Verankern Sie die Schulungspflicht in Ihrer KI-Policy, differenzieren Sie Inhalte nach Rollen (Anwender, Administratoren, Fachverantwortliche, Datenschutz) und stellen Sie die Nachweisführung für Audits sicher.

Warum sind KI-Unterweisungen relevant? Nutzen für Unternehmen und Mitarbeiter

Mit dem AI Act rücken Schulung, Transparenz und Governance in den Fokus. KI verändert Prozesse in nahezu allen Unternehmensbereichen. Die KI-Unterweisung schafft im Unternehmen die Grundlage für einen rechtskonformen und wirksamen Einsatz – und damit für einen messbaren Geschäftsnutzen.

Das sind die Vorteile für Unternehmen:

• Compliance und Risikominimierung: Schulungen zum Einsatz von KI verankern DSGVO-, Urheber- und AI-Governance-Vorgaben im Arbeitsalltag. Sie reduzieren Haftungs- und Reputationsrisiken und erhöhen die Auditfähigkeit.
• Datenschutz und Sicherheit: Die Mitarbeiter lernen, sensible Informationen zu schützen, sichere Prompting-Muster anzuwenden und Risiken wie Datenabfluss, Prompt Injection oder KI-Halluzinationen zu vermeiden.
• Qualität und Effizienz: Besseres Prompting, valide Workflows und Output-Checks steigern die Ergebnisqualität, verkürzen Durchlaufzeiten und senken Aufwände für Nacharbeit und reduzieren Kosten.
• Fairness und Transparenz: Unterweisungen tragen zur Sensibilisierung für KI-Bias bei. Die Erklärbarkeit von Ergebnissen sowie die Kennzeichnungspflichten stärken verantwortungsvolle Entscheidungen – besonders in HR- und Compliance-Use-Cases.
• Akzeptanz und Change: Unterweisungen zum Einsatz von KI bauen Vorbehalte ab, fördern eine einheitliche Nutzung zugelassener Tools und stärken die Lern- und Innovationskultur im Unternehmen.

KI-Unterweisungen sind daher ein Hebel für Rechtssicherheit, Produktivität und Vertrauen. Unternehmen, die Mitarbeiter gezielt qualifizieren, realisieren einen schnelleren Mehrwert aus dem Einsatz von künstlicher Intelligenz.