KI-Kompetenz im Rahmen des EU AI Act: Warum KI-Schulungen entscheidend sind

Überblick über den Europäischen AI Act

Der Europäische AI Act ist eine neue Regulierung, die sicherstellen soll, dass Künstliche Intelligenz (KI) in der EU auf eine sichere, ethische und rechtlich konforme Weise eingesetzt wird. Diese Verordnung erfordert ab dem 2. Februar 2025 von Unternehmen, dass ihre Mitarbeitenden über ausreichendes Wissen im Bereich der KI verfügen (KI-Kompetenz). Dies wird durch gezielte KI-Schulungen ermöglicht, insbesondere für Unternehmen, die KI-Systeme entwickeln, betreiben, nutzen oder anbieten. Doch was bedeutet das konkret und wie können Unternehmen diese Anforderungen umsetzen?

Wer ist vom AI Act betroffen?

Der AI Act betrifft sämtliche Unternehmen, die KI-Systeme entwickeln, betreiben, anbieten oder nutzen – unabhängig von ihrer Größe oder Branche. Besonders relevant ist diese Regulierung für Unternehmen, die Hochrisiko-KI-Systeme einsetzen, wie beispielsweise im Gesundheitswesen, Finanzsektor oder in der öffentlichen Verwaltung. Auch Anbieter von KI-gestützten Produkten und Dienstleistungen müssen sicherstellen, dass ihre Mitarbeitenden die notwendigen Fähigkeiten besitzen, um die gesetzlichen Anforderungen zu erfüllen.

Auch Mitarbeiter, die ChatGPT oder andere generative KI-Systeme am Arbeitsplatz nutzen, sind von den Regelungen des EU AI Act betroffen. Der AI Act legt spezifische Anforderungen fest, die sowohl für Anbieter als auch für Nutzer von KI-Systemen gelten, insbesondere wenn es sich um sogenannte General Purpose AI (GPAI)-Systeme wie ChatGPT handelt. Nutzer müssen darüber informiert werden, dass sie mit einem KI-System interagieren und dass Inhalte künstlich generiert oder bearbeitet wurden. Dies soll sicherstellen, dass Mitarbeitende und andere Nutzer die Funktionsweise und die Grenzen solcher Systeme verstehen.

Schulungspflichten

Mitarbeiter, die KI-Systeme wie ChatGPT nutzen, müssen gemäß Art. 4 des AI Acts über eine ausreichende KI-Kompetenz verfügen. Diese Kompetenz umfasst ein Grundverständnis der Funktionsweise der KI sowie der potenziellen Risiken, insbesondere im Hinblick auf Datenschutz und ethische Fragestellungen. Unternehmen sind verpflichtet, ihre Mitarbeitenden entsprechend zu schulen, entweder durch Workshops oder E-Learning-Kurse.

Risikoabschätzung

Obwohl ChatGPT in der Regel nicht als Hochrisiko-KI-System eingestuft wird, müssen Unternehmen dennoch sicherstellen, dass Mitarbeiter die Ergebnisse der KI korrekt interpretieren und überprüfen. Dies gilt auch für andere generative KI-Systeme wie Midjourney oder DALL-E. Die Nutzung solcher Systeme, beispielsweise zur Erstellung von Texten oder Bildern, darf nicht als vollständige Delegation von Arbeit an eine „Hilfsperson“ betrachtet werden. Mitarbeiter müssen die Ergebnisse der KI stets auf Fehler überprüfen und dürfen diese nicht ungeprüft als eigene Arbeit ausgeben.

Warum ist KI-Kompetenz entscheidend?

Das Ziel des Gesetzgebers ist es, sicherzustellen, dass KI-Technologien nicht nur innovativ, sondern auch sicher und fair eingesetzt werden. Ohne fundierte Kenntnisse über KI laufen Unternehmen Gefahr, Fehlentscheidungen zu treffen oder ethische Grundsätze zu verletzen, was nicht nur rechtliche Konsequenzen, sondern auch einen Vertrauensverlust bei Kunden und der Öffentlichkeit zur Folge haben kann.

Welche Kompetenzen sind erforderlich?

Die KI-Schulungen sollen sicherstellen, dass Mitarbeitende umfassende Kompetenzen im Bereich der KI erwerben. Folgende Schlüsselkompetenzen sind besonders relevant:

1. Technisches Verständnis
   Mitarbeitende müssen verstehen, wie KI-Systeme funktionieren, einschließlich der zugrunde liegenden Algorithmen, der Datenverarbeitung und potenzieller Schwachstellen. Dies ist insbesondere bei Hochrisiko-KI-Systemen, wie in der Medizin oder bei autonomen Fahrzeugen, unerlässlich.
2. Interpretation von Ergebnissen
   Es ist wichtig, dass Mitarbeitende die Ergebnisse eines KI-Systems richtig bewerten und interpretieren können. Dazu gehört auch das Verständnis für mögliche Verzerrungen (Bias) und die Fehlerquote des Systems.
3. Rechtliche Rahmenbedingungen
   Ein solides Verständnis der gesetzlichen Vorschriften, einschließlich Datenschutz, Transparenzpflichten und Risikomanagement, ist entscheidend, um sicherzustellen, dass der Einsatz von KI rechtskonform erfolgt.
4. Ethische und soziale Aspekte
   Mitarbeitende sollten die potenziellen Auswirkungen von KI auf die Gesellschaft erkennen und ethische Fragestellungen, wie mögliche Diskriminierung oder Manipulation, identifizieren können. Sie müssen in der Lage sein, geeignete Maßnahmen zur Bewältigung dieser Herausforderungen zu entwickeln.
5. Risikomanagement
   Die Fähigkeit, potenzielle Risiken zu erkennen und angemessen darauf zu reagieren, ist eine zentrale Kompetenz im Umgang mit KI. Mitarbeitende müssen Maßnahmen entwickeln können, um Risiken frühzeitig zu minimieren. Zum Beispiel kann bei der Nutzung von generativen KI-Systemen wie Midjourney ein Risiko darin bestehen, dass die generierten Inhalte nicht den Unternehmensstandards entsprechen oder potenziell urheberrechtlich geschützte Materialien enthalten. Mitarbeitende sollten deshalb lernen, wie sie die Qualität und Rechtmäßigkeit der Ergebnisse bewerten und gegebenenfalls anpassen können.

Nachweispflicht der KI-Kompetenz

Die Überwachung der KI-Kompetenz der Mitarbeitenden im Rahmen des EU AI Act erfolgt durch mehrere Maßnahmen, die Unternehmen ergreifen müssen, um sicherzustellen, dass ihre Mitarbeitenden ausreichend geschult sind und die Anforderungen der Verordnung erfüllen.

1. Regelmäßige Schulungen und Fortbildungen

Unternehmen sind verpflichtet, sicherzustellen, dass ihre Mitarbeitenden regelmäßig geschult werden. Diese Schulungen können in Form von internen Workshops, externen Seminaren oder E-Learning-Kursen stattfinden, die spezifisch auf die Anforderungen des Unternehmens und die eingesetzten KI-Systeme zugeschnitten sind. Die Schulungsinhalte umfassen sowohl technische Aspekte der KI als auch rechtliche und ethische Fragen.

2. Dokumentation und Nachweis der Schulungen

Eine zentrale Anforderung des AI-Acts ist die Dokumentation der Schulungsmaßnahmen. Unternehmen müssen detailliert nachweisen, dass ihre Mitarbeitenden die erforderlichen Schulungen absolviert haben. Dies wird häufig durch Prüfungszertifikate oder andere offizielle Nachweise gesichert, die belegen, dass das Personal über die notwendigen Fähigkeiten verfügt.

3. Anpassung an den Einsatzkontext

Die Schulungsanforderungen variieren je nach den Vorkenntnissen und dem Einsatzbereich der Mitarbeitenden. Der AI-Act sieht vor, dass das Maß an KI-Kompetenz an den spezifischen Kontext angepasst wird, in dem die KI-Systeme eingesetzt werden. Dies bedeutet, dass Mitarbeitende je nach ihrer Rolle und den Risiken des jeweiligen KI-Systems unterschiedlich intensiv geschult werden müssen.

4. Qualitätsmanagementsysteme

Einige Unternehmen führen Qualitätsmanagementsysteme ein, um sicherzustellen, dass die Schulungen kontinuierlich aktualisiert werden und den neuesten gesetzlichen Anforderungen entsprechen. Diese Systeme helfen dabei, den Fortschritt der Mitarbeitenden zu überwachen und sicherzustellen, dass sie stets über aktuelle Kenntnisse im Umgang mit KI-Systemen verfügen.

5. Audits und externe Prüfungen

Zusätzlich zur internen Überwachung können auch regelmäßige Audits und externe Prüfungen erforderlich sein, um die Einhaltung der Vorschriften zu kontrollieren. Diese Audits überprüfen nicht nur die Konformität der eingesetzten KI-Systeme, sondern auch die Qualifikation des Personals.

Insgesamt müssen Unternehmen also durch regelmäßige Schulungen, Dokumentation und Audits sicherstellen, dass ihre Mitarbeitenden über ausreichende KI-Kompetenz verfügen, um den Anforderungen des AI-Acts gerecht zu werden.

Warum sollten Unternehmen jetzt handeln?

Die Anforderungen des AI-Acts sind nicht nur eine gesetzliche Pflicht, sondern ermöglichen Unternehmen auch, durch gezielte KI-Schulungen ihre Innovationsfähigkeit zu steigern. Unternehmen, die frühzeitig in die Weiterbildung ihrer Mitarbeitenden investieren, profitieren von:

• Höherer Sicherheit im Umgang mit KI-Systemen
• Gestärktem Vertrauen bei Kunden und Geschäftspartnern
• Wettbewerbsvorteilen durch qualifizierte Mitarbeitende

Konsequenzen bei Nichteinhaltung

Unternehmen, die die Schulungspflicht nicht erfüllen, riskieren erhebliche Strafen. Der AI Act sieht hohe Bußgelder vor, und ein möglicher Reputationsverlust könnte zusätzliche Schäden nach sich ziehen. Ein systematischer Ansatz für KI-Schulungen hilft Unternehmen dabei, die gesetzlichen Anforderungen zu erfüllen, Risiken zu minimieren und gleichzeitig die interne KI-Kompetenz zu stärken.

Unser Angebot: Unterstützung bei der Entwicklung Ihrer KI-Kompetenz

Bereiten Sie sich und Ihre Mitarbeitenden optimal auf die Anforderungen des EU AI Acts vor! Unsere praxisnahen KI-Seminare und KI-Schulungen vermitteln Ihnen das notwendige Wissen, um die KI-Kompetenz in Ihrem Unternehmen zu stärken und KI-Systeme sicher, ethisch und rechtskonform einzusetzen.

Ihre Vorteile auf einen Blick:

• Erfahrener Trainer: Praktisches Expertenwissen
• Maßgeschneiderte Inhalte: Anpassung an die spezifischen Anforderungen Ihres Unternehmens
• Flexibilität: Online-Schulungen für maximale Anpassungsfähigkeit

Quellen und weitere Informationen

https://www.ifo.de/

https://www.europarl.europa.eu

https://www.bitkom.org

Hier fehlt etwas? Oder ist etwas falsch? Du siehst das anders? Hinterlasse gerne einen Kommentar.