Der EU-AI-ActWas bedeutet er für dich als Anwender?

KI verändert die Spielregeln.

Neue Regeln bedeuten neue Verantwortung.

Die fortschreitende Integration Künstlicher Intelligenz in wirtschaftliche und gesellschaftliche Prozesse verändert, die Art und Weise, wie wir arbeiten, entscheiden und kommunizieren. Der EU-AI-Act schafft einen einheitlichen Rahmen, der klare Regeln für den Einsatz von KI festlegt – und du als Anwender musst wissen, was das für dich bedeutet.

Mitarbeitende, die mit KI arbeiten, aber nicht für deren Implementierung verantwortlich sind, stellt sich primär die Frage: Wie wirken sich diese Regeln auf meinen Arbeitsalltag aus?

Risikoklassifikation:Was darfst du nutzen, was nicht?

Das Herzstück des AI-Acts ist die Einteilung von KI-Systemen nach Risikopotenzial:Bei minimalem Risiko – etwa KI-gestützten Rechtschreibprüfungen oder einfachen Chatbots – gibt es kaum regulatorische Hürden. Sie beeinflussen deine Arbeit kaum.

Als KI mit begrenztem Risiko werden Chatbots für Kundensupport oder Empfehlungssysteme, die dir bei der Kundenberatung helfen, sowie beispielsweise in einem Onlineshop Produkte vorschlagen, eingestuft. Bei diesen Systemen musst du hauptsächlich auf Transparenz achten: Kunden müssen erkennen, wenn sie mit einer KI interagieren.

Diese beiden Systeme sind kaum oder gar nicht reguliert.Anders sieht es bei Hochrisiko-Anwendungen aus, die dir in Bereichen wie Personalwesen, Finanzdienstleistungen oder Gesundheit begegnen könnten. Hier gelten strenge Auflagen: Transparenz, Nachvollziehbarkeit und menschliche Kontrollmechanismen sind Pflicht.Die rote Linie bilden Systeme mit inakzeptablen Risiken. KI-Systeme zur sozialen Bewertung von Individuen oder zur versteckten Manipulation sind verboten. Wenn dir solche Systeme angeboten werden – auch von externen Anbietern aus dem EU-Ausland – musst du deren Einsatz ablehnen.

Branchenspezifische AnforderungenWas gilt in deinem Bereich?

Sprich mit deinem AI-Officer, das ist die Person, die für den Einsatz von KI in deinem Unternehmen verantwortlich ist. Frag ihn, welche Regeln für KI-Systeme in deinem Unternehmen gelten. Im besten Fall gibt es schon eine KI-Richtlinie, die alles Wichtige abdeckt. Je nach Abteilung musst du unterschiedliche Dinge beachten (Beispiele):Kundenkontakt: Deine Kunden müssen sofort erkennen, wenn sie mit KI kommunizieren. Kein Mensch am anderen Ende? Dann mach das deutlich. Aber auch wenn KI zur Kundenbewertung verwendet wird, muss dieser das erfahren.Personalbereich: KI darf bei Bewerbungen oder Mitarbeiterbewertungen nur unterstützen. Die finale Entscheidung? Die triffst du oder ein Kollege, denn verantwortlich muss immer ein Mensch sein. Einkauf: Nutzt du KI, um Angebote oder Lieferanten zu bewerten? Dann kommunizier das offen. Noch besser: Erkläre, nach welchen Kriterien die KI entscheidet.Ein funktionierendes KI-System ist nur so gut, wie seine Rahmenbedingungen. Ohne klare Regeln läufst du Gefahr, gegen Compliance-Vorgaben zu verstoßen.

Beachte:

Die Transparenzpflichten gelten auch, wenn die KI-Systeme von externen Dienstleistern bereitgestellt werden. Du und dein Unternehmen bleiben verantwortlich.

Deine Rechte und Pflichten als Anwender

Als Mitarbeiter hast du sowohl Rechte als auch Pflichten im Umgang mit KI:

Deine Rechte

Du hast das Recht, zu wissen, ob und wie KI deine Arbeit beeinflusst.
Du kannst angemessene Schulungen für die Nutzung von Hochrisiko-KI verlangen.
Du darfst Entscheidungen hinterfragen und menschliche Überprüfung einfordern.

Deine Pflichten

Du musst Kunden und betroffene Personen informieren, wenn KI bei Entscheidungen mitwirkt.
Du solltest kritisch bleiben und KI-Entscheidungen auf Plausibilität prüfen.
Du musst die KI-Richtlinien deines Unternehmens kennen und befolgen.

Verantwortungsvoller Umgang mit KI bedeutet,dass du die Technologie als Werkzeug nutzt – nicht als Ersatz für deine eigene Urteilsfähigkeit.

Bedeutung für den Anwender

Sie müssen sich anmelden, um den Kurs zu starten.