Künstliche Intelligenz wird in Unternehmen immer häufiger eingesetzt – etwa für Texte, Kundenkommunikation, Analysen oder automatisierte Prozesse. Mit dem EU AI Act hat die Europäische Union deshalb einen einheitlichen rechtlichen Rahmen für den Umgang mit KI geschaffen. Die Verordnung ist seit August 2024 in Kraft und verfolgt zwei Ziele: Innovation ermöglichen und gleichzeitig Menschen, Grundrechte und Sicherheit schützen.

Nicht jede KI wird gleich behandelt

Ein zentraler Bestandteil der Verordnung ist der risikobasierte Ansatz. Je nachdem, welche Gefahren von einer KI-Anwendung ausgehen, gelten unterschiedliche Anforderungen. Die Systeme werden grundsätzlich in vier Kategorien eingeteilt: von minimalem Risiko über begrenztes und hohes Risiko bis hin zu Anwendungen mit unannehmbarem Risiko, die verboten sind.

Für Unternehmen ist dabei wichtig: Die KI-Verordnung betrifft nicht nur Entwickler und Hersteller. Auch Organisationen, die KI-Systeme im eigenen Betrieb einsetzen, können bestimmte Pflichten haben. Das kann beispielsweise bei KI-gestützten Personalprozessen, Kundenkommunikation oder individuell eingesetzten Assistenzsystemen relevant werden.

Transparenz und Dokumentation werden wichtiger

Je höher das Risiko eines KI-Systems, desto umfangreicher sind die Anforderungen. Bei Hochrisiko-Anwendungen können unter anderem Risikomanagement, hochwertige Trainingsdaten, technische Dokumentation, regelmäßige Tests, Cybersecurity und menschliche Aufsicht vorgeschrieben sein.

Ein weiterer wichtiger Punkt ist die Nachvollziehbarkeit. Unternehmen sollten dokumentieren können, welche KI eingesetzt wird, welchem Zweck sie dient, welche Daten verwendet werden und welche Risiken mit ihrem Einsatz verbunden sind. Auch Maßnahmen zur Risikominimierung und die Überwachung des Systems spielen eine wichtige Rolle.

Was bedeutet das für Unternehmen?

Unternehmen sollten sich deshalb einen Überblick über ihre aktuelle KI-Nutzung verschaffen. Welche Tools werden eingesetzt? Für welche Aufgaben? Werden dabei personenbezogene oder andere sensible Daten verarbeitet? Und welche Auswirkungen kann die Nutzung auf Mitarbeiter, Kunden oder andere Betroffene haben?

Wer diese Fragen frühzeitig klärt und den Einsatz von KI strukturiert dokumentiert, schafft eine gute Grundlage für einen sicheren und verantwortungsvollen Umgang mit der Technologie.

Die KI-Verordnung ist damit nicht nur eine zusätzliche gesetzliche Vorgabe, sondern auch ein Anlass für Unternehmen, ihre eigene KI-Nutzung systematisch zu überprüfen.

Hinweis: Dieser Beitrag dient der allgemeinen Information und stellt keine Rechtsberatung dar.