Künstliche Intelligenz wird bei Bewerbungen sowohl von Jobsuchenden als auch von Unternehmen eingesetzt. In diesem Artikel gehen wir der Frage nach, ob der AI Act der EU auch Auswirkungen auf Bewerbungsprozesse hat.
1
Welche Tools erlaubt der AI Act?
Der AI Act (EU-Verordnung 2024/1689 über künstliche Intelligenz) regelt unter anderem, welche KI-Systeme in der EU als inakzeptable „Hochrisiko-Anwendungen“ betrachtet werden. Dazu zählen zum Beispiel biometrische Kategorisierungssysteme, die auf sensiblen Merkmalen wie politischen oder religiösen Überzeugungen beruhen. Auch KI-Systeme, die Emotionen erkennen, sind am Arbeitsplatz und in Bildungseinrichtungen verboten.
Die meisten gängigen Tools zur Erstellung von Bewerbungen wie ChatCPT, Canva, DeepL usw. sind davon nicht betroffen. Es handelt sich dabei um Anbieter von allgemein einsetzbarer KI (GPAIS). Für diese gelten gemäß AI Act besondere Transparenzpflichten. Sie müssen erklären, welche Daten sie verwenden.
Nichtsdestotrotz empfehlen wir dir weiterhin: Überprüfe immer, ob ein KI-Tool seriös ist, bevor du es nutzt. Schau dazu auf watchlist-internet.at, ob bestimmte Web-Angebote als problematisch bekannt sind.
2
Deine Rechte gegenüber Unternehmen
In Österreich gelten durch die Datenschutz-Grundverordnung (DSGVO) schon seit Längerem strenge Datenschutz-Bestimmungen. Diese bleiben trotz AI Act weiterhin gültig. Allerdings müssen Firmen aufgrund der neuen EU-Verordnung noch genauer überlegen, welche KI-Systeme sie in der Personalauswahl verwenden und ob diese bestimmte Sicherheits- und Transparenz-Anforderungen erfüllen.
Der Missbrauch von KI durch Unternehmen sollte somit nicht mehr vorkommen. Deine Rechte hingegen bleiben unverändert:
- Wenn ein Unternehmen, bei dem du dich bewirbst, die Auswahl der Bewerber:innen komplett einer KI überlässt, muss dafür deine ausdrückliche Einwilligung eingeholt werden.
- Deine Daten aus den Bewerbungsunterlagen dürfen nicht für Werbung genutzt werden.
- Du darfst nachfragen, welche Daten ein Unternehmen über dich speichert.
- Du darfst auch verlangen, dass diese Daten gelöscht werden.
Kurz zusammengefasst:
Der AI Act hat kaum Auswirkungen auf Jobsuchende. In Österreich galten durch die DSVGO bereits zuvor strenge Datenschutz-Bestimmungen. Ein Vorteil des AI Acts ist, dass du künftig besser überprüfen kannst, welche Daten ein KI-Tool verwendet.
Und übrigens …
… kennst du schon unser Video „Bewerben mit KI: Was du dabei auf keinen Fall machen solltest“ ?
