KI-Technik ist verfügbar – und wird günstiger
KI war lange ein Thema für Insider und „early adopter“. Das ändert sich. KI-Tools werden günstiger, einfacher – und lassen sich direkt in der Cloud nutzen.
Mehr Bewerbungen, weniger Zeit?
Im Wettbewerb um Talente wird die Geschwindigkeit und Art der Reaktion auf eingehende Bewerbungen im kritischer. Wenn mehr Bewerbungen schneller verarbeitet werden müssen, wird KI plötzlich interessant – gerade für HR-Teams in klein- und mittelständischen Unternehmen (KMU’s).
KI wird Teil moderner HR-Strategien
Wer HR als strategischen Faktor im Unternehmen versteht, kommt am Einsatz digitaler Tools nicht vorbei – und irgendwann auch nicht mehr an der KI-Verordnung.
Was KMU’S als Nutzer von KI wissen und umsetzen müssen
Klein- und mittelständische Unternehmen entwickeln selten eigene KI-Systeme – sie nutzen sie. Trotzdem gelten rechtliche Pflichten, etwa zur Information und Aufsicht. Sie müssen sicherstellen, dass der Einsatz der System im Sinne des EU AI Acts einer Dokumentation, Aufklärung und menschlichen Kontrolle unterliegt.
Hochrisiko-KI-Systeme im HR-Bereich und warum sie betroffen sind:
Inzwischen gibt es am Markt eine Vielzahl von KI-unterstützen Systemen, die HR-Kernprozesse unterstützen helfen. Hier eine nicht repräsentative Auswahl solcher Systeme, die mit KI werben (Hinweis: KI-Systeme ist kein geschützter Begriff. Bei rationale Auslegung des Begriffs, kann angesichts des vom Gesetzgebers angestrebten hohem Maß an Schutz bei jeder Form der Automatisierung von Entscheidungen über Menschen, sobald auch Teilschritte eine bestimmte praktische Relevanz für den Entscheidungsprozess erreichen, von KI gesprochen werden).
1. CV-Screening-Tools (z. B. HireVue, Retorio, Phenom People)
Diese Tools analysieren eingehende Bewerbungen, filtern sie nach bestimmten Kriterien und erstellen automatisch ein Ranking. Die Entscheidung, wer zu einem Vorstellungsgespräch eingeladen wird, basiert also teilweise auf den KI-Vorschlägen.
Warum Hochrisiko? → KI kann eine Entscheidungsunterstützung liefern, die Einfluss auf den Auswahlprozess nimmt. Dadurch können strukturelle Benachteiligungen reproduzieren werden, etwa durch algorithmische Bias auf Basis historischer Daten.
2. Interviewanalyse mit KI (z. B. Retorio, Sapia.ai)
Diese Lösungen werten Videoantworten aus und analysieren Mimik, Tonlage oder Sprachmuster – teilweise auch Emotionen.
Warum Hochrisiko? → Es werden nicht nur Inhalte bewertet, sondern auch persönliche Merkmale wie Ausdruck, Stimmung, Tempo. Das kann diskriminierend wirken – oder schlicht nicht nachvollziehbar sein.
3. Aufgabenverteilung durch KI (z. B. Gloat, Workday Talent Optimization)
Systeme, die Skills, Performance-Daten und Verfügbarkeiten analysieren, um automatisch Aufgaben oder Projekte zuzuweisen.
Warum Hochrisiko? → Diese Entscheidungen beeinflussen die Entwicklung und Sichtbarkeit von Mitarbeitenden im Unternehmen – und somit mittelbar auch Karrierewege.
4. Job-Ad-Targeting-Systeme (z. B. Textio, Talentry, Eightfold)
Diese Tools personalisieren Ausschreibungen, passen Texte automatisch an und bestimmen, wann und wo Stellenanzeigen ausgespielt werden.
Warum Hochrisiko? → Wenn bestimmte Gruppen systematisch ausgeschlossen werden oder der Zugang zu Positionen algorithmisch gesteuert wird, kann Diskriminierung entstehen.
Fazit für Betreiber:
Auch wenn das Tool von einem Drittanbieter stammt – die rechtliche Verantwortung für den Einsatz liegt beim Unternehmen. Es gelten konkrete Pflichten zur Dokumentation, Aufklärung und menschlichen Kontrolle.
Pflichten nach dem EU-AU-ACT – vorbereiten sollten Sie sich jetzt:
• Nutzung dokumentieren: Wie funktioniert das Tool? Wofür wird es genutzt?
• Menschliche Kontrolle: Eine geschulte Person soll das System regelmäßig überwachen
• Bewerber:innen informieren: Wer ein Rankingsystem nutzt, muss Bewerber:innen sagen, dass KI beteiligt ist
• Auf Nachfrage erklären: Wenn KI eine Entscheidung beeinflusst, haben Betroffene ein Recht auf Erklärung
Achtung bei Eigenumbauten
Wer ein bestehendes System wesentlich verändert (z. B. durch eigenes Training oder Zweckänderung), kann regulatorisch als Anbieter gelten – mit erheblich mehr Pflichten
Was Sie als HR-Verantwortliche jetzt tun sollten
Checkliste für KMU im HR-Bereich
• Welche Tools mit KI setzen wir heute schon ein – bewusst oder unbewusst?
• Haben wir die nötigen Infos vom Anbieter (Zweck, Risiko, Anleitung)?
• Haben wir eine Person benannt, die das System regelmäßig prüft?
• Informieren wir Bewerber:innen klar und verständlich über den KI-Einsatz?
• Verfügt unser Team über das nötige Grundverständnis für KI?
Tipp: Starten Sie früh mit Schulungen – auch bei Tools, die nur unterstützen. Wer weiß, wie KI tickt, kann sie auch besser steuern.
Fazit und nächste Schritte
KI in der Personalarbeit ist da – und sie bleibt. Die KI-Verordnung gibt nun den Rahmen, wie fairer, nachvollziehbarer Einsatz gelingen kann.
KMU’s profitieren, wenn sie jetzt handeln:
• Passende Tools bewusst auswählen
• Transparenz gegenüber Bewerber:innen leben
• KI-Kompetenz im Team aufbauen
Sprechen Sie mit Ihren Teams und Partnern – denn KI wird nicht weniger, sondern mehr.
Über den Autor
Stefan Apfelbaum ist Rechtsanwalt und Berater für Personal- und Organisationsentwicklung mit Fokus auf mittelständische Unternehmen. Er begleitet HR-Teams bei der Professionalisierung und Digitalisierung ihrer Prozesse – immer mit Blick auf Mensch, Kultur und Recht.
Lassen Sie uns Ihre KI-Compliance gemeinsam gestalten!
Kontaktieren Sie uns für ein unverbindliches Erstgespräch.