KI-Alarmisten warnen vor den möglichen Auswirkungen von Künstlicher Intelligenz (KI) auf die Arbeitswelt. Hilke Schellmann, Professorin an der New York University und erfahrene Reporterin, hat nach fünf Jahren intensiver Untersuchung festgestellt, dass die Sorge vor KI nicht unbedingt in der Übernahme von Arbeitsplätzen liegen muss, sondern eher in der Qualität und Zuverlässigkeit der von KI-Tools durchgeführten Aufgaben.
In ihrem Bericht “Der Algorithmus” beleuchtet Schellmann die weit verbreitete Verwendung von KI-Tools bei der Personalbeschaffung, -verwaltung und -bewertung durch Arbeitgeber. Diese Tools steuern zunehmend, welche Bewerber:innen zu einem Vorstellungsgespräch eingeladen werden, wer befördert oder entlassen wird und sogar, welche Stellenanzeigen Bewerber:innen zu sehen bekommen. Trotz der vermeintlichen Vorteile, die KI in diesem Bereich bieten soll, hat Schellmann herausgefunden, dass viele der aktuellen Systeme möglicherweise mehr Schaden anrichten als Nutzen stiften.
Ein zentraler Punkt, den Schellmann anspricht, ist die potenzielle Voreingenommenheit von KI-Tools. Beispielsweise filtern manche Systeme Bewerber:innen aufgrund ihres Wohnorts aus oder bevorzugen bestimmte Nationalitäten. Auch können Tools dazu neigen, männlich dominierte Berufe als maßgebliche Erfolgsfaktoren anzusehen. Erschwerend kommt hinzu, dass Leistungsträger aufgrund irrelevanter Bewertungskriterien, wie schlechter Abschneiden bei Online-Spielen, ausgeschlossen werden können.
Die Schwierigkeit besteht oft darin, dass Entwickler:innen von KI-Tools die Anforderungen an eine erfolgreiche Einstellung nicht immer richtig verstehen. Dadurch können Systeme geschaffen werden, die eher darauf abzielen, Stellen schnell zu besetzen, anstatt die besten Kandidaten auszuwählen. Zudem können Vorurteile, die durch menschliches Urteilsvermögen entstehen, von Maschinellem Lernen verstärkt und schwer erkannt werden. Die unbeabsichtigten Auswirkungen solcher Algorithmen können für Einzelpersonen sehr belastend sein.
Schellmanns Buch bietet nicht nur Ratschläge für Arbeitssuchende, wie die Anpassung des Lebenslaufs für eine maschinenlesbare Darstellung, sondern auch Empfehlungen für Regulierungsbehörden. Sie betont die Notwendigkeit von Transparenz bei der Verwendung von Daten zur Schulung von KI-Modellen und schlägt technische Berichte zur Wirksamkeit der Tools vor. Ohne eine Reform in diesem Bereich bleibt Schellmanns Arbeit ein warnendes Beispiel für diejenigen, die glaubten, dass KI menschliche Vorurteile beseitigen würde, sowie ein wichtiges Handbuch für Arbeitssuchende.
