Zu diesem wenig ermutigenden Schluss kam Hilke Schellmann, Journalismusprofessorin an der New York University, nach Hunderten von Interviews.
Große Unternehmen testen seit fast fünf Jahren neuronale Netzwerktechnologien im HR-Bereich, und bisher herrscht dort völliges Chaos. In einem Interview bot ihr ein Algorithmus einen Job an, obwohl sie Unsinn erzählte. In einem anderen wurde sie aufgrund eines niedrigen LinkedIn-Ratings abgelehnt.

Schellmanns Forschung beleuchtet die dunkle Seite der KI im Rekrutierungsprozess. Algorithmen, die darauf trainiert sind, Kandidaten zu bewerten, können oft irreführend und ungenau sein. Sie können sogar zu ungerechten Ergebnissen führen, indem sie Kandidaten aufgrund von Daten ausschließen, die nichts mit ihren tatsächlichen Fähigkeiten oder ihrer Eignung für den Job zu tun haben.

Ein besonders beunruhigender Aspekt ist, dass diese Algorithmen oft als "Black Boxes" funktionieren, was bedeutet, dass weder die Kandidaten noch die Arbeitgeber wirklich verstehen, wie die Entscheidungen getroffen werden. Dies führt zu einer fehlenden Transparenz und Verantwortlichkeit im Rekrutierungsprozess.

Die Implikationen für den Arbeitsmarkt sind enorm. Wenn Unternehmen zunehmend auf KI-gesteuerte Rekrutierungstools setzen, könnten viele qualifizierte und talentierte Bewerber übersehen werden. Dies könnte nicht nur die Karrierechancen der Einzelnen beeinträchtigen, sondern auch die Innovationsfähigkeit und Vielfalt in Unternehmen einschränken.

Schellmanns Arbeit wirft wichtige Fragen auf: Wie können wir sicherstellen, dass KI im Rekrutierungsprozess fair und transparent eingesetzt wird? Wie können wir verhindern, dass Algorithmen Vorurteile verstärken und zu ungerechten Ergebnissen führen?

Es ist an der Zeit, dass wir diese Fragen ernst nehmen und nach Lösungen suchen, die sowohl die Vorteile der KI nutzen als auch ihre potenziellen Nachteile abmildern. Die Zukunft der Arbeit könnte davon abhängen.

Interessant, wie wir uns ständig Sorgen um Datenschutz machen, aber gleichzeitig sind Forscher der Technischen Universität Dänemark dabei, die Grenzen der KI zu erweitern, indem sie die gesamten persönlichen Daten der dänischen Bevölkerung nutzen.

Ihr neuestes Meisterwerk? Ein KI-Algorithmus, der die Wahrscheinlichkeit eines vorzeitigen Todes vorhersagt. Ja, richtig gelesen. Wer braucht schon Privatsphäre, wenn man die Sterblichkeit vorhersagen kann?

Dieser Algorithmus, trainiert mit Gesundheits-, Bildungs-, Einkommens- und Berufsdaten von 6 Millionen Menschen über einen Zeitraum von 12 Jahren, übertrifft anscheinend die Genauigkeit bestehender Modelle in der Versicherungsbranche.

Es scheint, als wäre die Vorhersage des eigenen Ablebens jetzt genauer als die Wettervorhersage.

Das Modell, Life2vec genannt, nutzt Technologien großer Sprachmodelle, ähnlich wie ChatGPT. Es bietet einen "einzigartigen" Einblick in die Beziehung zwischen Lebensereignissen und ihren Folgen.

Anscheinend öffnet es neue Horizonte im Gesundheitswesen und in der persönlichen Planung – vorausgesetzt, man ist komfortabel damit, dass ein Algorithmus mehr über das eigene Lebensende weiß als man selbst.

Jetzt die Frage zur Diskussion: Wie fühlt es sich an, zu wissen, dass ein Algorithmus potenziell das Datum Ihres Todes vorhersagen kann, basierend auf einer Fülle von persönlichen Daten?

Ist das der ultimative Durchbruch in der personalisierten Medizin oder ein Schritt zu weit in unserer bereits überwachten Welt?

Wo ist die feine Linie zwischen innovativer Gesundheitsvorsorge und dem Schutz der Privatsphäre.

Quelle: https://www.wired.com/story/hilke-schellmann-algorithm-book-ai-jobs-hiring/