„Sie werden sich mit [Vielfalt] auseinandersetzen müssen, ob Sie wollen oder nicht“, sagte Jarik Conrad, Senior Director für Innovation im Bereich Human Capital Management (HCM) bei Ultimate Software, einer Gruppe von aufmerksamen Teilnehmern bei einer der wenigen Sitzungen über Vielfalt während der diesjährigen HR Tech.

Während der HR Tech in diesem Jahr traf ich einige Anbieter, erkundete einige Demos und nahm an mehreren Sitzungen über Vielfalt in der Technologie teil. Conrad und Trish McFarlane, CEO und Hauptanalystin bei H3 HR Advisors, präsentierten "Wie HR-Technologie CHROs helfen kann, die wirkungsvollsten DE&I-Initiativen zu leiten." Diese Sitzung bot Einblicke in Themen wie Vielfalt, Gleichheit und Inklusion (DE&I) Statistiken in Nordamerika und wie man das Kontinuum der Bedürfnisse der Mitarbeiter versteht.

Leider endete die Sitzung, bevor Conrad und McFarlane darlegen konnten, wie HR-Technologie hilft, bedeutungsvolle DE&I-Initiativen zu leiten. Ich war daran interessiert, sie darüber sprechen zu hören, wie Technologie, insbesondere Software für Diversity-Recruiting, helfen kann. Das „Wie“ ist der schwierigste Teil der Gleichung zu beantworten, und das G2 über Vielfalt findet nur noch mehr Fragen.

Offensichtlich ist Technologie nicht das Allheilmittel, um die Vielfalt in allen Branchen zu erhöhen. Sie ermöglicht es uns jedoch, Dinge auf eine Weise zu tun, die vorher nicht möglich war. Sie kann HR-Profis helfen, Probleme und deren Umfang zu identifizieren; dennoch kann sie auf dem Weg zusätzliche Herausforderungen darstellen. Ein Thema, das sich durch die Sitzungen über Vielfalt bei der HR Tech zog, war die Notwendigkeit, zu verstehen, was unter der Haube steckt, oder besser gesagt, was sich im schwarzen Kasten befindet.

Das Black-Box-Problem der KI

Innerhalb und außerhalb des Arbeitsplatzes vertrauen wir zunehmend künstlichen Intelligenz (KI)-Systemen, Entscheidungen in unserem Namen zu treffen. Von Amazons Alexa bis hin zu personalisierten Online-Shopping-Empfehlungen werden unsere Leben täglich von diesen Systemen beeinflusst. Obwohl KI in unserem Alltag eingebettet ist, sind diese Systeme überhaupt nicht transparent. Wir können nicht in die Black Box oder den Algorithmus hineinschauen und daher nicht verstehen, wie Entscheidungen getroffen werden. Dies wird normalerweise erst offensichtlich, nachdem Voreingenommenheit in einer Lösung gefunden wurde.

Was ist die Black Box?

Eine Black Box ist ein System, das in Bezug auf seine Eingaben und Ausgaben verstanden werden kann; aufgrund der proprietären Natur der Daten gibt es jedoch wenig Einblick in die internen Abläufe des Systems.

Früher in diesem Monat moderierte Khari Johnson, Senior AI Staff Writer bei VentureBeat, ein Panel über die Operationalisierung verantwortungsvoller KI bei der TWIMLcon in San Francisco. In einem Folgeartikel über das Panel erweiterte er die Idee, dass ein Mangel an Einblick in wie KI-Systeme arbeiten, zu Voreingenommenheit führt und reale Menschen auf ernsthafte Weise schädigen kann.

Während er sich auf den Benutzer konzentrierte, bestand Guillaume Saint-Jacques, Senior Software Engineer bei LinkedIn, darauf, dass wir über Voreingenommenheit hinausblicken und den potenziellen Schaden betrachten, den unkontrollierte KI-Systeme verursachen. Rachel Thomas, Direktorin des Center for Applied Data Ethics, lieferte Beispielalgorithmen, die fälschlicherweise Medicaid-Leistungen kürzen oder Lehrer blindlings aufgrund fehlerhafter Daten entlassen.

Das Potenzial für Schaden und Voreingenommenheit in der KI kennt keine Grenzen. KI, die hilft, das Diversity-Recruiting zu verbessern, hat kürzlich Schlagzeilen gemacht. Amazon verbrachte Jahre damit, ein KI-Rekrutierungssystem zu entwickeln, das es aufgeben musste, nachdem es Voreingenommenheit gegenüber weiblichen Kandidaten zeigte. Das Modell bewertete Kandidaten basierend auf 10 Jahren Lebensläufen. Die meisten Lebensläufe stammten von Männern; daher hielt das System Männer für qualifizierter, wenn sie neben weiblichen Kandidaten bewertet wurden.

Technologie diversifizieren

Es sind fünf Jahre vergangen, seit Apples CEO Tim Cook den Mitarbeitern einen Brief schrieb, in dem er versprach, das Unternehmen werde „so innovativ bei der Förderung der Vielfalt sein, wie wir es bei der Entwicklung von Produkten sind.“ Wie WIRED kürzlich berichtete, hat die Tech-Industrie in Bezug auf Diversity-Einstellungsinitiativen nur sehr wenig Fortschritte gemacht. Heute bestehen die Belegschaften von Apple, Facebook, Google und Microsoft immer noch überwiegend aus (weißen oder asiatischen) Männern. Laut Freada Kapor Klein, Gründungspartnerin der Risikokapitalfirma Kapor Capital, gibt es an jeder Ecke Barrieren, um die Diversity-Ziele zu erreichen.

Unternehmen müssen die tief verwurzelten Vorurteile, die in ihrer Kultur verankert sind, angehen, bevor sie ihre Einstellungspraktiken verbessern können. Wir stehen derzeit vor einem ziemlich ärgerlichen Dilemma. Die Technologie hat ein Problem mit Vielfalt. Die Technologie schafft unwissentlich voreingenommene KI-Lösungen, die eine Vielzahl von Menschen schädigen, ignorieren oder abweisen. Die Technologie benötigt eine vielfältige Palette von Individuen, um verantwortungsvolle KI zu entwickeln und einzuführen. Die Technologie scheint jedoch keine echten Fortschritte bei der Erweiterung ihres Talentpools zu machen. Und doch innovieren und erweitern wir ständig die Fähigkeiten der KI. Kann KI helfen, den Talentpool zu diversifizieren?

HR neu denken

Laut dem Global Talent Trends 2019 Bericht der Beratungsfirma Mercer nutzen bereits 88% der Unternehmen KI im HR-Bereich. Die meisten dieser Unternehmen setzen KI-Lösungen in Form von Chatbots für Kandidaten und Mitarbeiter, Leistungsmanagement, Karriereplanung und Screening oder Bewertung von Kandidaten ein.

Eine zunehmende Anzahl von KI-basierten Screening- und Bewertungs-Lösungen, die Unternehmen verwenden oder in Betracht ziehen, beinhalten bereits Diversity-Funktionen. Der Markt für diese Technologie wird nur wachsen. Es gibt bereits viele Unternehmen, die diese Lösungen implementieren. Während eines weiteren Panels bei der HR Tech über HR im Zeitalter der künstlichen Intelligenz sagte Jennifer Carpenter, VP für globale Talentakquise bei Delta, dass die Implementierung von KI-gesteuerter Bewertungstechnologie es Delta ermöglichte, die Anzahl der Kandidaten, die es in die Endrunden der Interviews schafften, zu verdoppeln.

Während des Frageabschnitts dieser Sitzung fragte ein Teilnehmer das Panel, ob sie den Algorithmus auf Fehler oder Probleme „überprüfen“. Carpenter sagte, dass, während Deltas Pipeline wuchs, sie ihre Algorithmen konsequent testen und überprüfen, dass sie keine offensichtliche Voreingenommenheit aufweisen. In der Zwischenzeit bezeugte Jean Smart, VP für globale Rekrutierung bei Hilton Hotels, dass ihr Team ihre Systeme kontinuierlich auf Fehler testet. Hiltons Beziehung zum Anbieter ist eine der gegenseitigen Verantwortung. Wenn sie Voreingenommenheit, Fehler oder Schaden finden, teilen sie die Verantwortung mit dem Unternehmen und beheben es dann.

Nächste Schritte für KI und Vielfalt

Bemühungen zur Verbesserung der Einstellungspraktiken, die ein breites Netz auswerfen, erfordern eine Kombination aus regelmäßiger Verbesserung und Weiterentwicklung der verfügbaren Lösungen, der Implementierung von Rekrutierungssoftware zur Verbesserung des Prozesses und der kontinuierlichen Validierung ihrer Harmlosigkeit. Mit den großen Köpfen, die derzeit in der Technologie tätig sind, und dem talentierten, vielfältigen Kandidatenpool, der bereit ist, zu arbeiten, gibt es großes Potenzial für die Verbesserung und Entwicklung dieser wertvollen Werkzeuge.