Comment naviguer dans l'éthique de l'IA générative dans le monde des RH

Selon la personne à qui vous demandez, l'IA est notre salut, l'apocalypse, une nouveauté, un bouleversement industriel ou une mode passagère. Entre les assistants d'écriture virtuels, la lutte contre les obstacles à l'IA dans les logiciels de chaîne d'approvisionnement, et les bots de planification de réunions, il n'y a pas d'industrie qui n'ait été touchée par le virus de l'apprentissage automatique. Mais les RH ont toujours été axées sur les personnes. Lorsque l'industrie des "personnes" est automatisée, les gens deviennent nerveux.

Dans cet article, nous aborderons comment la technologie de l'IA imprègne les RH, où elle est déjà présente dans le département, les préoccupations éthiques et comment nous pouvons y répondre. Faites défiler jusqu'à la section préférée ou lisez l'ensemble pour découvrir la réponse à une question cruciale : Comment l'IA générative change-t-elle le visage des RH, et quelles questions éthiques devrions-nous préparer à mesure que cette technologie progresse ?

Où l'IA est-elle présente dans les RH ?

L'IA est déjà présente dans les RH, influençant pratiquement toutes les catégories, de la commercialisation du recrutement à l'engagement des employés. 

Les chatbots, les assistants virtuels et l'automatisation à tous les niveaux peuvent potentiellement changer les emplois des recruteurs, des administrateurs et des professionnels de la formation et du développement. L'écriture et l'analyse du langage et du texte sont une grande partie des RH, et le fait que les machines le fassent à la place des humains libère du temps et transforme un processus qui était autrefois basé davantage sur l'instinct en une simple formule mathématique. Comme vous pouvez le voir, l'IA dans les RH a un impact considérable.

Avant d'aller plus loin, comprenons certains termes courants associés à l'IA.

Il n'existe actuellement aucune section dans G2 qui cartographie l'IA dans les RH. Cependant, il y a deux catégories où elle apparaît beaucoup. La première est la catégorie Logiciel d'intelligence des talents définissant comment l'IA révolutionne la gestion et l'acquisition des talents. La seconde est la catégorie Logiciel d'automatisation du recrutement , qui a depuis longtemps pris l'acte de sourcer des personnes et d'automatiser le processus.

Les deux catégories ont connu une croissance exponentielle de leurs nombres de critiques, avec l'automatisation du recrutement augmentant d'environ 188 % et l'intelligence des talents croissant d'environ 526 % depuis la création des catégories G2 en 2012. Cela a été particulièrement vrai entre 2021 et 2022.

Nous voyons également une forte présence de l'IA dans la catégorie G2 Intelligence des talents. L'intelligence des talents est définie par des solutions qui utilisent l'IA pour mieux sourcer, faire correspondre ou comprendre les travailleurs et leurs compétences. Nous avons vu l'importance de cela dans la croissance marquée de la catégorie. L'intelligence des talents a ajouté tant de produits au cours des 12 derniers mois qu'elle se classe dans le top 24 % des catégories tendance de G2.

Alors que nous examinons plus en profondeur comment l'apprentissage automatique révolutionne les RH, tournons-nous vers quelque chose avec lequel Internet (et l'IA) a du mal : la nuance.

Analyse de texte et IA générative dans les RH
Ici, nous nous concentrerons sur les RH et leur connexion à l'IA générative, c'est-à-dire l'IA qui peut créer, écrire, analyser et affiner le texte. L'IA générative produit de nouveaux contenus - texte, images, etc. - après avoir été formée sur de grands ensembles de données.

Le modèle d'OpenAI ChatGPT a récemment dominé les actualités, mais de nombreuses solutions de médias synthétiques offrent des fonctionnalités similaires, y compris WriteSonic, Jasper, et Anyword.

En fin de compte, cette IA crée de nouveaux textes basés sur une invite spécifique. 

Et oui, elle est partout dans les actualités. Vous vous souvenez peut-être que CNET a récemment eu des ennuis pour avoir créé de nouveaux articles pour son site sans divulguer qu'une IA les avait écrits. Mais nous aborderons plus tard les préoccupations éthiques de l'IA.

Où ce type d'IA apparaît-il dans les RH ? La réponse courte est, eh bien, partout. Certaines utilisations technologiques sont plus théoriques ou ponctuelles, tandis que d'autres l'ont déjà intégrée dans leurs outils.

Comment l'analyse de texte se connecte-t-elle aux processus RH ? 

Les RH utilisent souvent le NLP et le NLU pour accomplir la synthèse automatisée, qui est la capacité de comprendre et de déchiffrer rapidement un ensemble de travaux. 

Cela leur permet à son tour d'atteindre deux objectifs importants :

• Analyse des sentiments : Examine le ton
• Sensation générale : Extrait comment les utilisateurs se sentent par rapport au texte

Les enquêtes de score net promoteur (NPS), par exemple, utilisent cette technologie pour extraire où les travailleurs se sentent stressés ou débordés et identifier les points de pression au travail.

En dehors de cela, d'autres outils intègrent l'IA générative et l'analyse de texte dans leur logiciel par divers moyens. Voici quelques exemples d'utilisations potentielles et réelles.

Logiciel de recrutement et acquisition de talents

L'automatisation a changé à jamais le logiciel de gestion des descriptions de poste, permettant aux recruteurs de sélectionner des modèles pour créer rapidement des descriptions de poste. Maintenant, l'IA générative peut créer des descriptions de poste à partir de zéro avec quelques invites rapides. L'acquisition de talents voit de plus en plus de lettres d'offre pré-générées, économisant du temps et de l'argent. LinkedIn, par exemple, a récemment lancé un assistant d'écriture pour les descriptions de poste et les profils. 

Certaines des utilisations les plus avancées de l'IA générative apparaissent dans le logiciel d'automatisation du recrutement et le logiciel d'intelligence des talents. Elle peut créer des communications, des e-mails, des messages et tous les autres points de contact, les automatiser, et apprendre à créer un modèle pour un candidat idéal au fil du temps. À partir de là, elle mesure tous les candidats par rapport à ce candidat de rêve. La solution SeekOut utilise l'IA pour aider au recrutement. 

Étant donné qu'il a fallu en moyenne 15,61 mois avant que les utilisateurs de G2 ne signalent avoir reçu un retour sur investissement de l'automatisation du recrutement en 2022, il est clair que l'utilisation de l'IA pour faire de meilleures correspondances peut vraiment impacter le résultat net.

Gestion de la performance et engagement des employés

La gestion de la performance est là où le côté analyse de l'apprentissage automatique entre en jeu. Les utilisateurs peuvent analyser les communications écrites précédemment entre les managers et les travailleurs pour identifier les thèmes et les schémas récurrents. Lorsqu'un manager doit écrire des dizaines de retours, il peut s'appuyer sur l'IA générative pour les aider à démarrer ou leur donner un brouillon. Il en va de même pour les évaluateurs par les pairs dans les outils de feedback à 360 degrés. La solution 360Learning a déjà mis en œuvre l'IA générative pour aider à fournir des retours.

Enfin, mesurer le NPS et utiliser l'analyse des sentiments a longtemps été un pilier de l'engagement des employés. Cela extrait les forces et faiblesses récurrentes et pertinentes de milliers de déclarations afin que les équipes de direction puissent voir où une organisation prospère ou échoue.

DEI et analyse des personnes

L'une des utilisations les plus importantes de l'analyse de texte concerne le DEI. Le biais est souvent inconscient. Utiliser le NLP pour analyser les communications passées peut mettre en évidence un langage inutilement genré ou biaisé, montrer des schémas lorsqu'il y a des différences de communication entre des utilisateurs de différents âges, races ou autres identités protégées, et aider à éclairer les angles morts où les communications sont bloquées. L'analyse des sentiments examine où le langage devient tendu ou l'émotion est forte dans une organisation afin que les utilisateurs puissent résoudre les problèmes sociaux.

Problèmes éthiques potentiels de l'IA dans les RH

Maintenant que nous avons examiné les données et les cas d'utilisation, il est temps de plonger dans la grande question de cet article. L'IA et l'éthique ont été des sujets énormes. Quelles sont les préoccupations spécifiques aux RH ?

Votre ordinateur est-il véridique ?

Selon le rapport de l'Index de l'Intelligence Artificielle de l'Université de Stanford 2022, la véracité de l'IA générative varie énormément selon le modèle, mais la plupart sont véridiques moins de 40 % du temps. 

Source : Rapport de l'Index de l'Intelligence Artificielle

Bien que ce chiffre varie selon le modèle, tous sauf un des modèles examinés étaient véridiques moins de 60 % du temps. L'une des raisons à cela est que les modèles d'IA générative n'ont pas toujours les informations les plus à jour, ce qui peut être vu dans cet échange entre un utilisateur bêta et le chatbot Bing. L'utilisateur demande les horaires de projection d'Avatar 2, mais Bing dit qu'il n'est pas encore sorti. Lorsque l'utilisateur essaie de le corriger, l'IA le manipule et lui demande de s'excuser.

Tout cela est assez drôle jusqu'à ce que vous pensiez à cela comme argumentant sur un sujet plus important, comme savoir si un employé a utilisé tous ses jours de maladie ou qui est couvert par un plan de prestations. Rappelez-vous, une IA n'est aussi bonne que l'ensemble de données sur lequel elle a été formée, et parfois cet ensemble de données n'est pas au courant de l'année en cours.

Les travailleurs et le contenu créé par l'IA

Depuis que l'IA générative est apparue, les recruteurs ont dû faire face à une vague de CV et de lettres de motivation créés par ordinateur. L'industrie semble divisée sur ce point, certains disant que cela pourrait coûter un emploi à un candidat et d'autres ne s'en souciant pas. Les e-mails produits en masse pourraient être un moyen facile de réduire l'excès de votre journée, mais manquer des détails comme les noms des personnes pourrait vous causer des ennuis. Surtout, il y a l'ancienne question du plagiat concernant des travaux plus personnalisés comme le leadership éclairé ou d'autres domaines où l'utilisation de l'IA pourrait vous mettre dans un monde de problèmes. 

Les gens s'attendent à ce que les RH dirigent. Se tourner vers l'IA lorsque vous devez écrire chaque e-mail difficile, discours sincère, ou même quelque chose pour une conférence ou un public plus large diminue votre capacité à penser sur vos pieds. Si cela revient qu'un leader RH utilise une IA pour faire leur réflexion à leur place, cela compromet finalement la confiance et l'authenticité.

Propriété du contenu

C'est quelque chose à considérer en tant qu'entreprise avec la propriété de l'IA. 

Cette question est plus répandue dans le monde de l'art IA, qui est rempli de copieurs, mais cela s'étend à tous les lieux de travail. Si vous créez un actif avec l'IA, en êtes-vous propriétaire ? Ou est-il détenu par le créateur de cet algorithme ? Décider si quelque chose qu'un employé a écrit ou créé pendant les heures de travail relève de la compétence d'une organisation peut déjà être un problème juridique. Ajoutez l'IA dans le mélange, et vous avez un nouveau monde de problèmes.

Biais

Comment votre IA a-t-elle été formée ? Le savez-vous ? Si elle a été formée par un être humain (ce qui est le cas, du moins pour les prochains mois), elle a été formée par quelqu'un avec des biais. Il y a déjà eu des cas d'IA reproduisant les mêmes erreurs des humains en priorisant les candidats masculins. Une IA formée sur des noms blancs et noirs a montré des biais envers d'autres noms. L'étude "L'IA dé-biaise-t-elle le recrutement ? Race, genre, et l'"éradication de la différence" de l'IA" des chercheurs de l'Université de Cambridge montre que l'IA ne réduit pas nécessairement le biais. 

Lorsqu'une IA apprend à partir d'un ensemble de données, elle capte des biais que le chercheur peut ne pas voir et les reproduit inconsciemment.

Le recrutement diversifié est déjà un domaine qui combat souvent le biais inconscient tout au long du processus d'embauche. Malheureusement, externaliser ces tâches à un assistant numérique ne signifie pas éliminer les défauts humains dans le processus. Il est important de savoir exactement comment l'IA fonctionne.

Remplacement des humains

La vérité est que l'IA remplace les emplois RH. Ou, à tout le moins, remplace les tâches RH. Que ce soit pour rédiger des descriptions de poste individuelles ou lire des CV, l'industrie devient plus efficace et nécessite moins d'humains.

Ignorer la révolution de l'IA n'est pas une option, mais oublier les humains au centre coûte encore plus. 

Éviter les pièges éthiques à l'ère de ChatGPT

Maintenant que nous avons une vue claire des problèmes potentiels, comment les aborder ?

Retenir et recycler

Si vous demandez à quelqu'un ce qu'il aime dans son travail, la pile technologique ne sera pas en tête de liste. Les gens aiment travailler avec des gens. Leurs collègues et leur manager font ou défont l'environnement et les font partir ou rester.

Surtout, ils veulent se sentir valorisés. Leur entreprise investit-elle en eux ? Voir un collègue remplacé par l'IA est le moyen le plus rapide de faire en sorte que quelqu'un commence à chercher la porte. Ne pensez pas à l'IA en termes de remplacement d'emploi mais en termes de remplacement de tâches.

Voici la vérité. Nous sommes au milieu d'une pénurie de main-d'œuvre qui pourrait persister pendant des années, selon SHRM. Alors que les baby-boomers prennent leur retraite en masse et que le fossé des compétences se creuse, l'industrie est en sous-effectif tel qu'il est.

Un modèle de dotation qui gagne en popularité est la méthode embaucher-former-déployer. Ce sont des agences qui travaillent souvent pour de grandes entreprises comme Apple, Amazon, et d'autres entreprises technologiques qui nécessitent des compétences de haut niveau. Ce sont également des entreprises qui peuvent rechercher une expérience spécifique dans l'industrie mais savent que ces individus n'auront pas la technologie pour les soutenir.

Les entreprises paient pour former et utiliser des employés sur une base par projet, parfois les embauchant pour quelques années. Une fois qu'ils atteignent la fin de cette période, une organisation peut les embaucher à plein temps.

En outre, la popularité croissante des options de requalification dans le logiciel de gestion des compétences montre de multiples alternatives pour combler un fossé de compétences organisationnelles tout en gardant les coûts bas.

Faites un plan

Votre organisation a-t-elle des directives pour l'utilisation de contenu généré par l'IA ? Qu'en est-il de la prise de décisions sur les tâches remplacées par l'IA ? Êtes-vous d'accord avec les travailleurs utilisant l'IA pour écrire et lire pour eux ? Quels types d'automatisation de l'analyse de texte utilisez-vous actuellement, et savez-vous comment elle a été formée ?

Certaines algorithmes peuvent aider à déterminer quand l'auteur de quelque chose a été formé en utilisant une IA. Quant à l'IA existante, certaines sont plus transparentes que d'autres concernant leurs sources. Connaissez-vous les responsabilités auxquelles votre organisation s'expose avec certains partenaires ? Si ce n'est pas déjà une conversation qui se déroule au bureau, il est temps de faire un changement.

Assumez vos responsabilités

Parfois, les entreprises sont confrontées à des choix difficiles. Tous les changements ne se font pas avec un personnel complet. Si c'est le cas, soyez honnête. L'IA peut contribuer de plus en plus aux affaires, mais ce sont toujours des humains au sommet qui prennent les décisions d'embaucher et de licencier la main-d'œuvre.

S'il y a une situation où vous devez remplacer votre personnel, soyez clair que c'était une décision prise par l'entreprise. La direction est encore de chair et de sang pour l'instant, et la seule voie à suivre est de communiquer clairement.

Concentrez-vous sur la transparence

Comme CNET l'a appris lorsqu'ils ont discrètement remplacé des écrivains sans le dire à personne, les gens se fâchent lorsque vous ne leur dites pas qu'une IA a écrit quelque chose. Ou lorsqu'ils interagissent avec une IA sans savoir que c'est un humain. 

Récemment, mon collègue a discuté de l'éthique du logiciel de surveillance des employés dans son article, "Qui surveille les surveillants ? Les législateurs prêts à limiter le logiciel de surveillance des employés". Dans celui-ci, il a discuté de l'importance de la transparence. Vos travailleurs et clients savent-ils quand ils interagissent avec une IA et quand c'est un humain ? Sinon, c'est un vrai problème.

L'avenir est maintenant

Étant donné la nature compliquée de l'IA, dans quelle mesure sommes-nous prêts à aborder ces questions éthiques ? L'avenir immédiat présente des problèmes. En mars 2023, Microsoft a licencié une bonne partie de son équipe d'éthique et de société. Elle est passée d'environ 30 (à son apogée en 2020) à sept. Des réductions similaires se produisent chez Google et Twitch.

Nous assistons également au début de la réglementation de la technologie. Une nouvelle loi en Californie oblige les chatbots à divulguer leur statut synthétique. La FTC utilise trois règles différentes pour empêcher la vente d'algorithmes racialement biaisés. Pendant ce temps, l'UE a adopté la loi sur l'IA, qui peut classer l'IA dans l'une des quatre catégories à risque, et la Chine a déployé une série de réglementations propres. Outre la Californie, il existe des lois aux États-Unis, comme la loi locale 144, qui empêche les employeurs d'utiliser l'IA pour sélectionner les employés pour une promotion ou une embauche à moins qu'ils n'aient audité la technologie au préalable.

Les IA ne remplacent pas les gens ; les gens le font

Cela rend également d'autant plus important de se concentrer sur la responsabilité à l'ère de ChatGPT.

Alors que la législation peine à rattraper son retard, les entreprises doivent prendre l'utilisation éthique de l'IA en main. Cela commence par la responsabilité et la transparence dans le département le plus axé sur les personnes de tous : les RH. Les entreprises ont deux choix : relever le défi ou être emportées par la vague.