Como Navegar na Ética para IA Generativa no Mundo de RH

Dependendo de quem você pergunta, a IA é nossa salvação, o apocalipse, uma novidade, uma mudança na indústria ou uma moda passageira. Entre assistentes de escrita virtuais, superando barreiras para a IA em software de cadeia de suprimentos, e bots de agendamento de reuniões, não há indústria que não tenha sido afetada pelo bug do aprendizado de máquina. Mas o RH sempre foi sobre as pessoas. Quando a "indústria das pessoas" é automatizada, as pessoas ficam nervosas.

Neste artigo, abordaremos como a tecnologia de IA permeia o RH, onde ela já está presente no departamento, as preocupações éticas e como podemos abordá-las. Role até a seção preferida ou continue lendo para a jornada completa enquanto fazemos uma pergunta crucial: Como a IA generativa está mudando a face do RH e quais questões éticas devemos nos preparar à medida que essa tecnologia avança?

Onde a IA está presente no RH?

A IA já está presente no RH, influenciando praticamente todas as categorias, desde marketing de recrutamento até engajamento de funcionários. 

Chatbots, assistentes virtuais e automação em todos os níveis podem potencialmente mudar os trabalhos de recrutadores, administradores e profissionais de L&D. Escrever e analisar linguagem e texto é uma grande parte do RH, e ter máquinas fazendo isso em vez de humanos libera tempo e transforma um processo que antes era mais baseado em instinto em uma fórmula matemática simples. Como você pode ver, a IA no RH tem um impacto de longo alcance.

Antes de expandir mais, vamos entender alguns termos comuns associados à IA.

Atualmente, não há seção no G2 que mapeie a IA no RH. No entanto, há duas categorias onde ela aparece muito. A primeira é a categoria de Software de Inteligência de Talentos, que define como a IA revoluciona a gestão e aquisição de talentos. A segunda é a categoria de Software de Automação de Recrutamento, que há muito tempo automatiza o processo de busca de pessoas.

Ambas as categorias experimentaram crescimento exponencial no número de avaliações, com a Automação de Recrutamento subindo cerca de 188% e a Inteligência de Talentos crescendo cerca de 526% desde a criação das categorias do G2 em 2012. Isso foi especialmente verdadeiro entre 2021 e 2022.

Também vemos uma forte presença de IA na categoria Inteligência de Talentos do G2. A Inteligência de Talentos é definida por soluções que usam IA para melhor buscar, combinar ou entender trabalhadores e suas habilidades. Vimos a importância disso no crescimento acentuado da categoria. A Inteligência de Talentos adicionou tantos produtos nos últimos 12 meses que está entre os 24% principais das categorias em tendência do G2.

À medida que olhamos mais a fundo como o aprendizado de máquina revoluciona o RH, vamos nos voltar para algo com que a internet (e a IA) luta—nuance.

Análise de texto e IA generativa no RH
Aqui, focaremos no RH e sua conexão com IA generativa, ou seja, IA que pode criar, escrever, analisar e refinar texto. A IA generativa produz novos conteúdos—texto, imagens, etc.—após ser treinada em grandes conjuntos de dados.

O modelo da OpenAI ChatGPT tem dominado as notícias ultimamente, mas várias soluções de software de mídia sintética oferecem funcionalidades semelhantes, incluindo WriteSonic, Jasper e Anyword.

Em última análise, essa IA cria novos textos com base em um prompt específico. 

E sim, está em toda parte nas notícias. Você pode se lembrar que o CNET recentemente se envolveu em uma polêmica por criar novos artigos para seu site sem divulgar que uma IA os escreveu. Mas abordaremos as preocupações éticas da IA mais tarde.

Onde esse tipo de IA aparece no RH? A resposta curta é, bem, em toda parte. Alguns usos da tecnologia são mais teóricos ou pontuais, enquanto outros já a integraram em suas ferramentas.

Como a análise de texto se conecta com os processos de RH? 

O RH frequentemente usa NLP e NLU para realizar a sumarização de automação, que é a capacidade de entender e decifrar rapidamente um corpo de trabalho. 

Isso, por sua vez, permite que eles alcancem dois objetivos importantes:

• Análise de sentimento: Examina o tom
• Sentimento geral: Extrai como os usuários se sentem sobre o texto

Pesquisas de Net Promoter Score (NPS), por exemplo, usam essa tecnologia para identificar onde os trabalhadores estão se sentindo estressados ou sobrecarregados e identificar pontos de pressão no trabalho.

Além disso, outras ferramentas incorporam IA generativa e análise de texto em seu software por meio de vários meios. Aqui estão alguns exemplos de casos de uso potenciais e da vida real.

Software de recrutamento e aquisição de talentos

A automação mudou para sempre o software de gerenciamento de descrições de trabalho, permitindo que os recrutadores selecionem modelos para criar descrições de trabalho rapidamente. Agora, a IA generativa pode criar descrições de trabalho do zero com alguns prompts rápidos. A aquisição de talentos está vendo cada vez mais cartas de oferta pré-geradas, economizando tempo e dinheiro. O LinkedIn, por exemplo, recentemente lançou um assistente de escrita para descrições de trabalho e perfis. 

Alguns dos usos mais avançados da IA generativa surgem no software de automação de recrutamento e no software de inteligência de talentos. Ele pode criar comunicações, e-mails, mensagens e todos os outros pontos de contato, automatizá-los e aprender a criar um modelo para um candidato ideal ao longo do tempo. A partir daí, ele mede todos os candidatos em relação a esse candidato dos sonhos. A solução SeekOut usa  IA para ajudar no recrutamento. 

Considerando que levou em média 15,61 meses antes que os usuários do G2 relatassem receber um retorno sobre seu investimento em automação de recrutamento em 2022, é claro que o uso de IA para fazer melhores correspondências pode realmente impactar o resultado final.

Gestão de desempenho e engajamento de funcionários

Gestão de desempenho é onde o lado da análise do aprendizado de máquina entra. Os usuários podem analisar comunicações escritas anteriormente entre gerentes e trabalhadores para identificar temas e padrões recorrentes. Quando um gerente precisa escrever dezenas de feedbacks, ele pode contar com a IA generativa para começar ou fornecer um rascunho. O mesmo pode acontecer com revisores pares em software de feedback 360. A solução 360Learning já implementou IA generativa para ajudar a fornecer feedback.

Por fim, medir o NPS e usar a análise de sentimento há muito tempo é um elemento básico do engajamento de funcionários. Ele extrai as forças e fraquezas relevantes e recorrentes de milhares de declarações para que as equipes de liderança possam ver onde uma organização prospera ou falha.

DEI e análise de pessoas

Um dos usos mais importantes da análise de texto é quando se trata de DEI. O viés é frequentemente inconsciente. Usar NLP para analisar comunicações passadas pode destacar linguagem desnecessariamente de gênero ou tendenciosa, mostrar padrões quando há diferenças na comunicação entre usuários de diferentes idades, raças ou outras identidades protegidas, e ajudar a iluminar pontos cegos onde as comunicações são interrompidas. A análise de sentimento examina onde a linguagem se torna acalorada ou a emoção corre alta em uma organização para que os usuários possam solucionar problemas sociais.

Questões éticas potenciais da IA no RH

Agora que analisamos os dados e casos de uso, é hora de mergulhar na grande questão deste artigo. IA e ética têm sido grandes tópicos. Quais são as preocupações específicas para o RH?

Seu computador está sendo verdadeiro?

De acordo com o Relatório de Índice de Inteligência Artificial da Universidade de Stanford 2022, a veracidade da IA generativa varia muito dependendo do modelo, mas a maioria é verdadeira menos de 40% do tempo. 

Fonte: Relatório de Índice de Inteligência Artificial

Embora esse número varie dependendo do modelo, todos, exceto um dos modelos revisados, foram verdadeiros menos de 60% do tempo. Uma das razões para isso é que os modelos de IA generativa nem sempre têm as informações mais atualizadas, o que pode ser visto nesta troca entre um usuário beta e o chatbot Bing. O usuário pergunta sobre os horários de exibição de Avatar 2, mas o Bing diz que ainda não foi lançado. Quando o usuário tenta corrigi-los, a IA os manipula e pede que se desculpem.

Tudo isso é bastante engraçado até você pensar nisso como uma discussão sobre um tópico mais importante, como se um funcionário usou todos os seus dias de licença médica ou quem está coberto por um plano de benefícios. Lembre-se, uma IA é tão boa quanto o conjunto de dados em que foi treinada, e às vezes esse conjunto de dados não está ciente de que ano é.

Trabalhadores e conteúdo criado por IA

Desde que a IA generativa surgiu, os recrutadores têm lidado com uma onda de currículos e cartas de apresentação criados por computador. A indústria parece dividida sobre isso, com alguns dizendo que isso pode custar um emprego a um candidato e outros não se importando. E-mails produzidos em massa podem ser uma maneira fácil de cortar o excesso do seu dia, mas perder detalhes como os nomes das pessoas pode colocá-lo em apuros. Acima de tudo, há a velha questão do plágio em relação a trabalhos mais personalizados, como liderança de pensamento ou outras áreas onde o uso de IA pode colocá-lo em um mundo de problemas. 

As pessoas esperam que o RH lidere. Recorrer à IA quando você precisa escrever todos os e-mails difíceis, discursos emocionantes ou mesmo algo para uma conferência ou público mais amplo diminui sua capacidade de pensar rapidamente. Se chegar ao conhecimento de que um líder de RH está usando uma IA para pensar por ele, isso compromete a confiança e a autenticidade.

Propriedade de conteúdo

Isso é algo a considerar à medida que uma empresa adota a propriedade de IA. 

Essa questão é mais prevalente no mundo da arte de IA, que está repleto de imitadores, mas isso se estende a todos os locais de trabalho. Se você cria um ativo com IA, você o possui? Ou é de propriedade do criador desse algoritmo? Decidir se algo que um funcionário escreveu ou criou durante o horário comercial está sob a jurisdição de uma organização já pode ser uma questão legal. Adicione a IA à mistura e você terá um novo mundo de problemas.

Vieses

Como sua IA foi treinada? Você sabe? Se foi treinada por um ser humano (o que foi, pelo menos nos próximos meses), foi treinada por alguém com vieses. Já houve casos de IA replicando os mesmos erros dos humanos priorizando candidatos masculinos. Uma IA treinada em nomes brancos e negros mostrou vieses em relação a outros nomes. O estudo "A IA Desbias o Recrutamento? Raça, Gênero e a "Erradicação da Diferença" pela IA" de pesquisadores da Universidade de Cambridge mostra que a IA não necessariamente reduz o viés. 

Quando uma IA aprende com um conjunto de dados, ela capta os vieses que o pesquisador pode não perceber e os replica inconscientemente.

Recrutamento de diversidade já é uma área que frequentemente combate o viés inconsciente ao longo do processo de contratação. Infelizmente, terceirizar essas funções para um assistente digital não significa eliminar as falhas humanas no processo. É importante saber exatamente como a IA opera.

Substituição de humanos

A verdade é que a IA substitui empregos de RH. Ou, pelo menos, substitui tarefas de RH. Seja escrevendo descrições de trabalho individuais ou lendo currículos, a indústria está se tornando mais eficiente e requer menos humanos.

Ignorar a revolução da IA não é uma opção, mas esquecer os humanos no centro custa ainda mais. 

Evitando armadilhas éticas na era do ChatGPT

Agora que temos uma visão clara dos problemas potenciais, como os enfrentamos?

Retenha e recicle

Se você perguntar a alguém o que eles amam em seu trabalho, o conjunto de tecnologias não estará no topo da lista. As pessoas gostam de trabalhar com pessoas. Seus colegas de trabalho e gerente fazem ou quebram o ambiente e os fazem sair ou ficar.

Acima de tudo, eles querem se sentir valorizados. Sua empresa está investindo neles? Ver um colega de trabalho ser substituído por IA é a maneira mais rápida de fazer alguém começar a procurar a porta. Não pense na IA em termos de substituição de empregos, mas em termos de substituição de tarefas.

Aqui está a verdade. Estamos no meio de uma escassez de mão de obra que pode persistir por anos, de acordo com a SHRM. À medida que os baby boomers se aposentam em massa e a lacuna de habilidades se amplia, a indústria está com falta de pessoal como está.

Um modelo de pessoal que está ganhando popularidade é o método de contratar-treinar-implantar. Essas são agências que frequentemente trabalham para grandes empresas como Apple, Amazon e outras empresas de tecnologia que exigem habilidades de alto nível. Elas também são empresas que podem estar procurando por experiência específica na indústria, mas sabem que esses indivíduos não terão a tecnologia para apoiá-los.

As empresas pagam para treinar e usar funcionários em uma base por projeto, às vezes contratando-os por alguns anos. Uma vez que eles atingem o final desse período, uma organização pode contratá-los em tempo integral.

Além disso, a crescente popularidade das opções de requalificação em software de gestão de habilidades mostra múltiplas alternativas para fechar uma lacuna de habilidades organizacional enquanto mantém os custos baixos.

Faça um plano

Sua organização tem diretrizes para o uso de conteúdo gerado por IA? E quanto a tomar decisões sobre tarefas substituídas por IA? Você está bem com os trabalhadores usando IA para escrever e ler por eles? Que tipos de automação de análise de texto você está usando atualmente e sabe como foi treinada?

Certos algoritmos podem ajudar a determinar quando o autor de algo foi treinado usando uma IA. Quanto à IA existente, algumas são mais transparentes do que outras em relação às suas fontes. Você conhece as responsabilidades que sua organização está se abrindo com parceiros específicos? Se isso ainda não é uma conversa que está acontecendo no escritório, é hora de fazer uma mudança.

Assuma a responsabilidade

Às vezes, as empresas enfrentam escolhas difíceis. Nem toda mudança é enfrentada com uma equipe completa. Se esse for o caso, seja honesto. A IA pode estar contribuindo cada vez mais para os negócios, mas ainda são os humanos no topo que tomam decisões de contratar e demitir a força de trabalho.

Se houver uma situação em que você precise substituir sua equipe, deixe claro que foi uma decisão que a empresa tomou. A alta administração ainda é de carne e osso por enquanto, e a única maneira de seguir em frente é comunicando-se claramente.

Foque na transparência

Como o CNET aprendeu quando substituíram escritores silenciosamente sem contar a ninguém, as pessoas ficam bravas quando você não diz que uma IA escreveu algo. Ou quando interagem com uma IA, sem saber que é um humano. 

Recentemente, meu colega discutiu a ética do software de monitoramento de funcionários em seu artigo, "Quem Vigia os Vigilantes? Legisladores Prontos para Limitar o Software de Monitoramento de Funcionários". Nele, ele discutiu a importância da transparência. Seus trabalhadores e clientes sabem quando estão interagindo com uma IA e quando é um humano? Se não, isso é um problema real.

O futuro é agora

Dada a natureza complicada da IA, quão bem estamos preparados para enfrentar essas questões éticas? O futuro imediato apresenta problemas. Em março de 2023, a Microsoft demitiu uma boa parte de sua equipe de ética e sociedade. Ela foi de cerca de 30 (em seu auge em 2020) para sete. Cortes semelhantes estão acontecendo no Google e no Twitch.

Também estamos vendo o início da regulamentação da tecnologia. Uma nova lei na Califórnia obriga os chatbots a divulgarem seu status sintético. A FTC usa três regras diferentes para impedir a venda de algoritmos racialmente tendenciosos. Enquanto isso, a UE aprovou o AI Act, que pode colocar a IA em uma das quatro categorias de risco, e a China lançou uma série de regulamentações próprias. Além da Califórnia, há leis nos EUA, como a Lei Local 144, que impede os empregadores de usar IA para selecionar funcionários para promoção ou contratação, a menos que tenham auditado a tecnologia primeiro.

As IAs não substituem pessoas; pessoas substituem

Isso também torna ainda mais importante focar na responsabilidade nesta era do ChatGPT.

À medida que a legislação luta para acompanhar, as empresas devem assumir o uso ético da IA em suas próprias mãos. Isso começa com responsabilidade e transparência no departamento mais voltado para as pessoas de todos: o RH. As empresas têm duas escolhas: enfrentar o desafio ou serem varridas pela onda.