Sob a promessa de efici\u00eancia e neutralidade, a Intelig\u00eancia Artificial (IA) avan\u00e7a sobre decis\u00f5es importantes, desde a aprova\u00e7\u00e3o de um empr\u00e9stimo at\u00e9 a chance de conseguir um emprego. Empresas brasileiras, em busca de otimiza\u00e7\u00e3o, abra\u00e7am essa tecnologia: segundo o Gartner, mais de 60% das grandes corpora\u00e7\u00f5es j\u00e1 a utilizam em seus processos de recrutamento e gest\u00e3o de talentos. No entanto, por tr\u00e1s da fachada de imparcialidade, esconde-se um risco potencial: o de um preconceito invis\u00edvel, codificado e automatizado.<\/p>\n
O vi\u00e9s em sistemas de IA n\u00e3o nasce de uma m\u00e1 inten\u00e7\u00e3o, \u00e9 um reflexo direto das informa\u00e7\u00f5es que os alimentam. Algoritmos aprendem a partir de dados hist\u00f3ricos e, se eles est\u00e3o impregnados pelos preconceitos estruturais da nossa sociedade, a IA n\u00e3o apenas os reproduzir\u00e1, mas os ampliar\u00e1 em uma escala industrial. \u00c9 um espelho que n\u00e3o s\u00f3 reflete, mas distorce e amplifica nossas piores falhas.<\/p>\n
Esses preconceitos se manifestam de formas sutis e devastadoras. Um estudo da Universidade de S\u00e3o Paulo (USP) alerta que algoritmos tendem a favorecer candidatos com nomes associados a grupos historicamente privilegiados. O caso da Amazon, nos Estados Unidos, que precisou descontinuar seu sistema de recrutamento ao descobrir que ele penalizava curr\u00edculos com a palavra “feminino”, \u00e9 um exemplo emblem\u00e1tico. O software, treinado com dados de uma d\u00e9cada de contrata\u00e7\u00f5es majoritariamente masculinas, aprendeu a ser machista.<\/p>\n
No Brasil, a realidade n\u00e3o \u00e9 diferente. Uma pesquisa da FGV revelou que 57% das empresas brasileiras admitem sofrer com o vi\u00e9s de dados, e 61% de seus executivos temem danos \u00e0 reputa\u00e7\u00e3o. S\u00e3o sistemas que excluem pessoas por sotaques, faculdade ou at\u00e9 mesmo pelo bairro onde moram. Crit\u00e9rios ocultos que, como aponta a pesquisa da USP, reduzem a diversidade e desumanizam os processos seletivos.<\/p>\n
Como mitigar os riscos<\/strong> J\u00e1 para as empresas, al\u00e9m do risco iminente de processos e multas, h\u00e1 a perda de talentos. A marca que se vende como moderna e inclusiva pode ser desmascarada como uma organiza\u00e7\u00e3o que utiliza “rob\u00f4s preconceituosos”, um dano de imagem quase irrepar\u00e1vel.<\/p>\n O Minist\u00e9rio P\u00fablico do Trabalho (MPT), em um denso relat\u00f3rio de 2022, j\u00e1 destacava a discrimina\u00e7\u00e3o algor\u00edtmica como um dos principais riscos da IA nas rela\u00e7\u00f5es de trabalho, ao lado da viola\u00e7\u00e3o de direitos fundamentais. E a quest\u00e3o n\u00e3o \u00e9 se a discrimina\u00e7\u00e3o acontece, mas como podemos combat\u00ea-la. Mitigar esses riscos exige um esfor\u00e7o consciente e multifacetado, como:<\/p>\n \u25cfAuditoria e transpar\u00eancia: Realizar auditorias constantes nos algoritmos para identificar e corrigir vieses. As empresas devem ser capazes de explicar por que uma decis\u00e3o foi tomada.<\/p>\n \u25cfDiversidade nos dados e nas equipes: Garantir que os dados de treinamento sejam representativos da diversidade da popula\u00e7\u00e3o. Equipes de desenvolvimento plurais s\u00e3o capazes de identificar preconceitos inconscientes.<\/p>\n \u25cfSupervis\u00e3o humana: Manter um ser humano no ciclo de decis\u00f5es cr\u00edticas, especialmente naquelas que podem ter um impacto significativo na vida das pessoas. A tecnologia deve ser uma ferramenta de apoio, n\u00e3o o juiz final.<\/p>\n A Intelig\u00eancia Artificial \u00e9 uma ferramenta muito \u00fatil, mas n\u00e3o resolve todos os problemas de uma vez s\u00f3. Se n\u00e3o formos proativos na constru\u00e7\u00e3o de uma IA \u00e9tica e justa, corremos o risco de criar um futuro onde a discrimina\u00e7\u00e3o n\u00e3o \u00e9 apenas um ato humano, mas um sistema automatizado, impessoal e implac\u00e1vel. E essa \u00e9 uma falha que n\u00e3o poderemos simplesmente deletar.<\/p>\n","protected":false},"excerpt":{"rendered":" Sob a promessa de efici\u00eancia e neutralidade, a Intelig\u00eancia Artificial (IA) avan\u00e7a sobre decis\u00f5es importantes, desde a aprova\u00e7\u00e3o de um empr\u00e9stimo at\u00e9 a chance de conseguir um emprego. Empresas brasileiras, em busca de otimiza\u00e7\u00e3o, abra\u00e7am essa tecnologia: segundo o Gartner, mais de 60% das grandes corpora\u00e7\u00f5es j\u00e1 a utilizam em seus processos de recrutamento e […]<\/p>\n","protected":false},"author":2,"featured_media":11500,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"_joinchat":[],"footnotes":""},"categories":[51],"tags":[11600,11599],"featured_image_src":{"landsacpe":["https:\/\/revistaempresarios.net\/web\/wp-content\/uploads\/2023\/08\/Joao-Roncati-1140x445.jpg",1140,445,true],"list":["https:\/\/revistaempresarios.net\/web\/wp-content\/uploads\/2023\/08\/Joao-Roncati-463x348.jpg",463,348,true],"medium":["https:\/\/revistaempresarios.net\/web\/wp-content\/uploads\/2023\/08\/Joao-Roncati-225x300.jpg",225,300,true],"full":["https:\/\/revistaempresarios.net\/web\/wp-content\/uploads\/2023\/08\/Joao-Roncati.jpg",1200,1600,false]},"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/revistaempresarios.net\/web\/wp-content\/uploads\/2023\/08\/Joao-Roncati.jpg","jetpack-related-posts":[],"_links":{"self":[{"href":"https:\/\/revistaempresarios.net\/web\/wp-json\/wp\/v2\/posts\/20272"}],"collection":[{"href":"https:\/\/revistaempresarios.net\/web\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/revistaempresarios.net\/web\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/revistaempresarios.net\/web\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/revistaempresarios.net\/web\/wp-json\/wp\/v2\/comments?post=20272"}],"version-history":[{"count":1,"href":"https:\/\/revistaempresarios.net\/web\/wp-json\/wp\/v2\/posts\/20272\/revisions"}],"predecessor-version":[{"id":20273,"href":"https:\/\/revistaempresarios.net\/web\/wp-json\/wp\/v2\/posts\/20272\/revisions\/20273"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/revistaempresarios.net\/web\/wp-json\/wp\/v2\/media\/11500"}],"wp:attachment":[{"href":"https:\/\/revistaempresarios.net\/web\/wp-json\/wp\/v2\/media?parent=20272"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/revistaempresarios.net\/web\/wp-json\/wp\/v2\/categories?post=20272"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/revistaempresarios.net\/web\/wp-json\/wp\/v2\/tags?post=20272"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
\nAs consequ\u00eancias desse vi\u00e9s s\u00e3o as piores poss\u00edveis. Para o indiv\u00edduo, \u00e9 a nega\u00e7\u00e3o de oportunidades de emprego, cr\u00e9dito e crescimento profissional com base em marcadores de identidade.<\/p>\n