Biased AI: rompere il soffitto di cristallo valorizzando l’unicità

Nel mondo aziendale esiste un fenomeno che potremmo definire come “abbattimento della barriera”: basta che una sola persona appartenente a una minoranza riesca a raggiungere una posizione apicale perché le cose cambino per tutte le altre. Quando qualcuno rompe il soffitto di cristallo, la sua sola presenza crea un precedente, ridefinisce i canoni della guida e, nei fatti, spiana la strada a chi viene dopo. Quella figura apicale diventa un faro e un ponte, rendendo visibile e accessibile un percorso che fino a poco prima era impensabile.

Questo meccanismo trova conferma in due teorie sociologiche: la Social Identity Theory of Leadership dello psicologo sociale Michael Hogg, secondo cui l’ingresso di un leader “atipico” aggiorna e allarga l’identikit mentale della guida ideale per l’azienda; e la Teoria del Tokenism della sociologa e docente di economia alla Harvard Business School Rosabeth Moss Kanter. La sua tesi dimostra che le barriere non dipendono da caratteristiche personali delle minoranze, ma dalla struttura numerica dell’organizzazione. Quando entra la prima persona del gruppo sottorappresentato e il gruppo diventa più equilibrato, il problema non è più una barriera strutturale, ma una questione di tempo: la cultura interna si adatta gradualmente, rendendo più facile l’ingresso delle persone successive.

Questo cambiamento richiede azioni concrete. Secondo la ricerca McKinsey & Company Women in the Workplace 2025, i leader di gruppi sottorappresentati agiscono come “ponti”, promuovendo mentorship e sponsorship per figure altrimenti invisibili. Tuttavia, lo studio rileva che le barriere strutturali penalizzano ancora le donne, che ricevono meno supporto e opportunità di avanzamento a ogni livello professionale. Questa disparità riduce le aspirazioni di leadership e si aggrava ulteriormente per le donne appartenenti a minoranze, i cui percorsi di carriera sono ancora più limitati rispetto ai colleghi uomini.

Eppure, il quarto e ultimo report di McKinsey in questo ambito dal titolo Diversity Matters Even More: the case for holistic impact (2023), che ha analizzato 1.265 aziende in 23 Paesi, Italia compresa per quanto riguarda la diversità di genere, rileva che le imprese con team esecutivi più diversificati hanno una probabilità del 39% più elevata di ottenere performance finanziarie superiori rispetto a quelle meno diversificate. Lo studio evidenzia inoltre un’associazione positiva tra diversità, capacità di innovazione, impatto sociale e soddisfazione del personale.

Un circolo vizioso su più livelli

La costruzione di un sistema che tragga giovamento dalla diversità dei singoli individui oggi potrebbe ulteriormente incagliarsi nelle dinamiche della transizione tecnologica. Il rischio è che gli algoritmi di selezione finiscano per codificare e amplificare i bias umani, come racconta bene anche il documentario Coded Bias, che mostra come gli algoritmi possano incorporare e amplificare i pregiudizi, discriminando le persone in base al genere o all’etnia (si concentra in particolar modo sul riconoscimento facciale). 

A questo proposito, secondo uno studio di Harvard Business Review (HBR) quando tra i candidati finali c’è una sola donna (o una persona appartenente a una minoranza), la probabilità che venga assunta è quasi nulla, perché percepita come un’eccezione, un’anomalia. Se invece nel board o nel team di selezione è già presente una figura della stessa minoranza, questo effetto si attenua. Perché un precedente diventi un ponte, infatti, occorre una condizione preliminare: che il profilo “atipico” rispetto a chi ha occupato quelle determinate posizioni arrivi almeno a essere visto. 

Proviamo ad analizzare la questione su due livelli: il primo riguarda i sistemi di selezione.

Gli ATS (Applicant Tracking System) sono software di reclutamento digitale che le aziende utilizzano per gestire, tracciare e organizzare l’intero processo di selezione del personale. Nati per filtrare i profili per competenze, si sono evoluti incorporando modelli di AI generativa che leggono, sintetizzano e valutano i CV (a volte aiutano anche a creare job position). Le AI possono essere addestrate su dati storici di recruiting all’interno delle aziende, cosa che però aumenta notevolmente il rischio di reiterare i pregiudizi. Come è successo nel caso di Amazon, il cui sistema (2014-2017), addestrato su curriculum in maggioranza maschili, imparò a penalizzare i CV contenenti la parola "women's" (tentarono di porre rimedio alla cosa, ma finirono per abbandonare il modello). Un gatekeeper algoritmico, infatti, tende per costruzione a premiare la somiglianza al profilo dominante e a rendere invisibile tutto ciò che se ne discosta. 

Il secondo livello riguarda invece il lato candidato/a. L’AI generativa sembra democratizzare l’accesso: aiuta chi non è madrelingua, chi non ha un network o un percorso lineare a confezionare una candidatura competitiva, la miglior “performance di sé”. Tuttavia, a un secondo sguardo, si può dire che sia un aiuto che spinge tutte le persone nella stessa direzione, ottimizzando i profili per massimizzare il match con il sistema, non per valorizzare la differenza. Quando infatti diecimila persone chiedono allo stesso strumento di riscrivere il proprio CV “con le keyword giuste”, si ottengono diecimila varianti che si somigliano. L’ATS si ritrova allora davanti input artificialmente uniformi e misura sempre meno una differenza reale di competenze. 

I due livelli così si sommano e chi si parla, di fatto, non sono più le persone, ma due macchine che giocano a chi ottiene il risultato migliore: selezionare in un caso, superare la selezione nell’altro. Un dialogo non più tra candidato/a e recruiter, ma un triangolo comunicativo, in cui le AI fanno da intermediari delle volontà dei singoli.

In questa nuova formulazione di dialogo, di conseguenza, il primo profilo a dissolversi è quello raro: il percorso non lineare, la competenza espressa con parole diverse, l’eccezione che proprio per la sua differenza avrebbe potuto rompere il soffitto. Il profilo “non ottimizzato” viene ancora una volta penalizzato, diventando invisibile prima ancora che un essere umano lo possa leggere. Lo strumento nato per dare voce a chi non sapeva vendersi, finisce per cancellare proprio ciò che lo rendeva degno di nota. La differenza che doveva passare resta fuori e il ponte che un singolo precedente avrebbe potuto gettare non viene mai costruito. La semantica, la SEO dell’HR, vince ancora. E la società continua a perdere.

Il potere delle storie: la narrazione strategica d’impresa

Per spezzare questo circuito di omologazione, potenziato dall’era dell’AI generativa, è necessario considerare l’importanza di un terzo livello: quello della responsabilità e del contributo umano. Così come nel recruiting è la persona che si occupa della selezione ad avere l’ultima parola su quale profilo portare avanti, anche per candidati e candidate rimane, seppur minima, una possibilità di emergere. Un profilo può infatti essere riconosciuto come meno "performante" sulla carta, ma risultare comunque papabile proprio in virtù delle caratteristiche che lo rendono differente. Una differenza che arricchisce la sua storia, unica rispetto alle altre, e le scelte che l’hanno portata a svolgersi in quel modo. 

È l’insieme, lo scambio e l’unione di storie diverse che popolano il mondo a costruire identità diverse. Come quelle aziendali, di cui ci occupiamo noi di Bea Media Company. Infatti, nel gioco a tre tra recruiter, candidato/a e AI, noi costruiamo il cappello che tiene sotto il tutto: valori, identità, messaggi, vision, mission, purpose… lo storytelling aziendale inteso come un atto di costruzione identitaria (e non solo come strumento di marketing).  Facciamo ciò che le macchine non possono fare: narrazione d'impresa. 

Unire questi tre livelli (candidato/a, recruiter e AI) in una cornice di contesto più ampia è un gesto che va oltre la comunicazione: dare forma alle parole significa anche dare forma al pensiero. Se la pluralità degli sguardi e dei vissuti viene riconosciuta come un valore culturale, cambia anche la grammatica interna dell'organizzazione e, quindi, della società.

Raccontare le storie significa scardinare l’algoritmo dall’alto: se la macchina è programmata per premiare ciò che assomiglia al passato e trovare il giusto fit a livello di competenze, pescando in maniera probabilistica il classico profilo maggioritario, la narrazione d’impresa ha il potere di legittimare la diversità nel futuro, trasformando un precedente isolato in un riferimento collettivo accessibile a tutte e tutti. Il racconto restituisce così dignità ai percorsi non lineari, convertendoli da “errori di sistema” in risorse uniche, da riconoscere e ricercare attivamente.

In questo senso, la diversità non è soltanto un valore etico o reputazionale, ma una spinta per l’innovazione e una crescita culturale per le aziende. Ogni barriera abbattuta ridefinisce ciò che è considerato possibile, rendendo il soffitto di cristallo un po’ meno invisibile per chi arriverà dopo. E così, quella che inizialmente sembrava un’anomalia torna a essere un faro, un precedente e, soprattutto, un ponte.