Poco tempo fa, la ricercatrice belga Inti De Ceukelaire, specialista in sicurezza informatica, ha notato qualcosa di strano su Facebook. Ha scoperto che la funzione di ricerca del social network trattava le immagini di uomini e donne in modi estremamente diversi. La ricerca di “foto delle mie amiche” ha restituito un guazzabuglio di immagini, mentre una simile ricerca, con “foto dei miei amici maschi” non ha prodotto risultati. Peggio ancora, Facebook sembrava supporre che “maschio” fosse semplicemente un refuso per la parola “femmina“.
I blog di Tech riprendono i tweet in proposito della De Ceukelaire e, dopo aver replicato i risultati, hanno pubblicato storie con titoli come “Facebook ti permette di cercare le foto delle tue amiche, ma non quelle maschili“. Ancora più schiacciante era il comportamento del sistema di completamento automatico delle parole di Facebook: quando molti utenti scrivevano “foto delle mie amiche“, la piattaforma suggeriva frasi come “in bikini” o “in spiaggia“.
La scoperta ha suscitato molte perplessità, soprattutto data la recente cascata di scandali sulla privacy in cui è rimasto coinvolto il social network. Ma quei risultati di ricerca non sono il prodotto di programmatori sessisti. La ricerca su Facebook è governata in parte da un algoritmo, che favorisce le query più popolari su quelle effettuate meno spesso. Gli algoritmi possono essere prevenuti e possono rispecchiare i pregiudizi che già esistono nella società. In questo caso, risulta che l’utenza di facebook è significativamente più interessata all’utilizzo del motore di ricerca interno per trovare foto di donne in costume da bagno di quanto non lo sia alla ricerca di immagini di uomini. L’algoritmo non fa che riflettere questo fatto.
Come per Google e altri motori di ricerca, c’è una differenza tra le previsioni per ricerca di Facebook e i risultati della ricerca. Il fatto che “in bikini” sia un suggerimento quando si cercano “foto di amici di sesso femminile” non significa che Facebook stia allenando il suo algoritmo per catalogare le foto dei costumi da bagno. Quando ho cercato “foto delle mie amiche in bikini“, Facebook ha restituito una strana serie di immagini che mostravano solo donne, ma nessuna indossava un costume da bagno.
“Le previsioni di ricerca su Facebook rappresentano ciò che le persone potrebbero cercare su Facebook, ma non riflettono necessariamente il contenuto reale su Facebook“, ha detto un portavoce in una nota. “Sappiamo che solo perché qualcosa non viola i nostri standard comunitari non significa necessariamente che le persone vogliono vederlo, quindi lavoriamo costantemente per migliorare la ricerca per assicurarci che le previsioni siano rilevanti per le persone.”
I pronostici vengono generati in base a una serie di elementi, inclusa la popolarità generale del termine di ricerca. Ciò significa che le previsioni sono essenzialmente una finestra su ciò che gli altri utenti cercano su Facebook, il che può essere illuminante. Quando ho cercato “amici di sesso femminile“, ad esempio, alcune delle previsioni includevano “che sono single“, “con benefici” e “over 50“. Una ricerca sulla parola “incontri” ha portato suggerimenti come “per gli anni ’40, ’60 e oltre,” così come “single vicino a me.” Forse non è sorprendente ma sembra che le persone anziane spesso utilizzano la ricerca di Facebook per cercare di trovare le date. ( Secondo il Pew Research Center, la percentuale di americani over 65 che affermano di usare Facebook è raddoppiata dal 2012).
Per lo stesso motivo, le previsioni di ricerca di Facebook riflettono anche le notizie su importanti eventi. Quando ho cercato “insegnanti di Oakland” venerdì, la previsione più alta è stata “sciopero“, poiché quasi tutti i 2300 educatori della città californiana avevano iniziato a protestare giovedì.
Le previsioni di ricerca di Facebook sono inoltre personalizzate in modo univoco per ciascun utente, in base alle pagine che piacciono, ai gruppi cui si è iscritti, alla città in cui si è detto di vivere, ai contatti, ai dati sulla posizione e ai post dei feed di notizie e ai risultati di ricerca con cui ti sei impegnato nel passato. La ricerca su Facebook è quindi molto più personalizzata della Ricerca Google, per una buona ragione. Questo è il motivo per cui quando inizi a digitare un nome come “Jeff”, Facebook prevede che stai cercando qualcuno che conosci piuttosto che, diciamo, Jeff Bezos .
Le ricerche sono similmente personalizzate in base alle tue connessioni sociali e alla tua attività su Facebook. Di nuovo, se cercassi “Jeff“, Facebook probabilmente restituirebbe come risultato le persone con cui sei già amico seguite da quelle con le quali hai amici in comune. Questa funzione consente agli utenti di trovare più facilmente qualcuno che hanno incontrato di recente e aggiungerli ai contatti su Facebook. Ma ciò non significa che i risultati di ricerca generati dagli algoritmi del social network non siano a volte bizzarri. La ricerca “foto delle mie amiche” ha prodotto un elenco di foto apparentemente casuali di donne che conosco, alcune delle quali sono state caricate anni fa. Non è chiaro perché mi sono state mostrate alcune immagini piuttosto che altre.
E nel caso di De Ceukelaire, la ricerca di “foto dei miei amici maschi” non ha restituito nulla. Quando l’ho provato, la ricerca non ha prodotto foto dei miei amici, come quando cercavo le amiche. Invece, mi è stato mostrato un assortimento casuale di meme. “Ho ottenuto quelli che sono presumibilmente cani maschi e due cartoni animati a tema maschile, tra cui un uomo che ammonisce contro la pipì all’aperto al polo“, scrisse Melissa Locker in Fast Company. Un portavoce di Facebook ha detto che questa esperienza è “un bug che stiamo lavorando per risolvere“.
Il problema è stato trascurato perché (almeno fino a quando non è stato evidenziato nelle notizie) il termine di ricerca “foto dei miei amici maschi” era poco popolare. Con risorse limitate, Facebook ha un incentivo a garantire che le ricerche più comuni producano contenuti pertinenti, prima di ottimizzare i risultati per quelli più rari. Questo vale anche per Google. Query popolari come “Quanti anni ha Jeff Bezos?” Generano facilmente risposte accurate su Google, mentre ricerche più insolite potrebbero non produrre quello che stai cercando.
Lo strumento di ricerca di Facebook non è stato progettato per essere sessista, ma ciò non significa che sia privo di problemi. L’algoritmo che lo governa rimane una scatola nera ed è impossibile per gli utenti sapere esattamente perché una determinata previsione o risultato può essere generato. Il mese scorso, lo scrittore del New York Times, John Herrman, ha scritto che la mancanza di trasparenza di Facebook incoraggia la paranoia nei suoi utenti, che spesso non riescono a capire perché le cose accadono come fanno sulla piattaforma.
Resta il fatto che il comportamento del motore di ricerca interno di Facebook sembra dare interessanti informazioni su di noi ed i nostri comportamenti, molto di più che sui suoi stessi difetti.
