La colpa era un algoritmo. Quando il passeggero David Dao fu espulso dall’aereo della United Airlines da Chicago, Illinois, a Louisville, nel Kentucky, a metà del 2017, le altre persone gli chiesero il perché. Nessuno ha ricevuto risposta. Lo scandalo è stato tremendo, soprattutto per il modo in cui le cose sono andate: lo hanno trascinato lungo il corridoio dell’aeromobile e fatto scendere.
In quei giorni, è stata confermata una pratica che era già nota come “gossip”: alcune compagnie aeree prenotano i loro voli in overbooking, usando quella serie di operazioni che fanno un calcolo e trovano una soluzione (un algoritmo), in modo da poter occupare posti vuoti se un passeggero non si presenta all’imbarco. Tuttavia, il giorno in cui Dao si è imbarcato, l’algoritmo ha fallito (non sono perfetti) e sono rimaste quattro persone a terra.
Cosa sono gli algoritmi e perchè sanno così tanto di noi
Gli algoritmi sono operazioni programmate con i dati in modo che un computer calcoli e converta quei dati, da input in output. Le vite di milioni di persone sono mediate da algoritmi, ma la maggior parte non lo sa perché sono impercettibili. Oltre ad essere utilizzati dalle aziende, come il trasporto aereo appunto, sono su piattaforme digitali che indispensabili per intrattenere, socializzare, cercare o discutere.
Facebook, Netflix, Google, Spotify, Instagram, Twitter li usano per determinare i “Mi piace” e le decisioni degli utenti. Suggeriscono e allineano i gusti degli utenti, ma non vengono visti. Sono ovunque. Gli algoritmi ordinano e separano. Siamo qualificati da formule segrete che non comprendiamo e che non possono essere impugnati.
Come funzionano può essere spiegato in questo modo: un algoritmo ha bisogno di dati, cose che sono successe in passato. Ad esempio, quello di Facebook, richiede la compilazione e la valutazione di quali sono le pubblicazioni che piacciono a ciascun utente, gli amici con cui interagisce di più, le ricerche che fa su Google.
Inoltre, la matematica conta molto: è il secondo ingrediente. Nel caso del social network più popolare, il successo si traduce nel tempo che le persone vi trascorrono. La formula dell’algoritmo è forte: sapere con che cosa l’utente è collegato per dargli più di quello e per farlo rimanere più connesso, oltre a mostrargli pubblicità della quale potrebbe essere interessato. Ecco perché dopo aver cercato delle scarpe, compaiono ovunque mentre si naviga in internet.
Per raggiungere questo obiettivo è necessaria molta conoscenza della programmazione, delle statistiche e della matematica. Ci sono anche algoritmi che vengono applicati nelle scienze cognitive per identificare come funziona il cervello ed emularlo, senza la necessità di forniscono dati, solo apprendendo.
Questo è il futuro, e ci sono progressi in arrivo: come AlphaGO Zero, un algoritmo di Google che è stato in grado di imparare come usare il classico gioco di strategia Go senza l’intervento umano.
Per ora, i sistemi più implementati, che impiegano ore a imparare dalle persone attraverso le piattaforme digitali, hanno ancora bisogno di informazioni. È così che ottengono e hanno un impatto sulle persone senza nemmeno rendersene conto.
L’invasione della privacy è solo uno degli svantaggi degli algoritmi. Il più preoccupante è che sempre più decisioni chiave non sono nelle mani degli umani, ma piuttosto dei modelli statistici che perpetuano le disuguaglianze e rafforzano i pregiudizi. Usano ricette matematiche per espandere o limitare le opportunità.
Un altro problema che ha generato l’uso di algoritmi nei social network e nelle piattaforme di intrattenimento è il cosiddetto echo box. Questo fenomeno riguarda gli algoritmi, identificando i gusti e il consumo degli utenti su Internet, mostra loro solo le cose che li interessano, senza consentire loro di conoscere altri punti di vista e rafforzare i loro gusti.