Non facciamoci annullare dagli algoritmi
In un editoriale di qualche numero fa citai il film (1968) “2001 odissea nello spazio” del genio Stanley Kubrick, nel quale un progresso tecnologico assai sofisticato fece rischiare ad un astronauta di restare bloccato nello spazio, perché il super computer di bordo – Hal 9000 – si rifiutava di farlo accedere ai comandi; tutto questo perché Hal era convinto che l’uomo lo volesse distruggere. Già, perché Hal, benché dotato di processori all’avanguardia aveva comunque qualche “rotella” in meno: a differenza del cervello umano non era in grado di distinguere il bene dal male, il “giusto” dallo “sbagliato” con la sensibilità non della macchina, ma dell’uomo. L’algoritmo ragiona da algoritmo: se l’uomo mi vuole “spegnere” mi fa del male; ergo, se fa del male a me, va reso inoffensivo. Va distrutto.
Seconda citazione: “Social dilemma”, docufilm prodotto da Netflix che, 52 anni dopo Kubrik (siamo nel 2020), denuncia come oggi l’algoritmo è sofisticato a tal punto da fare in modo che ognuno di noi, navigando in Rete, trovi puntuale conferma delle proprie convinzioni. Sei convinto che la Terra sia piatta? Gli algoritmi, conoscendo i tuoi “gusti”, ti indirizzeranno verso i siti “terrapiattisti” e, a lungo andare, nessuno ti farà mai più cambiare idea. Sei razzista? Sei omofobo? Credi nella metempsicosi? La Rete ti darà mille conferme; nessun dubbio: hai ragione tu.
Il sistema è fatto per assecondare chi lo usa e, anche qui, non ha bisogno di distinguere il bene dal male, il vero dal falso: l’importante è catturare l’attenzione dell’utente, tenerselo stretto, non farlo allontanare. Cosicché anche un terrorista, un pedofilo o un sedicente dio troverà in Rete chi gli dà ragione.
Poco tempo fa la banca della quale si servivano i miei genitori (un rapporto lungo più di mezzo secolo), essendosi “modernizzata”, comunicò ai miei, da un giorno all’altro, che i loro bancomat non erano più “abilitati” (benché ancora ben lontani dalla scadenza) e che, per renderli nuovamente attivi, bisognava recarsi in agenzia, apporre firme e ritirare le nuove “card”.
Mamma e papà, entrambi anziani, si son trovati di punto in bianco con il conto bloccato: niente prelievi, niente “pagobancomat” al supermercato; niente di niente, due nullatenenti “algoritmici”. Andai personalmente all’Istituto di credito e qui il vicedirettore mi comunicò che “Non è possibile riattivare subito i bancomat: il Sistema non me lo permette…”. Già, il Sistema: tu sei il direttore, tu rappresenti la banca; ma se il Sistema non vuole…
Secondo problema: quando il Sistema sbloccò il cc di papà decise che per mamma non c’era niente da fare: lei non aveva un cellulare (che c’è di male? È forse vietato non possedere un telefonino a 78 anni?). “Per riattivare il conto bisogna ricevere un codice via sms, rinviarlo per conferma ecc”.
Mentre cercavamo disperatamente una via d’uscita, io, mio padre e mia madre fummo oltretutto costretti a visionare, durante la permanenza in banca, decine di spot nel quale l’Istituto si vantava di essere “vicino” agli anziani, ai deboli… Una situazione quasi comica anche se, in quel contesto, non mi venne molto da ridere.
Il giorno dopo, a casa, restiamo senza gas. Chiamiamo l’Azienda fornitrice e anche qui un “sistema” sofisticatissimo (non si sa perché settato solo per le emergenze, i cataclismi) ci invita ad evacuare subito l’abitazione comunicandoci, nel contempo, che entro 24 ore avrebbero risolto il nostro problema. Capito? Stiamo rischiando la vita (questo almeno ritiene l’algoritmo), se non usciamo subito moriremo bruciati ma niente paura: tra 24 ore intervengono…!
In fin dei conti è una questione meramente economica: i call center automatici costano molto meno di un operatore in carne ed ossa. “Digita 1 se vuoi questo, digita 2 se vuoi quello; se non cerchi né questo e né quello, cavoli tuoi: richiama domani e sarai più fortunato”. Le banche risparmiano, come risparmiano le aziende elettriche, quelle del gas e via dicendo. Vale la pena? Forse no, perché gli utenti impazziscono (e prima o poi cambiano banca, cambiano fornitore di gas, di luce…). Ergo: non vi conviene.
Di più: il governo, tutti i governi dovrebbero imporre alle aziende, agli uffici, a tutti di non dare troppo potere al “Sistema”, agli algoritmi, ai microprocessori. Perché anche se quelli di ultima generazione sono intelligentissimi hanno, oggi come ieri, un immenso difetto: il loro buon senso è ampiamente inferiore a quello di cui dispone un bambino di 5 anni. D’altronde anche Hal 9000, intonando “girogirotondo”, dimostrò di non esserne all’altezza…