di Marco Sommariva*
Demandare ad altro o ad altri le soluzioni, le risposte, fa sì che, piano piano, si smetta di tenere la mente allenata, e allora potrebbe essere che un giorno una “scatola” intelligente ci sostituirà
Ho un collega nato e cresciuto in Germania che ha molta più dimestichezza con la lingua tedesca che non con quella italiana; per questo, prima di spedire una mail la fa correggere dall’intelligenza artificiale. Visti i risultati, non ho potuto non ammettere che la versione rivista fosse meglio della precedente.
Anche il mio responsabile mi ha detto di far uso dell’intelligenza artificiale quando non riesce a scrivere una posta elettronica severa senza rischiare di risultare maleducato. Anche in questo caso sono stato messo a conoscenza delle due versioni e, come sopra, ho apprezzato quelle minime modifiche che hanno reso la mail inattaccabile sotto ogni punto di vista.
Prossimo alla pensione, sto passando le consegne a un collega molto più giovane del sottoscritto che, seduto accanto a me, annota pedissequamente ogni mia parola e indicazione per poi spostarsi di postazione e rivelare il tutto all’intelligenza artificiale chiedendo a questa di svolgere il lavoro. I risultati di questa pratica sono alterni; a volte l’IA riesce bene, a volte meno, ma nel secondo caso è sufficiente riversare qualche informazione nuova o chiarire meglio quelle vecchie e il problema è risolto.
Al collega nato e cresciuto in Germania e al mio responsabile ho ritenuto non fosse il caso di dir loro nulla, ma al collega molto più giovane ho provato a spiegare che questa sua predisposizione a demandare tutto all’intelligenza artificiale potrebbe essere dannosa per più motivi, perché non infallibile, per esempio, soprattutto perché potrebbe mettere a rischio, un domani, il suo posto di lavoro. Ma anche lui, come coloro che in passato ho avuto la presunzione di allertare, non ha preso seriamente in considerazione questa possibilità. E questo anche dopo averlo messo al corrente di una notizia di questi giorni passata, a mio avviso, un po’ troppo in secondo piano: Investcloud, azienda statunitense specializzata in software per il settore finanziario, ha licenziato 37 dipendenti della filiale italiana che ha sede a Porto Margherita, vicino Venezia. La motivazione fornita ai sindacati è legata alla sostituzione dell’impiego da parte dell’intelligenza artificiale.
In questi giorni, l’IA ha creato un’altra disoccupata, la manager Caitlin Kalinowski, responsabile del dipartimento di robotica di OpenAI. In questo caso non si tratta di un licenziamento, ma di dimissioni. La manager ha annunciato così, su X e LinkedIn, il suo passo indietro dalla società creatrice di ChatGPT: “Non è stata una decisione facile. L’IA ha un ruolo importante nella sicurezza nazionale […]. Ma la sorveglianza degli americani senza supervisione giudiziaria e l’autonomia letale senza autorizzazione umana sono confini che meritavano più riflessione di quanta ne abbiano ricevuta”. La manager fa riferimento al fatto che Sam Altman, il Ceo della ditta per cui lavorava – OpenAI, appunto – aveva firmato un contratto con il Pentagono, acconsentendo all’utilizzo dei servizi dell’azienda per qualsiasi scopo legale con alcune generiche limitazioni. Come ha scritto Elisa Campisi su Avvenire, nonostante Altman abbia provato a giustificare la decisione spiegando che i sistemi di intelligenza artificiale non dovrebbero essere utilizzati intenzionalmente per la sorveglianza interna di cittadini statunitensi e che questi non saranno usati dalle agenzie di intelligence del Dipartimento, come ad esempio la National Security Agency, la condanna nei confronti dell’azienda è arrivata da più fronti: un malcontento che si è tradotto nel boom di disinstallazioni dell’app ChatGPT dai dispositivi e di download di Claude. In realtà, infatti, non ci sono vere garanzie sul fatto che i suoi sistemi non verranno usati per la sorveglianza di massa.
Le dimissioni della manager lasciano presupporre che gli utenti avessero ragione a non fidarsi e che Altman abbia concesso al Dipartimento molto più di quanto avesse ammesso all’inizio.
Sempre grazie al pezzo di Elisa Campisi, scopriamo che tutto era iniziato quando il governo americano aveva chiesto all’azienda Anthropic di mettere a disposizione del Pentagono l’intelligenza artificiale Claude anche per guidare armi autonome o addestrare programmi di sorveglianza dei cittadini. Il fondatore e amministratore delegato di Anthropic, Dario Amodei, aveva detto no, sollevando per primo le questioni etiche, incassando all’inizio l’apparente solidarietà del competitor a capo di OpenAI – Amodei, insieme ad altri suoi collaboratori, aveva lasciato OpenAI proprio per creare un’intelligenza artificiale più etica. Rientra in questa visione il rifiuto di Amodei al Pentagono di queste settimane. Le trattative tra Pentagono e Anthropic erano naufragate in particolare dopo che l’azienda aveva posto dubbi sull’uso dell’IA per la sorveglianza interna e sull’impiego nelle armi autonome, dato che Claude era stato usato per il raid in Venezuela del 3 gennaio scorso, attacco che registrò anche vittime civili. Anthropic non era d’accordo nel lasciare ai robot la guida degli armamenti e non voleva che il Pentagono usasse gli algoritmi di Claude per spiare gli americani. Il capo del Pentagono, Pete Hegseth, aveva reagito indicando Anthropic come un “rischio per la catena di approvvigionamento” e il presidente Donald Trump aveva annunciato la messa al bando di Anthropic, vietandone l’uso a tutte le agenzie federali.
Si volesse provare a quantificare il no di Dario Amodei al Pentagono, si sappia che il contratto in questione valeva 200 milioni di dollari.
Un altro interessante articolo sull’argomento intelligenza artificiale militare è quello, sempre su Avvenire, di Paolo M. Alfieri.
Nel pezzo leggiamo che in questi primi mesi dell’anno la guerra, da confronto di eserciti e strategie, è diventata un laboratorio tecnologico in cui l’intelligenza artificiale ridisegna tempi, responsabilità e rischi del conflitto. Dall’Ucraina all’Iran, passando per Gaza, l’IA è ormai parte integrante delle operazioni militari: analizza flussi di dati, individua bersagli, anticipa movimenti nemici e suggerisce scenari operativi. Il Pentagono vede nell’IA che orienta chi spara e quanto sparare, un fattore strategico, la chiave per mantenere la superiorità militare in un mondo in cui la velocità decisionale è diventata un’arma. Vince chi osserva, elabora e decide più rapidamente.
Detto che il tutto sta avvenendo in un contesto privo di regole, che le Convenzioni di Ginevra non contemplano macchine capaci di selezionare autonomamente i propri bersagli e che le Nazioni Unite tentano da anni di stabilire, senza successo, direttive sull’uso dell’IA in guerra, mi sono chiesto quanto siano davvero capaci queste macchine di selezionare i propri bersagli. Non ho trovato dati che potessero rispondere a questa mia domanda, benché qualcuno m’abbia suggerito – non scherzo – di chiedere all’intelligenza artificiale.
Allora ho provato a capire quanto sia precisa in genere l’intelligenza artificiale nel riconoscere l’obiettivo da raggiungere, qualsiasi esso sia. E il risultato non è stato esaltante, visto che mi sono imbattuto in due notizie che mi hanno fortemente impressionato.
La prima riguarda una donna: l’hanno arrestata nel Tennessee, in casa sua – minacciandola con armi spianate e ammanettandola davanti a quattro bambini ai quali faceva da babysitter –, l’hanno tenuta in carcere per quattro mesi e infine l’hanno rilasciata dopo essersi resi conto che il sistema di riconoscimento facciale, gestito da un software di intelligenza artificiale, aveva commesso un grossolano errore. Questo quanto accaduto ad Angela Lipps, accusata per un crimine commesso nel North Dakota, a più di mille chilometri da dove si trovava lei.
La seconda riguarda un bambino: a Baltimora, nel Maryland, un ragazzino delle elementari è stato immobilizzato per strada da alcuni agenti di polizia perché un software di intelligenza artificiale riteneva che il bambino fosse armato. L’IA aveva però scambiato un pacchetto di patatine per un’arma da fuoco.
Entrambe le notizie sono state riportate da TGcom24.
Dotato di grande sarcasmo, un amico mi ha scritto che spera adottino presto in Italia la stessa intelligenza artificiale statunitense che ha sbagliato con la signora e il bambino, visto che “da noi i poliziotti fanno molto peggio e volontariamente”.
In un romanzo del 1955, Gladiatore in legge di Frederik Pohl e Cyril M. Kornbluth, la giustizia è immaginata in mano all’intelligenza artificiale e la giuria è una “scatola”. Qui sotto potrete leggere un passaggio che vede protagonista Charles Mundin, un giovane e promettente avvocato che ha accettato di difendere i diritti di un suo cliente contro una potentissima Società: “Se la corte acconsente, […] vorrei dire che il mio cliente non è stato certo un uomo fortunato. Egli è un tipico prodotto di una famiglia disunita, e dei bassifondi squallidi di Torcibudella, eppure merita di ottenere giustizia, come ogni cittadino. […] La difesa ha concluso”, mormorò [Mundin], e ricadde stancamente sulla sedia, ignorando il gemito disperato del suo cliente. Il giudice disse: “Cancelliere, presenti il caso alla scatola della giuria”. Il Cancelliere, rapidamente, inserì i due nastri [uno dell’accusa, uno della difesa] nella macchina. La scatola della giuria ronzò e ammiccò di luci”.
Potrebbe far sorridere alcuni di voi questo passaggio che, più di settant’anni fa, immaginava una giuria artificiale “racchiusa” in una scatola, così come oltre cinquant’anni fa – alla comparsa delle prime calcolatrici tascabili – alcuni sorridevano davanti all’ipotesi che, oggi, le persone si sarebbero ridotte a digitare 6×8 per essere certe che il risultato di questa moltiplicazione sia veramente 48, eppure succede davvero, ho visto gente farlo, giuro.
Perché ho tirato fuori questa storia sulle calcolatrici di una volta? Perché, secondo me, demandare le soluzioni ad altro – calcolatrice o IA che sia –, così come demandarle ad altri, fa sì che piano piano si smetta di tenere la mente allenata, di ragionare con la propria testa, arrivando al punto di non essere più certi se sia corretto o meno persino il risultato di una semplice moltiplicazione. Il mio timore è che queste nostre incertezze arrivino a un punto tale che un giorno, nel dubbio, lasceremo che nostro figlio che frequenta ancora la scuola elementare, venga immobilizzato per strada da agenti della polizia, e magari pure portato via, perché un software di intelligenza artificiale l’ha ritenuto in possesso di un’arma, e anche noi – non dubitando dell’infallibilità dell’IA – temiamo sia così. E chissà se quel giorno ci sarà ancora qualcuno disposto ad ammettere, in un secondo tempo, che l’IA ha scambiato un pacchetto di patatine per un’arma da fuoco. Oppure, potrebbe essere che le nostre incertezze avranno raggiunto un tale livello che ci troveremo d’accordo col grossolano errore di un sistema di riconoscimento facciale gestito da un software di intelligenza artificiale, che ci ha scambiati per un altro facendoci finire in carcere. Dite sia roba da fantascienza? Speriamo sia così.
Sarei curioso di sapere se tutto questo nostro demandare sia generato da pigrizia, paura o altro, perché sarebbe pazzesco finissimo puniti – in galera – per via della nostra paura di decidere che nasce dalla nostra paura di sbagliare e di essere puniti.
*scrittore e collaboratore dell’Osservatorio Repressione sul sito www.marcosommariva.com tutte le sue pubblicazioni
Osservatorio Repressione è una Aps-Ets totalmente autofinanziata.
Puoi sostenerci donando il tuo 5×1000
News, aggiornamenti e approfondimenti
sul canale telegram e canale WhatsApp
