Un guru della tecnologia ci avverte che i robot pensanti potrebbero conquistare il mondo e utilizzare armi di distruzione di massa per spazzare via l’umanità. È tempo di preoccuparsi?
Quest’anno, le prestigiose Reith Lectures della BBC saranno tenute per la prima volta da un informatico. Stuart Russell, nato nel Regno Unito, professore di informatica presso l’Università della California, Berkeley, prenderà in esame il tema “Vivere con l’intelligenza artificiale” in una serie di episodi settimanali in onda nel mese di dicembre.

In un trailer per la serie di conferenze di cui sopra, Russell è stato intervistato lunedì su BBC Radio 4 Today. A conferma della vecchia idea giornalistica per cui “se c’è sangue, allora lo show attirerà l’attenzione“, la conversazione è stata dominata dai più cupi pronostici su ciò che l’IA potrebbe fare alla nostra società , per non parlare poi degli scenari da incubo presentati per quel riguarda il futuro dell’umanità.

Intanto si lasci perdere il concetto per cui si debbano creare macchine pensanti, piuttosto  si deve trarre insegnamento dalla storia delle nuove tecnologie per trattare sia la meraviglia  che l’orrore con uguale scetticismo.

L’intelligenza artificiale è già in uso nella società. I computer possono indovinare cosa vorremmo vedere su YouTube, quali prodotti potremmo voler acquistare su Amazon e mostrarci annunci basati su precedenti ricerche su Internet e più nello specifico su Google.

Forse più utile è l’impiego delle macchine che possono imparare a identificare le escrescenze cancerose durante le scansioni mediche con velocità e precisione, e magari salvare una vita, oppure segnalare transazioni finanziarie potenzialmente fraudolente, qualcosa di molto utile quando banche e altre istituzioni eseguono costantemente volumi sorprendenti di operazioni.

Russell crede che l’intelligenza artificiale “non funzioni necessariamente a nostro vantaggio e le rivelazioni che abbiamo visto di recente da Facebook suggeriscono che le stesse aziende sanno che hanno effetti negativi sulla società. Questi sono algoritmi molto semplici, quindi la domanda che farò durante le lezioni è cosa succederà quando gli algoritmi diventeranno molto più intelligenti di quanto non siano adesso?”.

Questo è uno strano modo di vedere le cose: ritenere gli  algoritmi piuttosto che la politica umana il problema nella società in questo momento storico. Ovviamente, algoritmi stupidi che ti inviano post sui social media del tipo “se ti è piaciuto quello, potrebbe piacerti questo”, probabilmente non aiutano a far uscire le persone dalle loro “echo chambers” (ndt.espressione che sta a indicare un comportamento che rafforza le idee e le credenze che un individuo ha, senza considerare il confronto con opinioni discordanti). 

Ma le persone che si attengono al loro ideale quando si tratta di politica si interessano principalmente della scelta personale, guardando persino con riluttanza le persone con una visione diversa, e in tutta onestà a questi individui di algoritmi informatici malvagi non interessa proprio niente.

Ciò che interessa davvero a Russell è quando l’intelligenza artificiale va oltre le semplici applicazioni specifiche per cui è stata progettata, immaginando invece un’intelligenza artificiale che sappia fare qualsiasi cosa.

Invece di configurare i computer per fare cose particolari, come sfornare grandi quantità di dati con un obiettivo particolare e imparare a farlo meglio e più velocemente degli umani, i sistemi di intelligenza artificiale generici sarebbero in grado di svolgere un’ampia varietà di compiti e prendere decisioni in piena autonomia.

In particolare, Russell si preoccupa delle armi autonome che “possono trovare obiettivi, decidere quali obiettivi attaccare e poi andare avanti e attaccarli, il tutto senza che vi sia essere umano che le guidi “. Teme che questo tipo di intelligenze artificiali possa utilizzare armi di distruzione di massa e radere al suolo intere città o regioni o addirittura eliminare un intero gruppo etnico.

Russell ha collaborato nella realizzazione di un film raccapricciante in stile Black Mirror, Slaughterbots, nel 2017, che mostra una storia orripilante di minuscoli droni simili ad api che selezionano e assassinano chiunque osi non essere d’accordo con le autorità.

Ma mentre un certo grado di apprendimento e autonomia per le IA  è già in uso  – ad esempio, per evitare agli esseri umani il pericoloso compito di bonificare i campi minati – la combinazione di riconoscere accuratamente individui o gruppi e prendere decisioni su chi e come attaccare va ben oltre le attuali capacità . Come ha dimostrato un attacco di droni statunitensi in Afghanistan ad agosto, che ha ucciso 10 persone, tra cui sette bambini, è possibile avere attacchi hi-tech guidati dall’intelligence che vanno comunque orribilmente male. Inoltre, se i leader politici e militari hanno pochi scrupoli nell’uccidere gli innocenti, perché si dovrebbe aspettare armi autonome alimentate dall’intelligenza artificiale quando si può semplicemente bombardare a tappeto intere aree, che si tratti di Dresda nella seconda guerra mondiale o della Cambogia negli anni Settanta?

Il potere assoluto dell’IA è, per come stanno le cose, solo clamore. Prendiamo le auto senza conducente. Solo pochi anni fa, erano la Next Big Thing. Google, Apple, Tesla e altri hanno investito miliardi nel tentativo di svilupparle. Ora sono nel dimenticatoio perché le difficoltà sono semplicemente troppo grandi. Un anno fa, Uber, che un tempo sognava flotte di robotaxi, ha venduto la sua divisione di veicoli autonomi. Per quanto riguarda i robot e l’intelligenza artificiale che subentrano ai nostri posti di lavoro, nella migliore delle ipotesi saranno uno strumento per migliorare la produttività degli esseri umani. Usare i computer per svolgere parte del nostro lavoro potrebbe essere utile, ma in realtà sostituire insegnanti, avvocati o autisti è una cosa completamente diversa.

La Silicon Valley sembra avere un atteggiamento schizofrenico nei confronti della propria tecnologia. Da un lato, l’importanza dell’intelligenza artificiale è esagerata. D’altra parte, abbiamo speculazioni funeste sui sistemi di intelligenza artificiale che prendono gradualmente il controllo della società, lasciando gli esseri umani, nelle parole di Russell, come un “prodotto di scarto”. In verità, l’intelligenza artificiale continua a dare costanti conferme che è estremamente utile per svolgere compiti specifici, ma piuttosto stupida per qualsiasi altra cosa. Secondo Melanie Mitchell, Davis Professor of Complexity presso il Santa Fe Institute, soffriamo di molteplici malintesi sull’intelligenza artificiale. Innanzitutto, l’IA specifica e l’IA generale hanno livelli di difficoltà completamente diversi. Ad esempio, far tradurre i computer in diverse lingue ha comportato un’enorme quantità di risorse, tuttavia, dopo anni e intenso lavoro, i sistemi basati su testo e voce stanno diventando piuttosto buoni. Se invece vogliamo creare due macchine che sappiano tenere una conversazione, questa è ben altra cosa.

In secondo luogo, molte cose che gli umani trovano facili sono davvero difficili da automatizzare. Ad esempio, siamo evoluti per scansionare rapidamente il mondo, individuare cose distinte e capire cosa è importante in un dato momento. I computer trovano questo estremamente difficile.

Terzo, gli esseri umani hanno una ricca esperienza del mondo fisico attraverso i nostri sensi che, stanno scoprendo i ricercatori, ha un impatto significativo sul modo in cui formuliamo i nostri pensieri.

Quarto, sostiene Mitchell, gli esseri umani sviluppano il buon senso, costruito sull’esperienza e sulla pratica. I sistemi di intelligenza artificiale possono trasferire quantità sempre maggiori di potenza di elaborazione ai problemi, ma faticano a replicarlo. Elon Musk ha fallito nel suo tentativo di automatizzare completamente le sue fabbriche di Tesla: gli esseri umani erano semplicemente insostituibili per alcuni compiti.

Se potessimo eliminare la voglia continua di implementare l’intelligenza artificiale, riusciremmo a vedere un utile gruppo di tecnologie che possono aiutarci in modi specifici per semplificarci la vita. Allo stesso modo, farebbe scoppiare la bolla di tutti quei catastrofisti che pensano che i sistemi di intelligenza artificiale conquisteranno il mondo. In definitiva, abbiamo ancora il controllo delle macchine e non penso che abbiano intenzione di sostituirci a breve. Con un po’ di prospettiva storica, possiamo vedere che l’ansia per l’intelligenza artificiale è solo l’ultimo di una serie apparentemente infinita di spasmi di paura riguardanti ogni nuova tecnologia.

di Rob Lyons.  Traduzione di Martina Giuntoli

  • 3429 Sostenitori attivi
    di 10000
  • 3166 Sostenitori