L’ intelligenza artificiale, l’immaginario fantascientifico e le nuove frontiere dell’antropologia

di Giuseppe Sorce

La questione “Intelligenza Artificiale” (AI d’ora in poi, dall’inglese Artificial Intelligen-  ce), da quando la sua creazione è stata auspicata a oggi, è stata sempre al centro di un dibattito accesissimo. Recentemente un evento ha riportato il tema di grande attualità nelle discussioni nei social network, nei tg tangenzialmente, nel sentire comune delle chiacchiere al pub. Come al solito la notizia ha oscillato tra fake e non fake news. Ho consultato quasi una ventina di articoli, dalle più disparate testate e siti. Non è certo mia intenzione cercare di ricostruire la vicenda alla ricerca della massima veridicità. Perché è impossibile. Ciò che importa e ciò che dovrebbe importarci, invece, sono le narrazioni intorno al tema AI.

Sono proprio le narrazioni che alimentano e plasmano l’immaginario. L’immaginario influenza i pareri, i sondaggi, i sondaggi le scelte politiche, e così via.

Pare che:

«Due robot, durante un esperimento di Facebook sull’intelligenza artificiale, hanno iniziato a dialogare in una lingua a noi non nota e incomprensibile. Una cosa che ha generato parecchia inquietudine tra i ricercatori che hanno deciso di sospendere l’esperimento. Una circostanza a dir poco particolare, che ha fatto subito pensare a scenari fantascientifici, in cui le macchine riescono a sfuggire completamente al controllo dell’uomo. La soluzione al caso è in realtà banale. Si è infatti trattato di un errore di programmazione, che ha permesso che le macchine modificassero la lingua inglese per rendere più semplice la comunicazione fra di loro» (ilmessaggero.it)  [1].

Niente di più di un esperimento andato male. Dagli interessanti e prevedibili risvolti. È una questione di semplice economia linguistico-comunicativa tra due robot. Potremmo forse parlare di un nuovo tipo di alterità ontologica? Relazionarsi con questo tipo di tecnologia è come avere a che fare con un gatto domestico? Con un coinquilino, uno straniero? Con una penna o una macchina da scrivere? Le relazione-comunicazione fra un robot o un qualsivoglia strumento-oggetto tecnologico di che tipo è? Di che tipo sarà? Non mi interessa rispondere adesso a queste domande. Mi interessa invece interrogarmi su come tutto ciò potrebbe cambiare, come cambia già, le nostre comunicazioni, i nostri rapporti: tra esseri umani e tra esseri umani e “macchine” di questo tipo. Intelligenti o meno che siano (per ciò che può voler dire intelligenza nel caso della AI) il punto è: cosa succede a noi, come ne parliamo, come approcciamo la questione. E allora ecco un esempio di narrazione cult di questo secolo:

«L’estinzione della razza umana dunque è ancora relativamente lontana, anche se l’episodio sottolinea l’importanza di programmare questo tipo di algoritmi senza lasciare nulla al caso. In questa situazione una semplice trascuratezza ha portato a un fuori programma non da poco – due software che iniziano a sviluppare un linguaggio incomprensibile ai loro creatori. È esattamente questo il tipo di imprevisto che, secondo personalità più caute in questo ambito come Elon Musk e Stephen Hawking, potrebbe un giorno seppellirci tutti» (Longhitano L., wired.it) [2].

L’immaginario fantascientifico, spesso in ottica distopica, è uno dei più fertili in letteratura, nel cinema, nei fumetti e nelle diverse forme di illustrazione. È “scontato” che qualsivoglia notizia in ambito di AI sia immediatamente avvolta da toni e preoccupazioni come quelle riportati poco sopra. L’atmosfera che si respira in tema di AI è spesso fumosa, rappresentazioni di catastrofi incombenti emergono di tanto in tanto come cipressi nella nebbia di notte, unici a vedersi prima di un urto fortunoso.

Personaggi come Elon Musk e Stephen Hawking sono i più citati, i più intervistati in materia, probabilmente perché sono i più famosi nello star system della scienza e della tecnica.

«La crociata contro l’intelligenza artificiale continua. O meglio, a essere  nuovamente sotto attacco sono i suoi sviluppi senza freni. “Più pericolosa del demonio”, è stato il primo monito lanciato da Elon Musk lo scorso ottobre. Poco dopo Stephen Hawking  ha rincarato la dose. “Il suo ulteriore sviluppo potrebbe portare alla fine della razza umana”. […] Una domanda non prevista, però, devia l’attenzione su uno dei temi più discussi e controversi del momento: la capacità di pensiero delle più recenti tecnologie. “Quanto le macchine super smart possono essere considerate un pericolo?”, chiede un utente che si firma Beastcoin. “Sono dalla parte di chi se ne occupa”, esordisce l’uomo più ricco del pianeta, per poi concludere formulando una congettura: “prima le macchine faranno un sacco di lavoro per noi e non saranno super intelligenti. Sarà positivo, se saremo capaci di maneggiarle bene. Un paio di decenni più tardi, penso, questa intelligenza diventerà un problema. Sono d’accordo con Elon Musk e qualche altro e non capisco perché alcune persone se ne disinteressino”» (Rijtano R., repubblica.it ) [3].

 L’articolo in questione titola Bill Gates : l’intelligenza artificiale va controllata. La giornalista, dopo un breve excursus sul recente dibattito sui nuovi sviluppi dell’AI, riporta alcune frasi dette proprio dal fondatore di Microsoft durante un incontro con gli utenti di Reddit, un nuovo programma, uno tra i quali chiede un parere proprio al magnate sulle macchine super intelligenti. Elon Musk, tra tutti però, è forse la personalità più degna di nota. Il titolo se lo guadagna non per meriti accademici ma semplicemente perché è il più giovane e affascinante, si è fatto da sé. Probabilmente è il più intraprendente, lotta da sempre per la causa ambientalista, è un visionario, e soprattutto porta avanti da solo progetti all’apparenza fantascientifici. Elon Musk, in poche parole, cerca di costruire sogni. Viaggi su Marte, Hyperloop, Tesla, Cyborg.

Per avere l’idea della semantica che gli gravita attorno basta andare su repubblica.it. Leggiamo:

«Il vulcanico sudafricano naturalizzato statunitense e già cofondatore di PayPal e della no profit Open AI, vuole di più. Vuole i cyborg. O almeno, qualcosa del genere: potenziare un umano con elementi artificiali, alimentati dalle potenzialità dell’intelligenza artificiale. Secondo le indiscrezioni del Wall Street Journal i lavori sarebbero già iniziati sotto la sigla Neuralink. Quella di una nuova azienda che avrà appunto l’obiettivo di arricchire il cervello umano di ingredienti sintetici come i cosiddetti ’’lacci neurali’’. Si tratta ovviamente di un’impresa su cui aleggia ancora il massimo grado di mistero, senza alcuna presenza pubblica, ma i fronti e i percorsi sembrano infiniti: dal potenziamento della memoria al dialogo con i dispositivi esterni fino all’incremento delle possibilità di calcolo. Sì, esatto: da Johnny Mnemonic a Matrix, tutto quello che vi viene in mente (e che spesso ha la faccia di Keanu Reeves) passando per alcuni inquietanti episodi della più recente serie britannica Black Mirror. […] Insomma, se cyborg sarà, sarà un cyborg in grado di comunicare, dialogare e integrarsi meglio con i dispositivi esterni piuttosto che incrementare pericolosamente le sue capacità. Ma su questo fronte siamo davvero ai confini con la fantascienza» (Cosimi S.) [4].

Chi, perciò, meglio di lui può pronunciarsi con autorevolezza sull’AI ed eventuali minacce. Come ancora si può leggere di seguito, i toni, le immagini evocate, le metafore, sono quelle del cinema, dei fumetti, della fantascienza. Si fa riferimento portante a un immaginario collettivizzato, un immaginario mitico-fantastico, quando invece la questione ci riguarda estremamente da vicino e ci tocca in un intimo che scavalca le narrazioni facendosi realtà giorno dopo giorno.

« “Le intelligenze artificiali sono la più grande minaccia per la sopravvivenza della nostra razza. Affidarsi ai computer è come invocare il demonio”. Elon Musk, imprenditore seriale con alle spalle intuizioni geniali come Pay Pal, l’azienda automobilistica Tesla e il programma spaziale Space X, parla così delle possibilità legate allo sviluppo di intelligenze artificiali sempre più evolute. Lo fa di fronte a una platea di futuri esperti del settore, durante un seminario con gli studenti de Massachussets Institute of Tecnology. L’uomo che il Time Magazine ha definito “la versione più realistica del personaggio Tony Stark del fumetto Ironman”, nonostante la sua evidente passione per la tecnologia, vede nello sviluppo di I.A. autonome un rischio concreto per la nostra sicurezza. Viene da pensare al film Terminator e a Skynet, il super computer che prende il controllo degli armamenti nucleari mondiali e scatena una guerra tra l’uomo e le macchine, ma Elon Musk è serissimo: “Penso che dobbiamo essere molto attenti sulla questione. Sono sempre più convinto che tutti gli studi che vengono fatti sull’argomento, tutti gli esperimenti, debbano essere controllati da un organo supervisore, magari a livello sia nazionale sia internazionale, solo per assicurarci che non facciamo nulla di davvero sciocco”, spiega l’imprenditore quarantatreenne» (Pennacchini S., repubblica.it) [5].

Ora. Elon Musk è davvero un sognatore che si mette in gioco, su questo non c’è tanto da discutere. Ma in tema di AI quasi mai dai media tradizionali viene riportata la voce di un “addetto ai lavori” che passa le sue giornate in centri di ricerca altamente specializzati. Perché? Perché è noioso parlare di algoritmi, nanotubi e quant’altro. Nessuno, al di fuori di chi ci lavora, si andrebbe a leggere un articolo accademico di informatica sperimentale, di robotica applicata. È più bello, e più facile, parlare di sogni e paure. È più bello raccontarsi storie.

Marazzi nel suo Uomini, cyborg e robot umanoidi. Antropologia dell’uomo artificiale propone di provare a isolare la temuta autonomia della macchina come fonte possibile di preoccupazione e pericolo per l’umanità. Nel caso di una valvola aortica meccanica o per esempio di un pacemaker – come riporta lo stesso Marazzi – è l’utilità pratica a inibire il senso di inquietudine che questa potenziale autonomia dell’oggetto dal suo creatore genererebbe. Il punto è che si farebbe quindi ricorso alla dimensione del fantastico per  «interpretare  un evento (cioè l’avvertire preoccu- pazione e la derivante inquietudine) nella dimensione dell’esperienza fenomenologica e dell’intervento pragmatico che compiamo su ciò che viene percepito come “realtà”. L’emotività, semmai è la manifestazione psicologica di una possibile tensione irrisolta tra queste distinte dimensioni razionali, come pure di tante pulsioni, individualmente specifiche, che sarebbe arduo dipanare» [6].

Nelle parole di Bill Gates e in quelle degli altri scienziati è palpabile la tensione, la preoccupazione, la paura, che la ‘vitalità’ di queste creazioni sfugga di mano, che Galatea questa volta rifiuti il suo amante-creatore; «la paura di una minaccia viene da una dimensione esterna, da una sovrapposizione di diversi piani logici. Ma è proprio la paura a rappresentare la vera minaccia a un armonico sviluppo della conoscenza: in particolare, del rapporto tra l’uomo e le creazioni della sua mente e della sua ingegnosità» [7]. Qui e adesso, Pigmalione si rifugia in tutti i laboratori sparsi per il mondo nella smaniosa attesa che un giorno le parole “padre” e “marito caro” arrivino alle sue orecchie, mentre altre tra le menti più brillanti della nostra epoca ci avvertono del pericolo. Questi ultimi si rivolgono all’AI come a qualcosa di già autonomo, quando ancora invece non lo è per niente. Scagliano temibili vaticini a noi, utenti consumatori che di certo non ne sappiamo quanto loro (per non dire nulla), consacrando già di fatto artefatti tecnologici a entità ontologicamente al di là della comprensione umana, capaci di diventare un problema per la sopravvivenza della nostra specie.

Affrontare il discorso sull’AI, e in generale su robot, androidi e protesi bio-cibernetiche, affidandoci ad una dimensione emotivamente allettante e soddisfacente, come le narrazioni fantascientifiche, porta soltanto ad una deviazione dal tema reale della loro creazione e applicazione. La tecnologia è un prodotto umano e di conseguenza culturale; circondarci di inquietudine porta alla nomofobia, discutere di fantascienza porta ad una epistemologia perversa che confonde tra loro piani concettuali diversi: immaginario, storytelling,  conoscenza scientifico-speculativa.

Interpretazioni fantasiose, fantascienza, realtà, utopie, instabili categorie, l’artifex è assuefatto, odiare Pinocchio poiché se ne va. Perché? Passano in sordina, dal punto di vista della risonanza mediatica, notizie e dati invece sicuramente più importanti e meno immaginifici come quelli sull’impiego in ambito lavorativo di androidi e AI. Si è parlato per esempio della mozione sulla “personalità elettronica” dei robot presentata al Parlamento Europeo un anno fa, puntando sull’apparente assurdità della mozione anziché riflettere su tale situazione che in ambito socio-economico diventa via sempre più concreta [8]. I media, in generale, preferiscono puntare sulla sensazionalità della notizia, facendo leva sul sostrato di immagini vaganti che hanno colonizzato il nostro immaginario dopo anni di esposizione esponenziale a fiction e film Sci-fi.

Parlare di immaginari non è fuori luogo anzi, diventa sempre più inestricabilmente confuso e arduo distinguere in quale dominio ci troviamo quando veniamo a contatto con la maggior parte delle informazioni che circolano nei canali mediatici classici e nel web. L’AI ci pone davanti a questioni nuove, a trasformazioni culturali che stiamo vivendo e vivremo. L’AI in qualche modo è qualcosa che ci sfugge, fugge i discorsi per alimentare narrazioni. «L’autonomia del prodotto tecnologico non è mai tematizzata in tutta la sua interezza» [9] e non lo sarà finché la questione sarà nella sua maggior parte relegata nei linguaggi dell’arte visuale e narrativa, e negli scoop in cerca di click. Ciò che non sfugge affatto, anzi ci impatta nel quotidiano con la maggiore irruenza possibile, è come lo sviluppo di tali tecnologie stia cambiano il nostro modo di essere.

«Oggi l’homo sapiens deve affrontare un cambiamento rapido del proprio ambiente, una trasformazione di cui è l’agente collettivo involontario» [10]. Ciò che le narrazioni sul tema AI fanno è intercettare il nostro hic et nunc culturale e ibridarlo continuamente con quello «spazio mutevole, paradossale, che viene a noi anche dal futuro» [11]. Uno spazio che viene prima di tutto dall’immaginazione e dai timori di un futuro distopico, uno spazio di immagini cinematografiche e letterarie, un anti-spazio che, dal Golem a Ghost in the Shell, passando per Blade Runner, va acquistando una consistenza estetizzante ossessivo-narcisistica. L’immaginario fantascientifico è un filtro idraulico che poi si capovolge rigettando ancor più miscelati i racconti di cui si nutre, aprendo al flusso continuo di immagini rincorse e che rincorrono ansie, sogni e marketing. Cyborg, androidi, robot, AI, sono prima di tutto immagini, iconografie. Marazzi ci avverte: le questioni sul rapporto uomo-tecnologia

«vengono trattate sia in pubblicazioni scientifiche, sia nel vasto e non ben definito campo della fantascienza, letteraria e filmica. I due campi andrebbero rigorosamente tenuti separati, mentre una contaminazione è frequente.[…] Confondere il reale con l’immaginario non giova a una ricerca scientifica moderna, ne disattende tutti i principi empirici. Sarebbe un po’ come cercarsi un posto in paradiso seguendo le indicazioni di Dante» [12].

 Dialoghi Mediterranei, n.27, settembre 2017

Note

[3]  http://www.repubblica.it/tecnologia/2015/01/30/news/bill_gates_l_intelligenza_artificiale_va_controllata-106156087/

[4] http://www.repubblica.it/tecnologia/2017/03/28/news/neuralink_la_nuova_sfida_di_musk_diventeremo_cyborg_grazie_all_intelligenza_artificiale-161632333/?ref=RHPPRT-BS-I0-C4-P1-S1.4-T1

[5]    http://www.repubblica.it/tecnologia/2014/10/31/news/elon_musk_realt_virtuale_demonio-99180416/?ref=HRLV-7

[6]  Marazzi A., Uomini, cyborg e robot umanoidi. Antropologia dell’uomo artificiale, Roma, Carocci, 2012: 32.

[7]    Ivi: 32-33.

[8]  Le vendite di automi, impiegati soprattutto nelle industrie automobilistica ed elettronica, ma anche negli ospedali e nell’assistenza agli anziani, sono cresciute nel mondo del 17% all’anno tra il 2010 e il 2014, per fare un balzo del 29% l’anno scorso. I brevetti nell’ultimo decennio sono triplicati», scrive Dusi E. in repubblica.it.

  http://www.repubblica.it/tecnologia/2016/06/24/news/legge_robot_personalita_elettronica_ue-142679939/

 [9] Notte R., 2005: 52-53.

 [10]   Lévy P., 1998: 19.

 [11] Ivi: 18.