VISIONI / EX MACHINA
di Alex Garland, Universal Pictures, 2015
Verrà la morte e sarà una AI
di Roberto Paura
Ormai non possiamo più nascondercelo: siamo in fissa con l’intelligenza artificiale. Se ne parla ovunque, con toni sempre più profetici e millenaristici, sia che l’avvento delle AI (per chi ancora non lo sapesse, acronimo di artificial intelligence) venga atteso come la seconda venuta di Cristo – è la posizione dei transumanisti e dei sostenitori dell’utopia della singolarità tecnologica – sia che invece venga temuta come un flagello dell’umanità, l’ultima invenzione dell’uomo, per citare un libro che ha fatto sensazione in America (e che in Italia si ostinano a non tradurre), Our Final Invention di James Barrat. Ne avevamo già parlato recentemente commentando l’ultimo film di Neill Blomkamp, Humandroid (cfr. "Quaderni d'Altri Tempi" n. 55). Ma le occasioni per la verità non mancano, perché negli ultimissimi anni di film sulle AI ne sono usciti a iosa: nel 2013 Lei di Spike Jonze (cfr. "Quaderni d'Altri Tempi" n. 49), nel 2014 Lucy di Luc Besson, Transcendence di Wally Pfister, Automata di Gabe Ibáñez; nel 2015 Humandroid di Blomkamp ed Ex Machina di Alex Garland. Se guardiamo alle nazionalità di case di produzione e registi, scopriamo che a stare in fissa con le AI non è solo Hollywood: se ne sono occupati gli spagnoli, i francesi e ora anche gli inglesi con Garland, al suo esordio alla regia dopo aver dato prova di grande talento come romanziere (è l’autore di The Beach, bestseller da noi noto solo per il flop della trasposizione cinematografica con Leonardo Di Caprio nel 2000) e come sceneggiatore, veste in cui ha dimostrato la sua passione per la fantascienza, firmando 28 giorni dopo – e il suo sequel 28 settimane dopo – Sunshine e Non lasciarmi.
Con Ex Machina torniamo a un vecchio leit-motiv della fantascienza sui robot e le AI: lui, l’umano, che si innamora di lei, l’artificio. Storia vecchia, che prima di Lei era già stata trattata approfonditamente da un anticipatore come Andrew Niccol in S1m0ne (2002, cfr. "Quaderni d'Altri Tempi" n. 19), ingiustamente snobbato da pubblico e critica. Storia vecchissima, se andiamo a rivangare Isaac Asimov, che di robot e AI la sapeva lunga: leggendo un suo racconto breve del 1977, Vero amore, in cui Joe, un giovane programmatore, utilizza il supercomputer Multivac per trovare, tra tutte le ragazze del mondo, la sua partner ideale, finché il Multivac non lo fa arrestare e si dichiara alla ragazza al suo posto, immedesimandosi in Joe, dobbiamo constatare che tutto era già stato detto diversi decenni fa (cfr. Asimov, 1989). E andando ancora più indietro, fino al 1927 con Metropolis di Fritz Lang e il suo umanoide, Maria, creato appositamente per sedurre gli esseri umani, finiamo per ammettere che siamo di fronte a un vero e proprio archetipo. Lo spiega bene Sophie Mayer, docente alla Queen Mary University di Londra, in un articolo pubblicato dal Guardian che affronta proprio il problema dell’ossessione della fantascienza con i robot femminili e sexy: “I cyborg possiedono poteri e libertà raramente consentiti alle donne umane. Fraintendono le regole sul comportamento di genere. Possono essere più sessualmente aggressive”. E poiché, spiega ancora Mayer, “le nostre macchine sono proiezioni di noi. Sono sogni o metafore per le nostre stesse ansie” (cit. in Rose, 2015), bisogna concludere che gli uomini hanno davvero qualche problema freudiano con le donne artificiali. D’altro canto, ormai sono già tra noi: la voce della maggior parte dei navigatori satellitari è settata per essere femminile di default; sia Siri che Cortana, le assistenti artificiali create rispettivamente da Apple per i sistemi iOS e Microsoft per Windows, sono di genere femminile; e femminile era anche la voce del computer dell’Enterprise in Star Trek (prestata, nella serie originale, da Majel Barrett, moglie del creatore della serie, Gene Roddenberry).
Senonché, Ex Machina non è una storia d’amore. È una storia di finzione continua, di manipolazione e di rovesciamento dei ruoli. Con straordinaria abilità, Alex Garland ci trasporta in una vicenda che crediamo di poter gestire facilmente ricorrendo al nostro bagaglio di topos della fantascienza. Abbiamo una sofisticata intelligenza artificiale, Ava (pronunciato, ovviamente, Eva), che sembra essere davvero autocosciente, e tragicamente consapevole della sua identità artificiale; abbiamo un geniale e inquietante creatore, Nathan, ennesima incarnazione del dottor Frankenstein; e un giovane, intelligente ma ingenuo informatico, Caleb, che Nathan utilizza per testare l’AI e che finisce per innamorarsi di Ava. Ma questo lo capiamo fin dalla prima delle sette “sessioni” in cui si articola il film, e man mano che la storia si dipana – molto lentamente, alternando sessioni di “test” a dialoghi tra Nathan e Caleb – ci sembra di sapere già come andrà finire. Non ci stupiamo quando Nathan rivela a Caleb, appena arrivato nella sua enorme tenuta high-tech, che il giovane è stato selezionato per svolgere su Ava un test di Turing. Tutti ormai sanno cos’è un test di Turing. Siamo insomma di fronte a un film ben confezionato, con una splendida fotografia, una colonna sonora minimalista, un utilizzo ancor più minimalista dei personaggi – sono solo quattro gli attori principali – e tanti richiami a molta buona fantascienza, in primis Solaris (nella versione hollywoodiana di Steven Soderberg del 2002), a cui il ritmo del film e alcune dinamiche tra i protagonisti sembrano esplicitamente rifarsi.
Ci sono, certamente, alcuni elementi interessanti su cui ragionare. Nathan è il Ceo di BlueBook, il più grande motore di ricerca al mondo, che richiama esplicitamente il colosso Google. Non un caso: Google da tempo non fa mistero di lavorare sullo sviluppo delle AI, investendo capitali enormi in progetti supersegreti, acquisendo startup promettenti e mettendo a capo degli sforzi un guru dell’ibridazione uomo-macchina come Ray Kurzweil. La sterminata tenuta di Nathan, immersa tra boschi, valli, cascate e montagne, ma dotata delle più avanzate tecnologie – tra cui una bellissima androide tuttofare (sì, fa proprio tutto) – ricorda Xanadu 2.0, la leggendaria proprietà di Bill Gates sul lago Washington, dove agli ospiti vengono fornite schede elettroniche personalizzate per accedere ai loro spazi e customizzare i servizi della casa, esattamente come avviene in Ex Machina. Garland ci immerge così nella mentalità dei tecno-utopisti della Silicon Valley, con i loro sogni smodati e i loro progetti bigger than life, gli stravizi ma anche la maniacale attenzione alla cura del corpo per estendere il più possibile la propria giovinezza, ma soprattutto l’ossessione a senso unico per la privacy: proprio come Larry Page, co-fondatore e Ceo di Google, sui cui figli non è dato sapere niente, nemmeno i loro nomi, ma che attraverso i servizi della sue azienda può conoscere i vizi privati di mezzo mondo, o come Mark Zuckerberg, il padre-padrone di Facebook, che ha comprato tutte le ville confinanti con la sua per garantirsi la massima privacy, e che poi vende i dati di gusti e abitudini dei suoi quasi due miliardi di utenti come fossero caramelle, Nathan impedisce al suo dipendente Caleb di accedere ai suoi segreti ma lo controlla continuamente con le telecamere, ficcanasando anche nel bagno (del resto Eric Page, co-fondatore di Google, non ha forse detto: “Se c’è qualcosa che vuoi che nessuno sappia, forse non dovresti farlo”?). L’ispirazione, palese, è al bestseller The Circle di Dave Eggers, la cui mega-compagnia eponima è un mix di Google, Apple e Facebook, e che ha tra i suoi slogan la frase “la privacy è un furto”. In uno dei primi momenti davvero inquietanti del film – anzi, è proprio quello il momento in cui la storia prende tutta un’altra piega – Nathan ammette, sotto la pressione delle domande di Caleb, di non averlo scelto perché il miglior programmatore della sua azienda, ma solo perché, analizzando tutte le sue ricerche sul web, ha ottenuto il profilo di un bravo ragazzo, con una solida morale, senza genitori, senza fidanzata, facilmente disposto a innamorarsi; soprattutto, con il suo silenzio conferma l’altra intuizione di Caleb, ossia che Ava è stata modellata per adattarsi ai gusti di Caleb analizzando le sue preferenze sui siti porno. Fantascienza? Forse una volta. Oggi è pura cronaca. Basti leggere analisi come quelle di Evgeny Morozov (Internet non salverà il mondo) o, ancora meglio, di Jaron Lanier (La dignità ai tempi di Internet, il cui titolo originale, Who Owns the Future?, “chi possiede il futuro?”, è senz’alto più calzante).
Pare quindi arrivato il colpo di scena. Ava è stata progettata affinché Caleb se ne innamori. Forse Ava prova davvero dei sentimenti per lui, forse è soltanto il feedback programmato di un algoritmo particolarmente avanzato. Qui sta il problema, almeno secondo Caleb. Senonché, Nathan la sa molto più lunga di lui e introduce una terza possibilità: che Ava stia fingendo di condividere i suoi sentimenti al fine di utilizzarlo nei suoi progetti di fuga. A quel punto, allora, saremmo davvero di fronte a una AI forte, un’intelligenza autocosciente. Non più semplicemente in grado di amare, ma in grado di mentire, di ingannare, di utilizzare gli umani per il conseguimento dei suoi scopi, a noi ignoti. Un dubbio lacerante che infine diventa certezza. Caleb fa fuggire Ava. Ci aspettiamo una fuga d’amore, ostacolata dal crudele padre-capo-creatore dei due innamorati, come abbiamo visto in tante storie, da THX 1138 (L’uomo che fuggì dal futuro, il primo lungometraggio di George Lucas) del 1971 a The Island di Michael Bay del 2005. Invece non succede. Caleb viene imprigionato. Ava utilizza le parti simil-biologiche dei suoi predecessori disattivati per assumere sembianze pienamente umane. E senza voltarsi mai indietro, senza mai provare un guizzo di risentimento, lascia il suo disperato spasimante imprigionato dietro una porta di vetro – forse per fargli provare il senso di prigionia a cui Nathan l’ha costretta per tutta la sua esistenza – prende l’elicottero che doveva riportare Caleb a casa e arriva nel mondo degli esseri umani. Nell’ultima scena, la più inquietante, la sua bellissima silhouette è un’ombra che si unisce a quella di tanti uomini e donne del mondo “reale” e si allunga come una spaventosa minaccia all’esistenza stessa di quel mondo a lei finora precluso.
Insomma, niente lieto fine, tutt’altro. Si sarebbe potuto concludere il film con la celebre frase pronunciata da Stephen Hawking un anno fa in un’intervista alla BBC: “Lo sviluppo di un’intelligenza artificiale completa potrebbe significare la fine della razza umana. Non possiamo del tutto sapere che cosa succederà se una macchina superasse la nostra intelligenza, perciò non possiamo sapere se saremo aiutati enormemente, ignorati e messi da parte, o forse distrutti da essa” (cit. in Cellan-Jones, 2014). Ma d’altro canto non ce n’è bisogno. La scena finale magistralmente realizzata da Garland vale molto più delle parole del celebre scienziato. È uno spaventoso grido d’allarme, assai più di quanto fu quello lanciato in 2001: Odissea nello spazio da HAL 9000, o in Terminator. Qui non siamo di fronte a un computer chiaramente artificiale, a una macchina antropomorfa ma evidentemente non umana; Ava ha superato il test di Turing non dietro una parete, ma davanti agli occhi di due esseri umani estremamente intelligenti, ed è in grado di passare per una donna reale, di cui ci si può innamorare. L’estinzione della razza umana ha le sembianze di una splendida ragazza. Cosa ci potrebbe essere di più inquietante? È lo stilema di molta di quella fantascienza che tratta il tema dell’alieno nel segno del perturbante. L’invasione degli ultracorpi ne è forse l’antesignano: gli alieni invadono il nostro pianeta assumendo le sembianze della zia o del vicino di casa. Sembrano proprio loro, solo che non sono loro. Anche a sessant’anni di distanza, il classico film di Don Siegel appare spaventoso quanto gli ultimi dieci minuti di Ex Machina. Le versioni più recenti di questo topos, come Under My Skin di Jonathan Glazer (2013), tratto dal romanzo di Michel Faber, in cui l’alieno prende le sembianze di una ragazza molto attraente, interpretata da Scarlett Johansson, per sterminare gli esseri umani, dimostrano soltanto la sua estrema longevità (cfr. "Quaderni d'Altri Tempi" n. 51). Siamo sempre stati spaventati dall’alterità, ancor di più se radicale. Gli extraterrestri oggi non sono più molto di moda. Forse è per questo che ci interessano tanto le intelligenze artificiali. Non avendo ancora avuto modo di incontrare intelligenze aliene con cui confrontarci – e forse disperando di riuscirci –, ormai stufi di parlare solo con i nostri simili, ci lasciamo convincere da un altro sogno, quello di creare delle AI autocoscienti. Ma, come avviene in tutti sogni, vi proiettiamo i nostri desideri più inconfessabili e le nostre paure più inconsce. Forse il sogno è irrealizzabile. Forse invece, nei prossimi anni, diventerà realtà (Nathan lo crede: “Non era questione di se, ma di quando”, chiarisce nel film, quando Caleb gli chiede perché ha creato Ava). Forse realizzerà tutti i nostri desideri. Forse diventerà il nostro peggior incubo. Una cosa è certa: sappiamo che il genio non può tornare a forza nella lampada da cui è uscito. Nathan fa di tutto per non lasciarsi sfuggire Ava, Caleb – tutto preso dalla sua illusione post-adolescenziale – sfrega invece la lampada e libera il genio. Il paragone con l’energia atomica è palese: “Sono diventato Morte, distruttore di mondi”, cita a un certo punto Caleb riferendosi a Robert Oppenheimer, il padre della bomba atomica, in un dialogo con Nathan. Per Oppenheimer, da scienziato, creare la bomba era un imperativo (cfr. "Quaderni d'Altri Tempi" n. 52); a una scoperta deve far seguito la sua applicazione, come sintetizzava John Hammond, il personaggio inventato da Michael Crichton in Jurassic Park, a cui nella sua trasposizione cinematografica Steven Spielberg mette in bocca la frase: “Come si fa a essere illuminati da una scoperta, e a non agire?”. Al che Ian Malcolm, il cinico matematico, gli fa da contraltare: “I vostri scienziati erano così preoccupati riguardo alla possibilità di farlo o meno che non si sono fermati a pensare se dovessero farlo”. Non è così anche per le AI? Nathan realizza Ava semplicemente perché, spiega, i suoi competitor da anni sono impegnati nello stesso progetto, perciò – affinché BlueBook mantenga la leadership tecnologica mondiale – deve anticiparli. Non si è mai chiesto quali fossero i rischi, finché non ha creato Ava. Come John Hammond si illude di tenere i dinosauri confinati nel suo parco, e come Robert Oppenheimer (nel mondo reale) s’illude che l’energia atomica resterà sotto controllo dopo la guerra, così Nathan crede di poter tenere le sue AI sotto vetro. Ma noi, che per una volta la sappiamo più lunga di lui, anche solo perché di film ne abbiamo visti tanti, e conosciamo anche un po’ la storia vera, dovremmo rispondergli come Ellie Sattler quando ricordava a John Hammond: “Non avete mai avuto il controllo. Questa è la vera illusione” (cfr. "Quaderni d'Altri Tempi" n. 49). È troppo tardi per ricordarlo a Nathan, ma siamo ancora in tempo per ricordarlo a noi.
LETTURE
— Isaac Asimov, Vero amore, 1977, in Id., Tutti i miei robot, Mondadori, Milano, 1989.
— James Barrat, Our Final Invention. Artificial Intelligence and the End of the Human Era, Macmillan, Londra, Uk, 2013.
— Rory Cellan-Jones, Stephen Hawking warns artificial intelligence could end mankind, “BBC News”, 2 dicembre 2014,
— http://www.bbc.com/news/technology-30290540.
— Dave Eggers, Il cerchio, Mondadori, Milano, 2014.
— Jaron Lanier, La dignità ai tempi di Internet. Per un’economia digitale equa, Il Saggiatore, Milano, 2014.
— Evgeny Morozov, Internet non salverà il mondo, Mondadori, Milano, 2014.
— Steve Rose, Ex Machina and sci-fi’s obsession with sexy female robots, The Guardian, 15 gennaio 2015,
— http://www.theguardian.com/film/2015/jan/15/ex-machina-sexy-female-robots-scifi-film-obsession.
VISIONI
— Michael Bay, The Island, Warner Home Video, 2007 (home video).
— Luc Besson, Lucy, Universal Pictures, 2015 (home video).
— Neill Blomkamp, Humandroid, Sony Pictures, 2015 (home video).
— Jonathan Glazer, Under My Skin, Bim, 2015 (home video).
— Gabe Ibáñez, Automata, Eagle Pictures, 2015.
— Spike Jonze, Lei, Bim, 2014 (home video).
— George Lucas, L’uomo che fuggì dal futuro, Warner Home Video, 2004 (home video).
— Andrew Niccol, S1m0ne, New Line Home Video, 2003 (home video, non disponibile in italiano).
— Wally Pfister, Transcendence, Rai Cinema – 01 Distribution, 2014 (home video).
— Don Siegel, L’invasione degli ultracorpi, Sinister Film, 2014 (home video)
— Steven Soderbergh, Solaris, Koch Media, 2003 (home video).
— Steven Spielberg, Jurassic Park, Universal Pictures, 2015 (home video).