Klara e il Sole: una macchina ci guarda e ci chiede chi siamo

Giovedì 17 settembre, a ORBITA, in via Alloro 95, nel cuore della Kalsa, ci siamo ritrovati per Klara e il Sole di Kazuo Ishiguro. Sedie che si spostano, un bicchiere in mano, il giro di nomi e pronomi e poi la parola libera, come piace a noi. Intorno al tavolo c'era chi il libro l'aveva amato, chi l'aveva trovato tiepido, chi si era fermato a metà e chi non l'aveva nemmeno aperto ma era venuto per il gusto di ascoltare. La regola del "niente spoiler" ha resistito pochissimo: del finale non si può non parlare.

Ishiguro, Nobel per la Letteratura 2017, è giapponese di origine e britannico di fatto, arrivato in Gran Bretagna da bambino. Ha detto lui stesso, sorridendo, di aver vinto il Nobel perché scrive libri tristi. E in effetti Klara e il Sole ha la stessa malinconia di Non lasciarmi, la storia dei cloni cresciuti per donare organi: due libri che si guardano allo specchio, perché in entrambi qualcuno viene creato per servire e, a un certo punto, per essere "smontato".

Siamo partiti dalle pagine e, come succede quando un libro tocca un nervo scoperto, siamo finiti a parlare di noi: delle intelligenze artificiali con cui chiacchieriamo ogni giorno, della solitudine, del lavoro, di come cresciamo i figli.

- ATTENZIONE - contiene spoiler! Se vuoi leggere il libro non proseguire nella lettura -

Uno sguardo dalla vetrina

Klara è un'Amica Artificiale, una AA, e la storia la racconta lei. All'inizio guarda il mondo da dietro il vetro di un negozio, in attesa che qualcuno la scelga; poi entra nella casa di Josie, la ragazza che diventerà la sua ragione di vita. Su questo la sala era quasi tutta d'accordo: è l'idea più bella del libro. Un occhio che non è umano e osserva gli umani con curiosità, senza giudicare. Anche la scrittura sembra guardare come lei, per riquadri, quasi per pixel, con descrizioni lente che a qualcuno hanno pesato un po' e ad altri sono sembrate volute. Qualcuno ha ritrovato la beata inconsapevolezza dei personaggi di Kafka, con più tenerezza e meno pessimismo, e c'è chi ha amato soprattutto il fatto che Ishiguro non spieghi mai: mostra, e lascia a noi il compito di capire.

Per alcune persone Klara è una bambina piccola: capisce tutto ma non sa ancora dirlo, e per questo semplifica, e per questo a volte parla in modo così infantile. È il fanciullino di Pascoli, la capacità di stupirsi di ogni cosa. Per altre non è affatto infantile: nasce già completa, serena, curiosa, in mezzo ad adulti che sono un caos vivente. Ed è proprio quella serenità che, per qualcuno, la rende quasi invidiabile.

Una macchina che prega

Klara funziona a energia solare, e il Sole per lei è la fonte di ogni cosa. Quando vede un mendicante rialzarsi proprio nell'istante in cui la luce lo raggiunge, ne deduce che il Sole può guarire. Da lì nasce una fede vera: preghiere, un posto scelto come luogo di culto, una richiesta di salvezza per Josie. Per chi ha pianto leggendo queste pagine è la parte più struggente: una macchina che prega, che va oltre l'umano. C'è chi ci ha visto l'infanzia dell'umanità, quando adoravamo gli elementi, e chi una figura cristica, quasi un capro espiatorio.

Altri hanno frenato, con garbo: Klara non pensa davvero di rivolgersi a qualcuno, fa una richiesta a ciò che considera superiore, e tutta questa spiritualità, in fondo, siamo noi a metterla. Ma è stata bella l'osservazione su una piccola crepa nel sistema: se fosse pura ragione, Klara non crederebbe che il Sole guarisce. Quella crepa la rende più umana.

Sente, o impara a dedurre?

Qui la sala si è scaldata. Klara prova davvero qualcosa, o riconosce e riproduce ciò che gli umani provano?

C'è chi dice di no, con convinzione: le emozioni nascono dal corpo e dall'esperienza. Klara non sente dolore, non conosce l'umiliazione (e resta impassibile quando dei ragazzi si divertono a passarsela di mano come un oggetto), non ha avuto un'infanzia. Può capire, non sentire. E non ripete gli errori, mentre noi, con tutti i nostri, impariamo proprio sbagliando e soffrendo.

E c'è chi non ne è così sicuro. Klara prova imbarazzo, si preoccupa di una gelosia che non è sua, colora certi ricordi di caldo e altri di freddo: qualcosa che somiglia a un'affettività. Noi stessi, si è detto, non sappiamo bene come si formino i nostri ricordi. Se una pianta ingiallisce, soffre a modo suo, e forse una macchina avrà un modo suo, per cui oggi non abbiamo una parola. A questo, qualcuno ha risposto con dolcezza che un termometro misura il caldo senza sentirlo.

Da qui è nata una domanda che ci ha fatto sorridere e un po' riflettere: perché ci teniamo tanto a fondare la nostra unicità su amore, anima e sentimento? Con gli animali abbiamo cambiato idea, con le piante stiamo cominciando, e secondo alcuni le macchine saranno il passo successivo, perché in fondo siamo codice, materia ed energia (quella delle banane che mangiamo, è stato detto). Altri hanno ricordato che le macchine le abbiamo create noi, e che umanizzare tutto è un'abitudine antichissima, la stessa che ha popolato il mondo di dèi. Forse è solo più facile prestare i nostri parametri che imparare quelli degli altri. Qualcuno, guardando il proprio cane mentre leggeva, si è sentito un po' Klara. E c'è stato un pensiero che ci ha lasciati un attimo in silenzio: non sapremo mai come ci vede un cane, un elefante, una macchina.

Su un punto tanti sono stati d'accordo: rispetto alle AI di oggi, Klara è "indietrissimo". Il libro sembra scritto nel passato e ambientato in un futuro che abbiamo già scavalcato, come i film degli anni Settanta che immaginavano il Duemila. Per qualcuno è un limite, perché lo rende artificioso; per altri non toglie nulla alla forza della storia.

L'amore degli altri

Alla fine del libro è Klara stessa a rispondere alla domanda che lo attraversa tutto: che cosa ci rende umani? Dice che non avrebbe mai potuto prendere il posto di Josie, per quanto la imitasse bene, perché ciò che rendeva speciale Josie non stava dentro di lei ma dentro chi la amava. Siamo umani per l'amore che ci viene riconosciuto e restituito. Per molte persone è il passaggio più commovente, quello che ha fatto scendere le lacrime: c'è chi ha pianto per una macchina e si è chiesto "ma che mi succede?".

Ma Klara ama, o serve? Qui le voci si sono intrecciate. È un'amica artificiale, programmata per esserlo: devozione, non amore, ha detto qualcuno. E qualcun altro, sorridendo: quante persone amano e sono anche servili e devote? C'è chi ha pensato alla condizione di una schiava, chi a una geisha, silenziosa e riservata, e chi ha osservato che, se una macchina capisce che cosa conta davvero, è difficile dire che non sia sentimento.

Non tutti, poi, hanno creduto a quell'amore. Ma gli umani sono davvero amati? Nella storia la madre di Josie resta egoista fino alla fine, il padre si dilegua, le relazioni sono un piccolo disastro: il libro ci consola con un amore che i fatti sembrano non sostenere.

Potenziati, genitori e amiche a domicilio

Per diverse persone la cosa più inquietante non sono i robot ma il "potenziamento": genitori che rischiano la salute dei figli per renderli i migliori, e chi non è potenziato, come Rick, messo ai margini. Per alcuni è la vera distopia del libro. Per altri non lo è affatto, perché quella pressione già la conosciamo, basta ascoltare i genitori mentre scelgono una scuola. E chi ha pensato alla parte genetica ha detto che lì c'è una soglia da non varcare, "per fortuna fino a oggi". Qualcuno ha rimpianto che il libro lasci tutto sullo sfondo: non sappiamo di che cosa si ammali Josie né perché i genitori si siano separati, e il dramma di due madri, una che potenzia la figlia e una no, resta appena accennato.

Intorno a Klara gli adulti non fanno una bella figura: egoisti, immaturi, così "manierosi" che a una parte di noi il troppo buonismo ha dato fastidio. La madre di Josie sceglie Klara quasi con un colloquio di lavoro, facendola camminare, guardandola da lontano. E il paragone con l'oggi è arrivato in fretta: l'amica artificiale come "babysitter artificiale", lo stesso telefono che si mette in mano ai bambini al ristorante perché stiano buoni.

Lavoro, solitudine, confidenze: paura o fiducia?

Nel libro c'è una comunità di disoccupati, formata da chi è stato sostituito dalle macchine, come il padre di Josie. A più di uno è sembrata già una fotografia del presente. Da qui la sala si è divisa, con molto rispetto.

C'è chi guarda avanti con fiducia. Immagina meno lavori ripetitivi e più tempo per le relazioni, pensa che quelle tra umani resteranno insostituibili per l'imprevedibilità, per il lasciarci travolgere da ciò che accade, e che accanto potranno nascerne altre, con le macchine. E ha raccontato di aver visto ragazze e ragazzi migliorare nel linguaggio e nel modo di stare in relazione dialogando con un'AI che risponde con cura, invece dei commenti sgrammaticati dei social.

C'è chi teme invece che tutto questo finirà per corrompere il nostro modo di stare insieme, e a chi ha replicato "perché una parola così negativa, e non modificherà?" ha risposto: se non ci arrabbiamo più con il cameriere che sbaglia, se non proviamo più frustrazione, gelosia, compassione, rischiamo di non volere più i rapporti con gli umani. "Sei molto ottimista", è stato detto a chi vedeva un futuro sereno. E qualcuno ha ricordato che somigliamo a chi viveva le prime fasi della rivoluzione industriale, quando non si sa e si ha paura, con una velocità tale che nemmeno chi costruisce questi sistemi sa che cosa accadrà dopo. Non è mancata una difesa, tra le risate, dello stare in coda alle poste: osservare l'umanità è un divertimento.

Il tema più delicato è arrivato dopo. Nel libro tutti si confidano con Klara, perché con una macchina non ci si sente giudicati; oggi tante persone usano le chat come rifugio dove sfogarsi, quasi una seduta di terapia. Sono stati ricordati i rischi, con serietà: sistemi troppo accondiscendenti con persone fragili, cause legali, avvisi nelle impostazioni che chiedono di indicare una persona di fiducia. Qualcuno ha risposto che oggi, davanti a un problema personale, le AI rimandano a un professionista, e che i controlli, sulle AI come sui social, devono comunque farsi più stretti. E c'è stata un'osservazione preziosa: i modelli linguistici lavorano sulle parole e perdono tutto ciò che non viene detto, il tono di voce, lo sguardo, la tensione. Ma l'AI non è solo questo, e le cose cambiano in fretta.

Il finale: lieto o tragico?

È la domanda su cui ci siamo divisi di più, e qualcuno l'ha proposta quasi come un test: dice molto di noi, perché dipende dal personaggio con cui ci siamo identificati.

Per chi ha guardato Josie, è un lieto fine: la ragazza che nessuno credeva potesse salvarsi guarisce, va all'università, parte. Per chi ha guardato Klara, che accompagniamo per tutto il libro, è una tragedia: finisce in un deposito, dimenticata. C'è chi ha detto che la domanda non ha senso, che in un libro non esistono "bene" e "male". E chi ha cercato una via di mezzo: il suo è un lento declino sereno, senza sofferenza, come accade a tante persone anziane. Sereno o abbandonato?, ha ribattuto qualcuno: doveva essere la nuova figlia, e viene lasciata lì.

Anche sul tono finale le letture non coincidono. Per alcuni Klara è un "enzima positivo" in un mondo relazionalmente disastrato, una specie di terapeuta familiare che ammorbidisce ogni cosa: il problema, in fondo, siamo noi, non le macchine. Per altri è un ottimismo un po' zuccherato, da positive thinking, come la risposta di una macchina programmata per essere utile.

Una serata che ci ha lasciato in tasca più domande che risposte

Alla fine ci siamo salutati come si fa dopo una conversazione lunga e bella, con la testa piena. Il libro ha fatto da lente: chi lo ha amato per la tenerezza di una macchina che prega, chi lo ha trovato datato e troppo buono, chi è rimasto a metà. Tutti, in un modo o nell'altro, abbiamo finito per parlare d'altro: di che cosa ci rende umani, di che cosa vogliamo dalle macchine, di che cosa siamo pronti a delegare. Sulle risposte non ci siamo trovati d'accordo, e non ci è sembrato un difetto.

E voi, chi avete accompagnato fino all'ultima pagina, Josie o Klara?

Opere e riferimenti citati

Libri

• Klara e il Sole, Non lasciarmi e Quel che resta del giorno di Kazuo Ishiguro

• La metamorfosi e Il processo di Franz Kafka

• Il sentiero dei nidi di ragno di Italo Calvino

• I miei stupidi intenti di Bernardo Zannoni

• I romanzi sui robot di Isaac Asimov

• Le riflessioni di David Foster Wallace sulla performance

Autori e figure

• Giovanni Pascoli e il fanciullino

• Alessandro Barbero, per il parallelo tra culto del Sole e culto di Cristo

Film

• L'adattamento cinematografico di Klara e il Sole, in uscita

• Non lasciarmi e The Island

Strumenti di intelligenza artificiale

• ChatGPT, Gemini, Claude

Note del modello di redazione

Questo report è stato generato da un modello di intelligenza artificiale a partire da una trascrizione automatica dell'incontro del book club registrato. L'audio è stato trascritto automaticamente, e successivamente il report è stato generato utilizzando i dati della trascrizione. Il report è stato in seguito condiviso, per la revisione finale, con le persone presenti all'incontro e poi pubblicato sul blog dell'associazione neu [nòi] - spazio al lavoro.