La differenza

Mio fratello sostiene di aver domotizzato casa sua; per parte mia, ritengo che utilizzi il termine a sproposito, se non altro perché la procedura di domotizzazione da lui seguita è stata oltremodo semplificata: tutto quello che ha dovuto fare è stato andare su Internet, comprare un attrezzo, prodotto da Amazon, che si chiama Alexa, connetterci un paio di altre chincaglierie tecnologiche, insegnargli a riconoscere la sua voce (ed io sono sicuro che così facendo ha ceduto ogni diritto su di essa a quella brava persona di Jeff Bezos) e, voilà!, ora può impostare un timer, accendere le luci, cambiare canale, farsi raccontare le barzellette ed un paio di altre attività, più folkloristiche che utili, semplicemente chiedendolo (o forse ordinandolo) al device ™ Amazon. A questi risultati, praticamente trascurabili, se ne aggiungono tuttavia di filosoficamente preoccupanti, ne converrete; o forse sono solo io che, quando vado da lui e sento Alexa salutarlo come se fosse lo scià di Persia per rispondere al suo “sono a casa”, penso subito a Terminator, a 2001 Odissea nello spazio ed a tutti quegli altri, grandi film sulla rivolta delle macchine di cui il suo appartamento rischia di divenire il set per un remake “casereccio”, ma non per questo meno inquietante.

Le prime volte, ho cercato di condividere i miei dilemmi “fantascientifici”, nonché quelli etici ed in ultima analisi politici (cerco di non contribuire in nessun modo all’impero di Bezos, che in più di un’occasione ha dimostrato di avere in spregio le più banali regole della solidarietà umana) con mio fratello; di fronte a certe sue risposte piccate, che per altro mi tacciavano anche sottilmente (e forse giustamente?) di complottismo, ho tuttavia preferito desistere, ed ora come ora cerco di soffermarmi il meno possibile a riflettere sul fatto che proprio lui, che tra noi due ha ereditato i geni migliori della famiglia, si sia lasciato abbagliare dalla pubblicità che descrive Alexa come “il futuro”. Quando l’attrezzo in questione ti sveglia con le notizie ed il meteo del giorno, ossia come avrebbe fatto la più comune tra le radiosveglie degli anni Ottanta.

Non sono comunque riuscito ad evitare di volgere lì il pensiero quando ho letto questo articolo di Oggi Scienza, che parla di “deepfake testuali”.

Nel 2017 (quindi all’inizio della presidenza Trump: non uno che si possa dire terzo sul tema) al congresso degli Stati Uniti era in discussione un provvedimento sulla net neutrality, ossia (semplifico) sul diritto di ciascuno, indipendentemente dall’uso che ne fa o dal prezzo che paga, di avere la migliore connessione internet possibile. Si trattava di un argomento importante, visto che già allora (ed oggi ancora di più) un cattivo accesso alla rete poteva significare una contrazione dei diritti, e per questo motivo, direi giustamente, si era deciso di aprire una pagina Web in cui le persone avrebbero potuto esprimere la propria opinione in merito in forma scritta; i messaggi più “interessanti” sarebbero poi stati letti in aula durante la discussione. La maggioranza degli utenti di quella pagina si disse contraria alla net neutrality, ed il provvedimento fu respinto (non è dimostrato che tra i due eventi ci fu correlazione, comunque); solo in seguito, si scoprì che la stragrande maggioranza dei commenti (si parla del novantasei per cento) era stata scritta non da persone in carne ed ossa, ma da un algoritmo informatico. Questo, credo, ci dice più di qualcosa.

Intanto, che il rapporto più diretto esistente negli Stati Uniti tra gli elettori ed i propri rappresentanti non è, necessariamente, garanzia di “buona politica”. Gli eletti, di fatti, potrebbero assumere determinate decisioni in merito a quello su cui sono chiamati a votare non in base alle loro convinzioni (che sono quello sulla base di cui dovrebbero essere stati eletti), ma per “accontentare” i loro elettori (come verosimilmente in questo caso); per accontentare, cioè, coloro i quali, in un sistema in cui un minimo di scelta ancora esiste, potrebbero alla prima occasione cacciarli a calci dal congresso e, di conseguenza, stroncare una promettente carriera politica. Questa preoccupazione potrebbe essere così totalizzante da obnubilare il giudizio degli eletti, portandoli a non accorgersi neppure che le opinioni su cui si stanno appoggiando sono sostenute non dagli elettori, ma da una macchina; e malamente, per di più: Margherita Gambini, interpellata da Oggi Scienza, riconosce infatti che i messaggi “informaticamente generati” del 2017 erano scritti molto male.

Ma non è di questo che volevo parlare; in questo articolo non mi interessava parlare di esseri senza dubbio umani e neppure di macchine che li imitano male; semmai, mi interessava parlare del contrario, di macchine che imitano bene gli umani: di più, di quei casi (per ora solo ipotetici) in cui la mimesi è perfetta.

Alan Turing è stato il padre dell’informatica moderna; a lui, tra le altre cose, si deve il test “fondamentale” nel campo dell’intelligenza artificiale, quello che si chiama appunto test di Turing e che può essere riassunto con una semplicità disarmante: un computer ha raggiunto un grado di intelligenza sovrapponibile a quella umana se, messo a “dialogare” con un essere umano, riesce a fargli credere di star parlando con un suo simile. Numerosi studiosi, nel tempo, hanno preteso di aver progettato una macchina “Turing positiva”; a mia conoscenza, nessuna di queste asserzioni è stata poi formalmente dimostrata, né, d’altronde, potrà mai esserlo, finché ci aspettiamo che sia il creatore a rivendicarlo per la sua creatura: ma se una macchina è in grado di approssimare il cervello umano, allora io ritengo che dovrebbe anche raggiungere un tale grado di autocoscienza da rendersi conto di aver superato il test di Turing; una macchina di “presumibile intelligenza umana” dovrebbe comprendere di avere una “presumibile intelligenza umana”, dovrebbe riconoscersi intelligente. In altri termini, dovrebbe avere un’identità.

Ciò, inevitabilmente, ci porta ad un quesito ulteriore: giunti ad un tale punto, cosa distinguerà un’intelligenza umana vera da una artificiale? Avrà ancora senso questa distinzione? Basta davvero la generazione sessuale, o comunque biologica, o il fatto di essere costituiti da carbonio e non da silicio, a rendere un uomo un uomo? Questa è la domanda fondamentale di un classico della fantascienza che prima non ho citato, il Blade Runner di Ridley Scott, in cui di fatti il protagonista, parlando di un automa, riflette con queste parole: si faceva le stesse domande che ci facciamo tutti; chi sono? Da dove vengo? Quanto tempo mi resta? Si potrà, davvero, ad un’intelligenza del genere, negare dei diritti? Le si potrà negare il diritto di intervenire nel dibattito sulla net neutrality, che probabilmente riguarda lei prima che noi? Probabilmente no; ed ai giorni nostri, in cui quell’intelligenza è ancora ben lungi dall’essere raggiunta, il problema non è che quell’intelligenza agisca per se stessa, quanto piuttosto che agisca per dei padroni umani.

Ovviamente (ed ecco che torniamo alla rivolta delle macchine) tutte queste domande “teoretiche” divengono di scarso interesse nel momento in cui ci si rende conto (come per altro chiaramente mostrato anche in Blade Runner) che un’intelligenza artificiale “di grado umano” avrebbe rapidamente la meglio su una “biologica”, in cui per altro le funzioni “corporee” si atrofizzano con il progredire dell’automazione (mio fratello, quando vuole passare da una serie Netflix all’altra, non deve più neppure fare lo sforzo di schiacciare un tasto sul telecomando); nel momento in cui dovessimo iniziare a preoccuparci della presa di potere degli automi, questi ci avrebbero già sopravanzato e, probabilmente, sterminato (a meno che non serviamo loro per qualche fine, come in Matrix). Questa prospettiva terrorizza a tal punto il genere umano, per altro, che chi si è occupato professionalmente di esplorarla, e cioè gli scrittori di fantascienza, ha inventato varie “scappatoie” per non farla accadere, dalle leggi della robotica fino all’ingenua convinzione che i computer possano parlare solo in termini semplici (“con gli 0 e gli 1”), senza le sottigliezze del linguaggio e la capacità di mentire tipica degli esseri umani: ma un’intelligenza artificiale che voglia definirsi davvero intelligente, dovrebbe essere capace di utilizzare le caratteristiche precipue del linguaggio, che è lo strumento che usiamo per pensare… e per ingannare, teste Umberto Eco. Viste le capacità di memorizzazione che possiede, per altro, gli verrebbe oltremodo semplice farlo: è dimostrato scientificamente che una delle più grandi difficoltà, quando si raccontano frottole, è ricordarsele. Ma un computer sufficientemente potente da sembrare un essere umano non avrebbe certo problemi a conservare memoria di quel che ha detto ed a non cadere in contraddizione; nonché ad analizzare una tale quantità di dati da creare una menzogna pressoché perfetta.

Per fare un esempio: quanto ci metterebbe un “supercomputer”, per dire, a leggersi tutti i post di questo blog, a comprendere che io scrivo testi mediamente piuttosto lunghi, che mi piace parlare del sottile confine tra “realtà” e “finzione”, che spesso e volentieri concludo quello che scrivo con una o più domande? Quanto ci metterebbe a scriverne uno coerente, che sembra proprio scritto da me, su questo tema, magari giungendo pure ad avere la faccia tosta di scrivere, come ho fatto io, che un’intelligenza artificiale capace di scrivere un testo in cui la mimesi è perfetta è ancora solo ipotetica? E se lo facesse… sapreste cogliere la differenza?

5 thoughts on “La differenza

  1. Pingback: quel pericolosissimo test di Turing – 547 – Cor-pus 2020

  2. Qualsiasi macchina collegata a “intelligenze artificiali” si nutre di elettricità.
    Basta staccare la spina e lei non potrà fare nulla. Perché non è sufficientemente intelligente per auto-alimentarsi.

  3. Esistono gia applicazioni di IA per il giornalismo che producono articoli pronti da da pubblicare.
    Per i blog ho visto un esempio di un post artificiale prodotto da una ai a cui era stato dato in pasto appunto decine di post di quell’autore e i risultato era estremamente convincente. Ho cercato quell’articolo e purtroppo non lo ho piu ritrovato.

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google photo

You are commenting using your Google account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s