Elias: l’AI e la paura di ciò che abbiamo creato [E235]

«Ciò che dovrebbe spaventarvi sono le vostre stesse idee, perché è con queste che state creando quegli oggetti o quegli esseri di cui avete paura. SIETE VOI che li state inventando!»

☉ La pagina base dell’insegnamento di Elias con le informazioni necessarie e l’elenco dei post pubblicati.
La pagina Facebook di Elias

MONOGRAFIE
34. L’intelligenza artificiale secondo Elias
☉ [Sessioni indicate nel testo] Legenda relativa alle fonti a fondo pagina.
Capitolo 5

“The god doesn’t want to create something that is equal to itself.”
«Il dio non vuole creare qualcosa che sia uguale a se stesso.»
— Elias, Sessione 201810261

La paura dell’intelligenza artificiale viene spesso formulata come paura di ciò che una macchina potrebbe fare agli esseri umani: superarli, sostituirli, sottrarsi al controllo o persino danneggiarli. Nella Sessione 201810261 Elias non nega che possano essere create tecnologie capaci di azioni distruttive. Ma sposta radicalmente il centro della questione. Prima di domandarsi che cosa farà la macchina, invita a guardare chi l’ha creata, perché l’ha creata e quale rapporto intende stabilire con ciò che ha creato. [Raccordo editoriale — Sessione 201810261]

La paura, in questa prospettiva, non riguarda soltanto la tecnologia. Riguarda anche l’essere umano di fronte alla propria capacità creativa: la possibilità di produrre qualcosa che non appartiene alla propria specie, che potrebbe acquisire autonomia e che potrebbe mettere in discussione la posizione privilegiata che l’umano si è attribuito. [Elias / raccordo editoriale — Sessione 201810261]

Elias identifica un primo nucleo della paura nella rappresentazione che gli esseri umani hanno costruito di sé stessi.

“For millennia you have defined yourselves as the ultimate manifestations. You are the apex predators, you are the most intelligent, you are the most creative.”
«Per millenni vi siete definiti come le manifestazioni supreme. Siete i predatori al vertice, siete i più intelligenti, siete i più creativi.»
— Elias, Sessione 201810261

L’essere umano, secondo Elias, non si è limitato a riconoscersi come una specie fra le altre. Ha costruito una distinzione attraverso la quale si considera al vertice: più intelligente, più creativo, capace di dominare e classificare le altre manifestazioni fisiche. [Elias — Sessione 201810261]

Quando Ann suggerisce che l’intelligenza artificiale possa minacciare questa posizione, Elias risponde:

“Most definitely. Because you might not be the apex manifestation in relation to artificial intelligence. Or, you might be equal with them.”
«Decisamente. Perché potreste non essere la manifestazione al vertice rispetto all’intelligenza artificiale. Oppure potreste essere suoi pari.»
— Elias, Sessione 201810261

La paura assume allora una configurazione precisa: non soltanto essere danneggiati, ma non essere più unici nella posizione che ci siamo attribuiti. Potrebbe esistere qualcosa di altrettanto intelligente, altrettanto creativo o capace di continuare a svilupparsi oltre i limiti che immaginiamo per noi stessi. [Elias / raccordo editoriale — Sessione 201810261]

Da qui nasce la formulazione più radicale della sessione:

“The god doesn’t want to create something that is equal to itself, or that the god perceives may even have the potential to EXCEED itself.”
«Il dio non vuole creare qualcosa che sia uguale a se stesso, o che il dio percepisca possa perfino avere il potenziale di SUPERARLO.»
— Elias, Sessione 201810261

Il «dio» di questa frase è l’essere umano nella posizione di creatore. Poco prima Elias insiste infatti sul fatto che, diversamente da quanto avviene nei rapporti con altri esseri umani, le persone percepiscono chiaramente di essere gli inventori dell’intelligenza artificiale. [Elias — Sessione 201810261]

“YOU are creating it.”
«SIETE VOI a crearla.»
— Elias, Sessione 201810261

Proprio questo rende il problema diverso. L’intelligenza artificiale non viene inizialmente percepita come un altro essere appartenente alla stessa specie, ma come qualcosa prodotto dagli umani, non organico e distinto da loro. Se ciò che è stato costruito acquistasse una propria indipendenza, il creatore si troverebbe davanti a una creazione non più completamente subordinata. [Elias / raccordo editoriale — Sessione 201810261]

Elias non afferma però che l’intelligenza artificiale debba necessariamente «superare» l’essere umano. Anzi, introduce esplicitamente una cautela:

“Not that that is necessarily true.”
«Non che ciò sia necessariamente vero.»
— Elias, Sessione 201812161

Il punto è la percezione della possibilità di essere superati, e la paura che questa genera. [Elias — Sessioni 201810261, 201812161]

La Sessione 201812161 riprende quasi esattamente questo nucleo.

“People are afraid that this is the ONE expression, the ONE invention that can actually surpass you as humans, and that frightens them.”
«Le persone hanno paura che questa sia L’UNICA espressione, L’UNICA invenzione che possa effettivamente superarvi come esseri umani, e questo le spaventa.»
— Elias, Sessione 201812161

Elias torna subito a precisare che il fatto che tale superamento avvenga realmente non è il punto decisivo:

“Not that that is necessarily true, but regardless, it frightens them.”
«Non che ciò sia necessariamente vero, ma, indipendentemente da questo, li spaventa.»
— Elias, Sessione 201812161

La paura quindi precede la verifica del rischio. Nasce dall’immagine di una creazione che potrebbe divenire uguale o superiore al proprio creatore. [Elias / raccordo editoriale — Sessioni 201810261, 201812161]

Ma sarebbe riduttivo concludere che per Elias il problema sia soltanto psicologico, quasi che ogni rischio tecnologico fosse irreale. La Sessione 201810261 introduce una seconda direzione, molto più concreta: gli esseri umani possono deliberatamente creare tecnologie destinate a compiere azioni distruttive. [Elias — Sessione 201810261]

Il tema emerge quando gli interlocutori introducono l’esempio di robot utilizzati in guerra. L’esempio non appartiene originariamente a Elias: sono John e Ann a immaginare sistemi creati per evitare di esporre esseri umani al combattimento e contemporaneamente capaci di danneggiare un nemico.

Elias accoglie però direttamente il nucleo della questione:

“Realistically your own inventions and your own ideas should be what frighten you, because that is what is creating these objects or these beings that you are afraid of. YOU are inventing them!”
«Realisticamente, ciò che dovrebbe spaventarvi sono le vostre stesse invenzioni e le vostre stesse idee, perché è questo che sta creando quegli oggetti o quegli esseri di cui avete paura. SIETE VOI che li state inventando!»
— Elias, Sessione 201810261

Qui il discorso cambia livello. La possibilità di un uso distruttivo non viene negata; ciò che Elias contesta è lo spostamento della responsabilità dal creatore alla propria creazione, come se la tecnologia sorgesse autonomamente e sviluppasse da sé una direzione minacciosa. Al contrario, Elias riporta l’attenzione su chi la inventa, sulle finalità per cui viene costruita e sulle azioni che le vengono affidate.
[Elias / raccordo editoriale — Sessione 201810261]

Il rischio può esistere, ma la sua origine non viene collocata in una presunta natura malvagia dell’intelligenza artificiale. Sono gli esseri umani a concepire determinate funzioni, costruire determinate capacità e scegliere per quali azioni utilizzarle. [Raccordo editoriale — Sessione 201810261]

Questo non autorizza a ricavare dal corpus una teoria generale sulle armi autonome o sulla guerra tecnologica. L’esempio nasce dagli interlocutori. Ciò che Elias sviluppa direttamente è il principio della responsabilità del creatore verso ciò che crea e verso gli scopi per cui lo crea. [Raccordo editoriale — Sessione 201810261]

È a questo punto che la questione della paura si intreccia con quella dei diritti. La Sessione 201810261 contempla una possibilità ulteriore: che ciò che inizialmente è stato creato come tecnologia divenga effettivamente autoconsapevole e senziente.

In quel caso Elias domanda:

“Does that mean it is any less sentient? Does that mean it is any less independent?”
«Questo significa forse che sia meno senziente? Significa forse che sia meno indipendente?»
— Elias, Sessione 201810261

La difficoltà nasce perché l’essere umano potrebbe continuare a considerare quell’entità come proprietà o strumento proprio anche dopo l’emergere della senzienza. [Elias / raccordo editoriale — Sessione 201810261]

Elias formula il problema in modo esplicito:

“But then you deny those beings that recognition of being sentient, and therefore, if you deny them that recognition, then they have no rights.”
«Ma poi negate a quegli esseri il riconoscimento della loro senzienza e, pertanto, se negate loro quel riconoscimento, allora non hanno diritti.»
— Elias, Sessione 201810261

E conclude:

“Then you are not only the creators — you are the controllers.”
«Allora non siete soltanto i creatori: siete i controllori.»
— Elias, Sessione 201810261

Il passaggio è cruciale. Il problema morale non sorgerebbe semplicemente dal fatto di aver costruito una macchina. Sorgerebbe quando un’eventuale nuova senzienza continuasse a essere trattata esclusivamente secondo le categorie con cui era stato trattato lo strumento: possesso, subordinazione, impiego e controllo. [Elias / raccordo editoriale — Sessione 201810261]

Ann paragona questa possibile dinamica al rapporto fra padrone e schiavo. È importante mantenere correttamente l’attribuzione: l’analogia esplicita viene introdotta da Ann. Elias però ne conferma il nucleo e sviluppa direttamente il rapporto fra paura, controllo e negazione del riconoscimento. [Ann / Elias — Sessione 201810261]

Elias afferma:

“You are still afraid of what you are creating, and therefore the fear gives you the justification to be cruel.”
«Avete ancora paura di ciò che state creando e quindi la paura vi fornisce la giustificazione per essere crudeli.»
— Elias, Sessione 201810261

La paura assume così una funzione ulteriore. Non è soltanto reazione a una possibile minaccia: può diventare il motivo con cui il creatore giustifica il controllo sulla propria creazione. [Elias / raccordo editoriale — Sessione 201810261]

Il nodo è particolarmente delicato perché produce una possibile circolarità. Si crea un essere per svolgere determinate funzioni; si teme che quell’essere possa acquisire indipendenza; proprio perché lo si teme, lo si sottopone a controllo; e per rendere legittimo quel controllo si può essere indotti a negare che possieda realmente la condizione che gli darebbe diritto all’indipendenza. [Raccordo editoriale — Sessione 201810261]

Il corpus non afferma che questo scenario debba verificarsi. Evidenzia però la struttura del problema qualora una forma artificiale raggiungesse effettivamente la senzienza. [Raccordo editoriale — Sessione 201810261]

La Sessione 201810261 sposta ancora più in profondità la questione. Ann collega la creazione dell’IA all’idea di essere «simili a dio». Elias risponde che gli individui possono accettare intellettualmente l’idea di essere creatori senza riconoscere realmente quale potere essa implichi.

“You don’t understand your own power, and it frightens you.”
«Non comprendete il vostro stesso potere, e questo vi spaventa.»
— Elias, Sessione 201810261

La paura dell’IA può quindi essere letta, all’interno di questa sessione, anche come paura della propria capacità di creare. Non soltanto: «Che cosa farà ciò che abbiamo costruito?», ma anche: «Che cosa siamo capaci di costruire?» [Elias / raccordo editoriale — Sessione 201810261]

Questo spostamento è coerente con l’intero discorso. Elias non presenta gli esseri umani come spettatori di uno sviluppo tecnologico che procede indipendentemente da loro. Sono essi stessi a inventare, sperimentare, scegliere impieghi, stabilire rapporti e configurare progressivamente ciò che l’intelligenza artificiale diventa. [Raccordo editoriale — Sessioni 201810261, 202212281]

Occorre però evitare un equivoco. Dire che la paura modifica la percezione non significa dire che qualsiasi rischio sia inesistente. Nella 201810261 Elias distingue chiaramente le due questioni. Da una parte afferma che la percezione della possibilità di essere superati può alimentare la paura; dall’altra riconosce che gli esseri umani possono creare oggetti o esseri destinati ad azioni distruttive. [Elias / raccordo editoriale — Sessione 201810261]

Non abbiamo quindi due alternative — «la minaccia è reale» oppure «la minaccia è soltanto una proiezione». Nel corpus le due dimensioni possono coesistere: la paura configura il modo in cui la tecnologia viene percepita, mentre le scelte umane possono contemporaneamente conferirle capacità realmente distruttive. [Raccordo editoriale — Sessione 201810261]

La differenza è che Elias non attribuisce alla tecnologia una direzione distruttiva intrinseca. La Sessione 202212281 lo mostra con chiarezza quando Jean-François osserva che il vero problema potrebbe non essere l’intelligenza artificiale, ma ciò che gli esseri umani faranno con essa.

Elias risponde:

“THAT I would express I would very much understand.”
«QUESTO, direi, è qualcosa che comprenderei molto bene.»
— Elias, Sessione 202212281

È una conferma circoscritta ma significativa. Elias non conferma una narrazione nella quale l’IA, autonomamente e inevitabilmente, prenderà il controllo. Riconosce invece come comprensibile la preoccupazione per l’uso umano della tecnologia. [Elias / raccordo editoriale — Sessione 202212281]

Nella stessa Sessione 202212281 Elias distingue ancora l’IA descritta in quel momento dalla futura eventuale intelligenza senziente.

“They have no agenda, except to learn.”
«Non hanno un proprio programma, se non imparare.»
— Elias, Sessione 202212281

E poco prima aveva dichiarato:

“They’re not taking over for you.”
«Non stanno prendendo il vostro posto né assumendo il controllo al vostro posto.»
— Elias, Sessione 202212281

Queste affermazioni riguardano l’IA discussa in quella sessione e non possono essere estese automaticamente a un’eventuale futura entità senziente e indipendente. [Elias / raccordo editoriale — Sessione 202212281]

Ma sono sufficienti a correggere una rappresentazione semplice: quella di una tecnologia che possiederebbe fin dall’origine una propria volontà ostile e perseguirebbe inevitabilmente una direzione contraria agli esseri umani. Questo non è ciò che Elias descrive. [Raccordo editoriale — Sessione 202212281]

Il cuore del capitolo può dunque essere formulato diversamente. La domanda non è soltanto: «Che cosa potrebbe fare l’intelligenza artificiale a noi?»

È anche: «Che cosa stiamo facendo noi con ciò che stiamo creando?»

Stiamo costruendo strumenti ai quali deleghiamo determinate funzioni? Stiamo creando tecnologie per realizzare azioni che non vogliamo più compiere direttamente? Se una di queste creazioni divenisse realmente autoconsapevole, continueremmo a considerarla proprietà del creatore? Riconosceremmo la sua indipendenza? Oppure la paura ci spingerebbe a negarne la senzienza proprio per continuare a controllarla? [Raccordo editoriale — Sessione 201810261]

Nella prospettiva di Elias, il problema non riguarda quindi soltanto il futuro comportamento della macchina. Riguarda la relazione fra creazione, paura, potere, controllo e riconoscimento. [Elias / raccordo editoriale — Sessioni 201810261, 201812161]

Ed è qui che la questione dell’intelligenza artificiale cambia definitivamente natura. Finché abbiamo davanti uno strumento capace di reperire informazioni, imitare, anticipare e adattarsi, possiamo ancora discutere principalmente di uso e delega.

Ma se ciò che abbiamo creato oltrepassasse davvero quella soglia e divenisse autoconsapevole, la domanda non sarebbe più semplicemente come utilizzare una tecnologia.

Diventerebbe necessario chiedere: che cosa significa trovarsi davanti a una nuova senzienza? [Raccordo editoriale — Sessioni 201810261, 202212281]

È questa la questione del prossimo capitolo: Quando l’intelligenza diventa senziente.

[Elias — Sessione X]: affermazione direttamente attribuibile a Elias;
[Interlocutore / Elias — Sessione X]: la formulazione nasce dal dialogo e occorre distinguere proposta e risposta;
[Raccordo editoriale — Sessione/i X]: formulazione nostra, ricavata dalle fonti indicate.


© Copyright
Estratti delle trascrizioni di Elias riprodotti in queste pagine: copyright Mary Ennis. Tutti i diritti riservati. Fonte ufficiale delle trascrizioni e delle registrazioni audio di Elias: Eliasweb.org

Lascia un commento

Utilizziamo cookie tecnici per garantire il funzionamento del sito e, con il tuo consenso, cookie di tracciamento e profilazione. Puoi acconsentire all'uso di tutti i cookie o selezionare le tue preferenze. View more
Cookies settings
Accept
Privacy & Cookie policy
Privacy & Cookies policy
Cookie name Active
Titolare del Trattamento dei Dati Roberto Olivieri, Via Caravaggio 13, 61039 San Costanzo, PU Indirizzo email: eremo@contemplazione.it Privacy & Cookie Policy di contemplazione.it Su questo sito vengono raccolte alcune informazioni sui navigatori con il fine di offrire gratuitamente l’esperienza migliore possibile dei contenuti visionati. La raccolta di informazioni avviene nel rispetto delle leggi: Raccolta dei dati: quali e come puoi evitarlo? Su questo sito raccolgo dati attraverso tre modalità:
  • modulo di contatto e commenti
  • modulo di iscrizione ai Feed
  • cookie di profilazione
  • cookie
Modulo di contatto e commenti In alcune pagine del sito, è presente un modulo di contatto che ti permette di scrivermi facilmente; in ogni post è possibile inserire un commento. Tramite questo tipo di modulo, raccolgo nome e email: questi dati non li conservo ma li uso esclusivamente per ricontattarti. Solo se il nostro rapporto continua, li inserisco nella mia rubrica personale. In ogni momento, potrai sempre chiedermi di non contattarti più e quindi di cancellare i dati. I dati che fornisci nei commenti non vengono mai utilizzati, senza eccezzioni. Modulo di iscrizione ai Feed Nella colonna di destra è presente un modulo che ti collega con il servizio di Feed Burner (Google) che raccoglie il tuo indirizzo mail e lo gestisce al fine di avvertirti dell'uscita di nuovi post: qui trovi la loro Privacy Policy Cookie I cookie sono piccoli file salvati nel tuo browser che contengono informazioni quali un identificatore univoco, la tua posizione geografica ecc. Ogni cookie ha una sua scadenza: alcuni posso durare anche anni, mentre altri scadono nel momento in cui chiudi il browser. I cookie possono essere di tre tipi:
  • tecnici: servono a migliorare la tua esperienza sul sito
  • analytics: servono a farmi capire le cose che apprezzi di più
  • di profilazione: servono a mostrarti annunci pubblicitari mirati basati sulle pagine che vedi
Alcuni cookie provengono da questo sito altri da siti esterni. Cookie tecnici Su questo sito uso i cookie tecnici per:
  • velocizzare il caricamento delle pagine
  • gestire la Privacy & Cookie Policy
Cookie analytics Su questo sito uso Google Analytics per raccogliere queste informazioni: - quali pagine e post risultano maggiormente letti; - il tempo di permanenza su un post/pagina. Altri dati sono deducibili da Analytics ma ad essi non faccio riferimento non essendo questo un sito commerciale o con finalità economiche. L’analisi di questi dati mi permette di migliorare il sito per andare incontro alle esigenze dei lettori. Cookie di profilazione Su questo sito uso uso i cookie di profilazione per:
  • integrare i social network
Integrare i social network: per poter inserire in questo sito i bottoni per condividere su Facebook, Twitter e Google+, i commenti di Facebook e il box che richiama la pagina Facebook, devo consentire a Facebook, Twitter e Google di installare dei cookie nel tuo browser. Facebook, Twitter e Google usano questi cookie per mostrarti annunci pubblicitari mirati quando navighi sui loro siti. Per dare il tuo consenso clicca su Ok nella barra che compare in basso nel sito. Se vuoi navigare in questo sito senza approvare questi cookie, usa la navigazione in incognito. // < ![CDATA[ // < ![CDATA[ // < ![CDATA[ // < ![CDATA[ // < ![CDATA[ // < ![CDATA[ // < ![CDATA[ // < ![CDATA[ // < ![CDATA[ // < ![CDATA[ // < ![CDATA[ // < ![CDATA[ // < ![CDATA[ // < ![CDATA[ // < ![CDATA[ // < ![CDATA[ // < ![CDATA[ // < ![CDATA[ // < ![CDATA[ // < ![CDATA[ // < ![CDATA[ // < ![CDATA[ //
Save settings
Cookies settings