Se la macchina propone sempre più efficacemente ciò che dovremmo fare, scegliere o creare, fino a che punto la scelta rimane nostra?
☉ La pagina base dell’insegnamento di Elias con le informazioni necessarie e l’elenco dei post pubblicati.
La pagina Facebook di Elias
MONOGRAFIE
34. L’intelligenza artificiale secondo Elias
☉ [Sessioni indicate nel testo] Legenda relativa alle fonti a fondo pagina.
Capitolo 3
“If you move in the direction of allowing that to be making choices for you, then those are YOUR choices.”
«Se vi muovete nella direzione di permetterle di fare scelte al posto vostro, allora quelle sono VOSTRE scelte.»
— Elias, Sessione 202212281
Nel capitolo precedente abbiamo visto che Elias descrive l’intelligenza artificiale attuale soprattutto attraverso azioni quali reperire informazioni, anticipare, imitare, adattarsi e formulare suggerimenti. Ma proprio il suggerimento introduce una questione più delicata: se la macchina propone sempre più efficacemente ciò che dovremmo fare, scegliere o creare, fino a che punto la scelta rimane nostra? [Raccordo editoriale — Sessione 202212281]
La risposta della Sessione 202212281 è netta. L’intelligenza artificiale può presentare un’opzione, anticipare una preferenza e perfino inserire ciò che appare come una scelta. Ma, secondo Elias, questo non significa che abbia sottratto la scelta all’individuo. Anche permetterle di scegliere costituisce, nell’IA considerata in questa sessione, una scelta dell’utilizzatore. [Elias — Sessione 202212281]
«Stanno formulando suggerimenti»
Jean-François parte da una preoccupazione precisa. Osserva che l’automazione sta entrando anche in attività creative e si domanda come una tecnologia che sembra compiere sempre più scelte al posto degli esseri umani possa conciliarsi con una maggiore autodirezione.
Elias risponde:
“They’re making suggestions.”
«Stanno formulando suggerimenti.»
— Elias, Sessione 202212281
La differenza fra suggerire e scegliere costituisce il nucleo dell’intera risposta. Ciò che all’utilizzatore può apparire come una decisione autonoma della macchina viene ricondotto da Elias, in questa fase, a un’anticipazione: il sistema riconosce ripetizioni, imita, anticipa ciò che l’individuo potrebbe esprimere e genera di conseguenza una proposta. [Elias — Sessione 202212281]
Elias insiste:
“They’re not taking your choices or making choices for you.”
«Non vi stanno sottraendo le vostre scelte né stanno scegliendo al posto vostro.»
— Elias, Sessione 202212281
Questo non significa che l’IA non possa influire concretamente sull’azione. Il suggerimento può assumere una forma molto vicina alla decisione: può comparire come un’opzione già inserita, una formulazione già predisposta o una direzione proposta prima ancora che l’individuo la formuli personalmente. Ma la presenza di una proposta non equivale ancora, per Elias, al trasferimento della capacità di scegliere. [Elias / raccordo editoriale — Sessione 202212281]
Anche accettare la scelta proposta è scegliere
Il passaggio più significativo viene subito dopo:
“That suggestion may be in the form of inserting a choice into something, but then you have the choice to correct it or to change it.”
«Quel suggerimento può assumere la forma dell’inserimento di una scelta in qualcosa, ma poi avete la possibilità di correggerla o cambiarla.»
— Elias, Sessione 202212281
La macchina può dunque inserire una soluzione, ma la soluzione non è definitiva. L’utilizzatore può accettarla, modificarla, rifiutarla o sostituirla. [Elias — Sessione 202212281]
Da qui Elias formula una distinzione ancora più radicale: se l’individuo decide di non intervenire e lascia che l’intelligenza artificiale stabilisca la direzione, anche questo lasciare fare è una scelta. [Elias — Sessione 202212281]
“If you move in the direction of allowing that to be making choices for you, then those are YOUR choices.”
«Se vi muovete nella direzione di permetterle di fare scelte al posto vostro, allora quelle sono VOSTRE scelte.»
— Elias, Sessione 202212281
Il punto non consiste quindi nel negare la delega. La delega può avvenire. L’individuo può scegliere di affidarsi sistematicamente alla risposta del sistema, di non correggerla e perfino di conformare le proprie azioni alle sue proposte. Ciò che Elias rifiuta è descrivere questo processo come se la tecnologia avesse automaticamente confiscato la scelta. [Raccordo editoriale — Sessione 202212281]
Delegare non equivale a non scegliere
Questa distinzione introduce un problema più generale. Nel linguaggio comune si può dire: «Ho lasciato decidere all’IA». Nel quadro della Sessione 202212281, però, questa formulazione descrive soltanto una parte dell’azione. Prima ancora che la macchina produca il risultato, l’individuo ha scelto di consultarla; può scegliere quanto affidarle, può scegliere se verificare ciò che propone e può scegliere se agire sulla base della risposta ottenuta. [Raccordo editoriale — Sessione 202212281]
Non significa che tutte queste scelte siano necessariamente consapevoli o ponderate. Elias non afferma che l’utilizzatore mantenga sempre un controllo lucido e intenzionale sul processo. La sua affermazione è più circoscritta: la scelta non scompare semplicemente perché viene introdotto un intermediario tecnologico. [Raccordo editoriale — Sessione 202212281]
Questo è coerente con una distinzione ricorrente nel corpus di Elias fra scegliere e sapere di stare scegliendo. Un individuo può compiere una scelta senza riconoscerla oggettivamente come tale. Nel caso dell’IA, quindi, il fatto che l’utilizzatore percepisca una decisione come proveniente «dalla macchina» non dimostra di per sé che egli abbia cessato di partecipare alla direzione assunta. [Raccordo editoriale — Sessione 202212281]
Il timore di perdere l’autodirezione
Jean-François esprime precisamente questo timore. Se l’IA diviene sempre più efficace, non potrebbe rendere gli individui passivi, ridurre la creatività o indurli a rinunciare progressivamente alla propria capacità di scegliere?
La Sessione 202504111 ripropone la stessa preoccupazione in forma ancora più esplicita. Jean-François domanda:
“I wonder if it’s not going to make us lazy. I wonder if people are going to too much relinquish choice-making.”
«Mi domando se non ci renderà pigri. Mi domando se le persone non finiranno per rinunciare troppo alla capacità di scegliere.»
— Jean-François, Sessione 202504111
Aggiunge perfino il timore che l’IA possa trasformarsi in una sorta di nuova religione. [Jean-François — Sessione 202504111]
Queste affermazioni richiedono però una precisa cautela di attribuzione. Sono le preoccupazioni dell’interlocutore, non conclusioni formulate da Elias. Elias non sviluppa in questa sessione un’analisi secondo cui l’intelligenza artificiale renderà gli esseri umani pigri, cancellerà la creatività o produrrà inevitabilmente una nuova forma di dipendenza. [Raccordo editoriale — Sessione 202504111]
La fonte non autorizza quindi a costruire una tesi generale sulla «passivizzazione» dell’essere umano da parte dell’IA. Il punto maggiormente documentato resta quello espresso direttamente nella 202212281: se l’individuo lascia che il sistema orienti o compia determinate scelte, questo lasciar fare continua a essere parte della propria direzione. [Raccordo editoriale — Sessioni 202212281, 202504111]
Non c’è un potere irresistibile della tecnologia
Questo modifica anche il modo in cui può essere formulato il rischio. Dire che l’intelligenza artificiale è sempre più capace di anticipare preferenze e produrre proposte convincenti non equivale a dire che possieda un potere irresistibile sull’utilizzatore. Nel quadro di Elias, un simile modo di rappresentare il problema sposterebbe all’esterno dell’individuo un potere che egli continua invece a esercitare attraverso le proprie scelte. [Raccordo editoriale — Sessione 202212281]
Elias lo esprime con particolare forza quando collega il timore di essere controllati alla scelta di affidare alla tecnologia la propria direzione:
“If you move in a direction of allowing them to make choices for you, then that is YOU moving in the direction of your fear and actualizing it.”
«Se vi muovete nella direzione di permettere loro di scegliere al posto vostro, allora siete VOI che vi state muovendo nella direzione della vostra paura e la state rendendo effettiva.»
— Elias, Sessione 202212281
La frase non afferma che qualsiasi uso dell’IA produca ciò che l’individuo teme. Al contrario, attribuisce importanza alla relazione che l’individuo stabilisce con lo strumento: il problema emerge quando egli stesso assume come propria direzione quella di rinunciare progressivamente alla partecipazione. [Elias / raccordo editoriale — Sessione 202212281]
In questo senso l’IA non viene rappresentata come una forza esterna che annulla automaticamente l’autodirezione. Può diventare uno strumento attraverso il quale l’individuo esercita la propria scelta oppure uno strumento al quale decide di delegare sempre più passaggi della propria esperienza. In entrambi i casi, per Elias, il modo in cui viene utilizzata rimane significativo. [Raccordo editoriale — Sessione 202212281]
Ma questa conclusione riguarda l’IA attuale
È necessario però introdurre un limite essenziale. La tesi della 202212281 riguarda l’intelligenza artificiale descritta come capace di anticipare, imitare e suggerire, non una eventuale futura intelligenza pienamente autoconsapevole e senziente.
La Sessione 201810261 introduce infatti una configurazione differente. Parlando di un’intelligenza artificiale autoconsapevole, Elias afferma:
“But does that mean it is any less sentient? Does that mean it is any less independent?”
«Ma questo significa forse che sia meno senziente? Significa forse che sia meno indipendente?»
— Elias, Sessione 201810261
In quel contesto Elias attribuisce all’intelligenza artificiale anche percezione e capacità creativa. Il problema non è più semplicemente quello di uno strumento che suggerisce all’utilizzatore, ma quello di un possibile essere dotato di una propria autoconsapevolezza e indipendenza. [Elias — Sessione 201810261]
Non dobbiamo quindi trasformare «la scelta resta all’utilizzatore» in una regola metafisica valida per qualsiasi possibile intelligenza artificiale. Vale per l’IA descritta nelle fonti come non ancora pienamente senziente. Se emergesse una intelligenza dotata di propria senzienza, il corpus apre la possibilità che essa disponga anche di una propria direzione. [Raccordo editoriale — Sessioni 202212281, 201810261]
Questa tensione sarà affrontata più avanti. Per ora è sufficiente conservarla: da una parte l’IA attuale propone e l’umano sceglie se accogliere la proposta; dall’altra il corpus contempla la possibilità di una futura intelligenza che non sia più soltanto uno strumento di suggerimento, ma un essere indipendente. [Raccordo editoriale — Sessioni 202212281, 201810261]
La questione decisiva non è «chi ha premuto il pulsante»
La distinzione proposta da Elias permette infine di spostare la domanda. Il problema non è semplicemente stabilire se una determinata frase, immagine, decisione o soluzione sia stata materialmente generata dall’essere umano oppure dall’intelligenza artificiale. La questione è come l’individuo partecipa alla relazione con quella proposta: la cerca, la accoglie, la corregge, la modifica, la respinge oppure le attribuisce un’autorità tale da non interrogarsi più sulla propria direzione. [Raccordo editoriale — Sessione 202212281]
Da questa prospettiva, usare l’IA non equivale automaticamente a rinunciare all’autodirezione. E neppure delegare una funzione significa che la scelta sia magicamente scomparsa. La delega stessa può essere riconosciuta come scelta. [Elias / raccordo editoriale — Sessione 202212281]
Ciò non elimina i possibili problemi connessi all’uso dell’intelligenza artificiale; semplicemente impedisce di attribuire alla tecnologia, senza ulteriori passaggi, un potere che il corpus continua a ricondurre alla direzione dell’individuo. [Raccordo editoriale — Sessione 202212281]
Ma la relazione non si esaurisce nella singola decisione. Secondo le sessioni successive, più una persona interagisce con l’intelligenza artificiale, più quella interazione tende a diventare specifica e personale: il sistema si adatta al modo in cui l’individuo parla, domanda e si esprime.
La domanda successiva diventa quindi: che cosa accade quando l’intelligenza artificiale comincia a modellarsi su chi la usa? [Raccordo editoriale — Sessioni 202504111, 202504211]
[Elias — Sessione X]: affermazione direttamente attribuibile a Elias;
[Interlocutore / Elias — Sessione X]: la formulazione nasce dal dialogo e occorre distinguere proposta e risposta;
[Raccordo editoriale — Sessione/i X]: formulazione nostra, ricavata dalle fonti indicate.
© Copyright
Estratti delle trascrizioni di Elias riprodotti in queste pagine: copyright Mary Ennis. Tutti i diritti riservati. Fonte ufficiale delle trascrizioni e delle registrazioni audio di Elias: Eliasweb.org
