Robot sull’orlo di una crisi di nervi

di Umberto Scopa. Il rapporto tra l’uomo e l’intelligenza artificiale da lui sviluppata in forme sempre più evolute è certamente uno dei temi che la letteratura di fantascienza ha indagato con maggiore interesse. La mia inettitudine col computer, mi relega senza dubbio a forma di intelligenza meno evoluta, benché naturale, e all’intelligenza artificiale mi avvicino un po’ come uno degli ominidi della scena iniziale del film  “2001 Odissea nello spazio” quando scoprono il misterioso monolite. Ma proprio come loro provo una curiosità che non mi lascia indifferente all’oggetto misterioso e smuove delle domande e delle ipotesi che vale la pena esplorare.

Quando si parla di intelligenza artificiale, cioè di un’intelligenza che discende dall’uomo che l’ha prodotta, è opinione comune che questa intelligenza artificiale debba essere asservita al suo creatore. Tuttavia c’è chi ha immaginato che la discendenza sia anche la fonte di produzione di nuove entità più evolute e quindi destinate prima o poi a prendere il sopravvento su quelle da cui discendono.

La prima forma di intelligenza artificiale che ricordo di aver conosciuto nelle mie letture è la figura del robot. La parola “robot”, come molti sanno, viene dalla lingua Ceca ed è stata introdotta proprio da Isaac Asimov. Robot, che in ceco significa “lavoratore”,  richiama i concetti di strumento e di asservimento. Ma vale la pena notare come nei romanzi di Asimov questa condizione strumentale, o di asservimento, sia solo la fase iniziale della vita del robot. Infatti, nello sviluppo delle narrazioni, spesso i robot iniziano inevitabilmente un percorso che li porta all’emancipazione, e infine a cercare di stabilire un rapporto di dominio e di guida verso tutta l’umanità. Preoccupante o consolante che sia, questa idea non è presente solo nella narrativa di Asimov, che pure è il primo e più autorevole fondatore della fantascienza robotica. Se qualcuno ricorda il film Metropolis può cercare di mettere a fuoco il primo robot apparso nella storia del cinema, che è un robot donna. Un po’ la mamma di tutti i robot per intenderci. Questo robot –nella storia che il film racconta- diventerà una specie di capopopolo che guiderà la popolazione schiavizzata verso una rivolta cruenta che l’ideologia del film sembra demonizzare. Ovviamente il film va contestualizzato, dato che appartiene ad un’epoca dominata dalla questione operaia e da violenti scontri di classe.

Insomma, la prima occasione offerta ad un robot donna di guidare l’umanità fallisce miseramente, e non so se il gentil stesso artificiale abbia avuto poi altre occasioni.

I robot immaginati dallo scrittore Isaac Asimov, di poco successivi, diventano guide a loro volta, ma la cosa più interessante è il modo in cui ciò avviene. La causa è infatti un perverso e paradossale scherzo della prima delle tre leggi della robotica, sulle quali vale la pena di spendere qualche parola. Non c’è fantascienza in materia di robotica (e neppure scienza in materia) che non recepisca le famose tre leggi ideate da Asimov. La prima legge della robotica esprime il dovere del robot di proteggere l’essere umano. Proteggere è il fine supremo, ed è posto al di sopra del dovere di mera ubbidienza all’essere umano (2° legge) e del dovere del robot stesso di auto-proteggersi (3° legge).

La costruzione sembra perfetta perché le tre leggi sono in ordine gerarchico. Significa che il robot ha l’istinto di difendere se stesso, ma non se questo comporta la disubbidienza all’ordine di un essere umano, che così si garantisce il controllo sul robot. Inoltre il robot deve obbedire all’essere umano, ma non se questo comporta la violazione del dovere di proteggere gli esseri umani e questo mette al sicuro dal pericolo che un uomo possa ordinare al robot di uccidere altri uomini.

Il paradosso sorge quando il robot si rende conto che per osservare la prima e suprema legge della robotica, cioè proteggere l’uomo, può essere necessario uccidere: pensate al caso in cui uccidere una vita può servire a salvarne altre. Il robot si trova ad essere arbitro, in questi casi, della vita e della morte, padrone di decidere l’ordine dei sacrifici. Lui che era stato creato solo per proteggere la vita umana. La legge concepita per proteggere l’uomo si ritorce contro l’uomo stesso, perché l’uomo ha perso anche il potere di decidere sul suo destino. E il robot concepito solo per eseguire, si trova a decidere, ad esprimere una volontà di cui è unico padrone. Perché l’uomo gli ha chiesto protezione creandolo, e ora solo lui, il robot, può decidere come proteggerlo. E questo ci porta all’attualità drammatica della nostra epoca. Un mondo dove il fine di protezione dichiarato dagli uomini sempre più spesso divora se stesso. Dove si giustifica il crimine per combattere il crimine. Un mondo dove gli stati conducono guerre che i loro popoli non vogliono combattere, perché chi è delegato alla guida del paese quando si tratta di guerre (e non solo) non accetta più di rimettersi alla volontà del popolo sovrano, ma pretende di essere unico depositario di saggezza e decide anche contro la volontà del popolo. Stiamo parlando, fuori di metafora, dei nostri giorni.

Ormai noi abbiamo delegato il compito di decidere. E un secolo prima Asimov aveva immaginato un’umanità talmente sfiduciata in se stessa, da aver delegato ai robot il compito di proteggerla.

Il rapporto tra umanità e intelligenza artificiale è esplorato sotto un punto di vista differente, ma non meno interessante, dallo scrittore Philip Dick. Dick immagina che l’evoluzione dell’intelligenza artificiale porti alla diffusione di esseri che non è più possibile distinguere dagli esseri umani, un po’ perché gli esseri umani diventano sempre più simili alle macchine e un po’ perché le macchine diventano sempre più simili agli esseri umani.

I replicanti di Philip Dick (per chi non avesse letto questo autore si può dire anche i replicanti di Blade Runner) non hanno il problema di liberarsi dalla schiavitù, o di assumere un ruolo guida verso coloro che li hanno creati, hanno più che altro il problema di integrarsi nella comunità umana come può averlo una minoranza discriminata. I replicanti hanno una coscienza, si chiedono chi sono veramente, da dove vengono, dove vanno, cos’è la vita, la morte. I replicanti di Blade Runner hanno paura di morire. Ed è in questa fase che diventano umani. Amano la vita, e come ogni essere che la ami veramente, hanno paura di averla tradita, di aver agito male. Sono umani nella stessa misura in cui non lo sono gli uomini cui abbiamo delegato oggi le sorti del mondo.

Featured image Stanley Kubrick for LOOK, fonte Wikipedia.

Tagged as: Cultura, digital journalism, Giornalismo online, opinioni online, philip dick, robot, Rosebud - Giornalismo online, saggi

Categorised in: 968, Narrativa e Poesia, Tutti gli articoli