Il ruolo dell'intelligenza artificiale nall'aprire la strada al postumano e alla singolarita'

Un lettore mi ha rivolto una domanda, in un commento ad un post dedicato ad una recente pietra miliare dell'Intelligenza Artificiale (Watson ha vinto a Jeopardy! Domani lavorera' in un call centre). Rispondo qui, invece che nei commenti, per dare il giusto risalto alle questioni sollevate.
La domanda:

Kurzweil (o altri autori importanti) considerano l'avvento di un'intelligenza artificiale forte come condizione necessaria per lo sviluppo di un mondo con altre caratteristiche postumane come la semi-immortalità, spazi di realtà virtuale immersiva, nanotecnologia avanzata e simili? Oppure secondo Kurzweil la IA forte è solo parte di questo scenario e lo scenario stesso, con le altre caratteristiche, potrebbe verificarsi anche senza l' "apporto" dell'IA?
Sintetizzando, quale delle 2 è corretta: 
IPOTESI A) l'intelligenza artificiale creerà, o aiuterà a creare, il mondo postumano;
IPOTESI B) l'intelligenza artificiale sarà una delle tante implicazioni del mondo postumano (con le tecnologie longeviste, realtà virtuale, eccetera), e tali implicazioni potrebbero anche vedere la luce senza necessariamente una IA forte.

Non c'e' dubbio che l'intelligenza artificiale sia vista da molti autori di area transumanista, probabilmente una maggioranza, come uno dei settore piu' importanti nella spinta verso il postumano, se non come il settore piu' importante. Sicuramente un Kurzweil o un Singularity Institute sono fra coloro che condividono tale ipotesi. Direi quindi che l'Ipotesi A del nostro lettore sia quella piu' generalmente accettata, ma si noti che queste conclusioni sono tutt'altro che scientifiche e si basano solamente sulle impressioni di un umile blogger...
Detto questo, non credo che neanche un Kurzweil negherebbe quanto segue. Non dimentichiamo che altri sviluppi stanno gia' spingendo verso il postumano e che potrebbero essere loro i primi a tagliare il traguardo. Naturalmente, molto dipende da cosa si intende esattamente per "postumano". Se, per esempio, la SENS Foundation ottenesse uno spettacolare breakthrough che catapultasse le aspettative di vita media al di sopra sopra dei 122 anni del record di Jeanne Calment, potremmo a quel punto definirci postumani? O il tutto sarebbe considerato parte del normale progresso medico e non degno di cambiare la nostra classificazione tassonomica? E' questione di numeri, sospetto. A che punto, in una vita senza di data di scadenza, saremo considerati postumani? A 200 anni? A 500?
Inoltre, molto dipende anche da cosa si intende per Intelligenza Artificiale. Sistemi di IA debole potrebbero portarci ben oltre i confini del semplicemente umano, ma saremmo ancora in grado di comprendere gran parte di quanto essi faranno e di quanto, e come, penseranno. Il confine successivo sarebbe quello battezzato da Vernor Vinge singolarita' tecnologica, un'era dominata dalle IA forti le cui azioni e motivazioni sarebbero in linea di massima incomprensibili ad un essere umano (o quantomeno ad un essere umano non cognitivamente potenziato).
Tenendo a mente tutto cio', la mia impressione e' che l'IA sia una componente indispensabile dell'accelerazione del progresso, ma che il postumano non sarebbe irraggiungibile senza di essa. In altre parole, potremmo godere di aspettative di vita molto superiori a quelle odierne e di qualche forma di "superpoteri" anche se il progresso nel settore dell'IA si fermasse completamente ai livelli odierni. Naturalmente, pero', il tutto richiederebbe molto piu' tempo e potrebbe realizzarsi solo a beneficio di generazioni future... L'indispensabilita' dell'IA forte entra forse in gioco se vogliamo mettere questi e altri, molto piu' ambiziosi, obiettivi, nelle mani delle generazioni correnti.
In conclusione: penso sia meglio fare una distinzione fra l'era del postumano e la singolarita'. La prima, a seconda delle definizioni, e' ormai dietro l'angolo, o e' persino gia' iniziata, grazie (anche) al contributo dei sistemi di IA debole gia' oggi a nostra disposizione (Ipotesi B). Ma la seconda, per definizione, richiede l'arrivo dell'IA forte (Ipotesi A).
Immagine: I failed the Turing test
PS: questo post appare ('automaticamente') mentre sono in vacanza e off-line (volontariamente). Scusate se le mie risposte ad eventuali commenti arriveranno con un certo ritardo...