Dieci ragioni per temere la singolarita' tecnologica

Il recente Superintelligence di Nick Bostrom e' stato la scintilla che ha dato fuoco al piu' recente dibattito su I.A. e dintorni gia' segnalato qui, qui e qui. Ma Bostrom non e' certo il primo a lanciare l'allarme sui pericoli di un'esplosione di intelligenza incontrollata e questo e' un altro esempio, pubblicato da SingularityWeblog nel 2012: Top 10 Reasons We Should Fear The Singularity. Me occupo ora perche' questo tema e' in voga... e perche' l'articolo e' stato accompagnato dall'infografica qui a fianco (la vedete meglio qui).
Ecco i 10 rischi identificati (riassumo brutalmente e commento):
1. Estinzione. Una superintelligenza ostile decide che siamo un ostacolo e ci dichiara guerra. Scegliete voi lo scenario: Terminator, piaga bio/nanotecnologica, etc.
2. Schiavitu'. Ma fosse davvero super, questa superintelligenza, che bisogno avrebbe di schiavi umani?
3. Terza Guerra Mondiale. Intelligenze Artificiali contro Homo sapiens, o fra coloro che intendono svilupparle e chi vi si oppone, o Cosmisti contro Terrestri, per usare la terminologia di Hugo de Garis.
4. Collasso economico. Automatizzazione totale di produzione e servizi, disoccupazione, crollo della domanda...
5. Grande Fratello. La superintelligenza come monarca assoluto, onnipotente e onnipresente. Benevole? Se saremo fortunati, ma addio liberta'...
6. Alienazione e perdita della nostra umanita'. Il mergerci con la tecnologia ci rende postumani, ma al costo di alienazione (saremo talmente diversi gli uni dagli altri da non riuscire a rapportarci), e di perdita di quelle caratteristiche che oggi apprezziamo.
7. Catastrofe ambientale. Grey goo? E' uno scenario che lo stesso Drexler ha da tempo dichiarato obsoleto, ma Bostrom (e altri) ne hanno previsto uno piu' surrealmente pericoloso: quello di un pianeta Terra senza vita e ridotto ad una enorma fabbrica di graffette (!) Inoltre: una volta sfuggiti alla morsa di Madre Natura, perderemo interesse nell'equilibrio ecologico intorno a noi?
8. Perdita di informazioni/conoscenza. La nostra digitizzazione potrebbe risultare nella perdita di tradizioni, linguaggi, etc. E/o potremmo dimenticare di vivere in una simulazione: prigionieri nella caverna di Platone...
9. Computronium e Cervelli Matrioshka. Non ho ben chiaro perche' questo dovrebbe essere uno scenario da temere secondo l'autore. Piu' che altro direi che aprirebbe la strada, potenzialmente, ad uno o piu' degli scenari piu' sopra.
10. Paura del cambiamento. Una singolarita' tecnologica comporterebbe, inevitabilmente, una serie di drastici cambiamenti. Dato che la nostra stessa sopravvivenza sarebbe sul tavolo, forse non sarebbe irrazionale temere il suo arrivo....