Bill Joy sui rischi esistenziali

Bill Joy e' ben conosciuto da queste parti per il suo famoso Why the Future doesn't need us, nel quale ha lanciato l'allarme sui pericoli connessi alle tecnologie emergenti che tante discussioni ha sollevato dentro e fuori il movimento transumanista e che ha, fra l'altro, spinto Ray Kurzweil e Max More a pubblicare due articoli in risposta (qui e qui). Secondo il sottoscritto, Joy commette un fondamentale errore di fondo nella sua analisi (vedi sotto), ma trovo sempre utile e interessante sentire cosa abbia da dire. In questo video (da TED e con sottotitoli in italiano), Joy ci aggiorna sulle sue attivita' e riflessioni dai tempi di Why the Future. Dico subito di trovarmi in accordo con gran parte di quanto dice, ma un paio di sue frasi mi sembrano ben riassumere quello che ritengo essere il suo errore centrale: "...ci troviamo in una situazione del tutto nuova, tutti la definiscono una situazione asimmetrica, in cui la tecnologia e' cosi' potente che si estende oltre la dimensione dello stato-nazione. Non sono gli stati-nazione ad avere un accesso potenziale alle armi di distruzione di massa, ma i singoli individui [...] D'altro canto in questo caso la soluzione non e' accumulare altra tecnologia, perche' servira' solo a rendere piu' potenti gli individui."
Da una parte sono tentato di rispondere che lo scenario intravisto da Joy me ne ricorda un altro che ormai stiamo gestendo, senza eccessiva difficolta', da anni, cioe' quello presentato dall'arrivo dei virus telematici e degli hacker. Certo, un singolo ragazzino smanettone e malintenzionato puo' causare gravi danni dalla sua stanzetta in Minsk, Detroit o Bangalore, ma il web non e' certo crollato. D'altra parte la situazione sembra meno rosea quando e' il proprio computer ad essere irrevocabilmente danneggiato da un virus...
Piu' avanti, nel video, Joy parla del suo coinvolgimento con aziende di venture capital nel finanziare ed incoraggiare l'innovazione tecnologica, di come ritiene che la Legge di Moore abbia ancora molti anni davanti a se' e di come egli preveda che nel 2020 sara' possibile acquistare per dieci dollari un computer equivalente ad uno oggi sul mercato a mille. E di come tutto cio' fornira' strumenti incredibilmente potenti per l'educazione, vista da Joy come uno degli approcci piu' importanti per minimizzare il rischio di future catastrofi. La seconda area su cui Joy si e' concentrato in questi anni e' quella dell'ambiente. Qui Joy trova una fonte di speranza nei nuovi materiali che stanno emergendo dai laboratori e che promettono di ridurre l'inquinamento, di limitare i consumi di energia, etc. Come esempio, Joy cita i nanotubi. La sua terza area di interesse e' quella della "biodifesa" con particolare attenzione alle pandemie e al creare nuove sostanze antivirali, vaccini, infrastrutture di monitoraggio, etc, in grado di contrastarle. Insomma, tutte le iniziative a cui Joy si e' dedicato mirano a stimolare l'innovazione tecnologica allo scopo di prevenire i rischi esistenziali o catastrofici che Madre Natura, o noi stessi, potremmo scatenare. Benissimo. Eppure, alla fine del video Joy ripete: "tutto questo puo' risolvere il problema piu' grande di cui ho parlato nell'articolo di Wired? Mi dispiace ma temo che la risposta sia no, perche' non puoi risolvere un problema di possesso e uso della tecnologia con piu' tecnologia". Sono il solo a notare una certa schizofrenia fra questa frase e il suo evangelismo a favore dell'innovazione tecnologia?
Verso la fine del video arriviamo alle proposte di Joy. In certi casi sara' necessario assicurarsi che alcune informazioni non siano rese facilmente accessibili, come nel caso del genoma del virus dell'influenza spagnola segnalato dallo stesso Joy insieme a Ray Kurzweil in un articolo sul New York Times del 2005. Invece della regolamentazione, Joy suggerisce di sfruttare il potere dei mercati e della legge:
"...i mercati sono una forza molto forte. Per esempio, invece che tentare di risolvere i problemi con la regolamentazione, cosa che con molta probabilita' non funzionerebbe, potremmo dare un prezzo, nei costi connessi con le proprie attivita', al costo della catastrofe, cosi' che chiunque lavora sapendo che la propria attivita' e' ad alto rischio catastrofe sarebbe costretto ad assicurarsi contro questo rischio."
"Oggi gli scienziati, i tecnici, gli uomini d'affari, gli ingegneri non hanno una responsabilita' personale per le conseguenze delle loro azioni, quindi, se si vogliono legare, si deve fare con la legge."
In teoria entrambe le proposte sembrano piu' che ragionevoli. Ma considerando come potrebbero essere applicate, mi sorge il dubbio che senza formidabili salvaguardie degenererebbero rapidamente, sfruttate e deformate da chi intende rallentare il progresso tecnologico in generale. Un po' come e' successo con il principio di precauzione: si presenta come semplice e ragionevole, ma se messo in pratica ha una preoccupante tendenza a trasformarsi in "principio di stagnazione"...
Hat-tip al sempre ottimo Nanodot.