Martin Rees e' un baronetto inglese, nonche' "astronomo reale" e docente emerito di astrofisica e cosmologia all'Universita' di Cambridge (me ne sono occupato brevemente e , in fondo). Ora leggo che ha co-fondato, insieme al filosofo Huw Price e a Jaan Tallinn, co-fondatore di Skype e fisico teorico, un centro per lo studio dei rischi esistenziali, presso l'Universita' di Cambridge (fra gli "external advisers" segnalo il "nostro" Nick Bostrom). Questo articolo ci informa che "nel suo bestseller Our Final Hour, pubblicato anche in Italia nel 2004 con il titolo Il secolo finale. Perché l'umanità rischia di autodistruggersi nei prossimi cento anni, l'astrofisico britannico sosteneva che la nostra civiltà ha il 50% di possibilità di scomparire dalla faccia della Terra entro la fine di questo secolo. E questo perché l'interdipendenza raggiunta, la vulnerabilità dei sistemi tecnologici, le minacce prodotte da un uso sconsiderato delle biotecnologie, la facile diffusione delle malattie, insieme al rischio del terrorismo internazionale, fanno di quest'epoca la più rischiosa della storia umana."
Da un altro articolo: "Dobbiamo prendere sul serio la possibilità che ci possa essere un momento in cui il 'vaso di Pandora' dell'AGI [ Artificial General Intelligence, o ] si aprirà e che, se non considerato, potrebbe essere disastroso. Non voglio dire che siamo in grado di prevedere con certezza, nessuno è attualmente in grado di farlo, ma questo è il punto! Con così tanto in gioco, abbiamo bisogno di fare un lavoro migliore per comprendere i rischi di tecnologie potenzialmente catastrofiche [...] La filosofia di base è che dovremmo prendere sul serio il fatto che stiamo arrivando al punto in cui le nostre tecnologie sono in grado di minacciare la nostra stessa esistenza - in un modo che, semplicemente, non è mai successo fino ad ora, nella storia umana," afferma Price. "Dovremmo investire un po' delle nostre risorse intellettuali a spostare qualche probabilità verso gli esiti negativi invece che verso quelli positivi [...] Jaan Tallinn è un ingegnere informatico, fondatore di Skype. Ecco cosa dice Price di Tallin: "Egli (Tallinn) ha detto che nei suoi momenti di pessimismo si sentiva di avere più probabilità di morire per un incidente relativo all'intelligenza artificiale che da cancro o malattie cardiache. Ero affascinato dal fatto che una persona con i piedi così ben saldi a terra nel settore prendesse questo come un problema serio, e sono stato colpito dal suo impegno nel voler fare qualcosa a riguardo."
Qualche altro link: il sito del Cambridge Project for Existential Risk; e un articolo della BBC (con tanto di immancabile immagine di Terminator): Risk of robot uprising wiping our human race to be studied.