Intelligenza Artificiale: di corsa verso il precipizio

Traduco liberamente l'abstract di una pubblicazione scientifica prodotta dal MIRI. Questo paper presenta un semplice modello di corsa al riarmo fra vari gruppi di ricerca nel settore dell'Intelligenza Artificiale (IA). Assumendo che la prima IA sia molto potente e trasformativa, ogni gruppo e' incentivizzato a raggiungere il traguardo per primo - ignorando le precauzioni, se ritenuto necessario. Il paper presenta l'equilibrio di Nash di tale processo, nel quale ogni gruppo prende le necessarie precauzioni. Piu' gruppi sono in corsa, e piu' si sentono in competizione l'uno con l'altro, piu' aumentano i rischi di una catastrofe, soprattutto se la capacita' dei programmatori di prendere rischi e' vista come piu' utile delle loro capacita' tecniche. Sorprendentemente, piu' ogni gruppo e' a conoscenza delle capacita' degli altri gruppi (e delle proprie), e piu' aumenta il pericolo.
Il paper: Racing to the Precipice: a Model of Artificial Intelligence Development (PDF)