Intelligenza Artificiale: la superintelligenza porta alla superbenevolenza?

Le Intelligenze Artificiali di domani, dotate di capacita' intellettuali superiori a quelle umane, saranno nostri amici o nostri nemici? Si dimostreranno ostili o benevolenti, nei nostri confronti? Ovviamente, non e' possibile rispondere a questa domanda con certezza (ne abbiamo parlato, recentemente, in questo post e nei relativi commenti). La presentazione nei video qui sotto viene da ECAP 2010 (l'ottava Conference on Computing and Philosophy, recentemente tenutasi a Monaco di Baviera) e secondo i relatori Joshua Fox e Carl Shulman (del Singularity Institute) la "superintelligenza non implica la benevolenza", una prospettiva tutt'altro che allettante, ma non abbandoniamo ogni speranza... Gli autori concludono che la benevolenza, di future I.A. verso gli esseri umani, puo' essere inculcata in esse punendo certi comportamenti e premiandone altri (nel corso del loro sviluppo). Dovrebbe quindi essere possibile fare in modo che tale benevolenza resti parte del patrimonio di un'I.A. "debole" che in seguito si sviluppi in una "forte". Infine, se dei "valori benevolenti" saranno parte intrinseca (built-in) di una I.A., essa li proteggera' (cioe', non li modifichera'). Ma, fanno notare gli autori, se un'I.A. progredira' troppo rapidamente e se tali valori non saranno stati built-in, la superintelligenza, di per se', non garantira' la sua benevolenza nei nostri confronti. Hat-tip a Accelerating Future.