Eugene Goostman, il chatbot che ingannò solo i giornalisti

7 Giugno 2014, all’Università di Reading presso la Royal Society di Londra si grida di gioia perché Eugene Goostman è “il primo supercomputer ad aver superato il Test di Turing”, proprio in occasione del sessantesimo anniversario della morte di Alan Turing.
Andiamo con calma però, che cosa sono il Test di Turing ed Eugene Goostman? E soprattutto, davvero questo grande passo è avvenuto?

Negli anni ’50 nell’articolo Computing machinery and intelligence il professore e pioniere dell’informatica Alan Turing ipotizzò che intorno al 2000 si sarebbe riusciti a creare una macchina che potesse pensare e parlare in maniera simile ad un essere umano. Per dimostrare l’intelligenza della macchina si sarebbe dovuto fare un “gioco dell’imitazione”: una persona avrebbe dovuto dialogare scrivendo tramite un terminale con un altro individuo e con un computer, e se non fosse riuscita a distinguere la persona vera dal computer il test si sarebbe considerato superato. Dato l’enorme progresso tecnologico che vi è stato in questi cinquant’anni nell’informatica il test ha subito delle variazioni atte a renderlo utilizzabile anche per le nuove IA; già nel 1966 infatti venne creato ELIZA, un chatbot che aveva messo alla luce le debolezze del Test di Turing rispondendo all’utente con domande ottenute dalla riformulazione delle affermazioni dell’utente stesso.
Ma che cos’è un chatbot? Un chatbot è un software progettato per simulare una conversazione intelligente con esseri umani tramite l’uso della voce o del testo, in parole semplici un programma che permette all’utente di chiacchierare con il computer. In genere questi programmi funzionano mediante la captazione di parole chiave nelle frasi digitate dall’utente e sulla conseguente ricerca di una risposta adatta al contesto di quelle parole; sono spesso anche provvisti di un sistema di apprendimento che immagazzina le frasi digitate dall’utente e tenta di riutilizzarle in conversazioni successive. Ad oggi sono stati rilasciati molti software di questo genere, oltre al già citato ELIZA troviamo ALICE, Cleverbot e sistemi ibridi come Siri nelle apparecchiature mobile di Apple.

Lo Eugene Goostman di cui si parla tanto in questi giorni non è altro che un chatbot progettato da un gruppo di programmatori russi che, a detta di alcuni “esperti”, sembrerebbe aver superato il test. Subito la notizia ha fatto grande scalpore, orde di giornali affamati di notizie si sono buttati a capofitto per pubblicare un articolo su questo grande evento, su questa pietra miliare nel progresso del misterioso mondo dell’informatica. Ma la fretta è portatrice di cattivi consigli e l’ignoranza in campo informatico propria di molti giornalisti non ha certo aiutato. Leggiamo così su testate importanti che un “Supercomputer supera il Test di Turing” e che il 33% degli esperti partecipanti al test si è fatta fregare dalle capacità comunicative di questo supercomputer, mentre un altro giornale ha addirittura pubblicato uno sbalorditivo estratto che dimostrerebbe l’intelligenza di Eugene.
Sarcasmo a parte, analizzando la questione un po’ più a fondo infatti ci si rende conto di quanto questa notizia non sia stata altro che una bomba mediatica generata da una bufala ben architettata. Innanzitutto Eugene non è un supercomputer ma un software, che di tangibile non ha nulla a differenza del primo. In secondo luogo è assolutamente discutibile il superamento del test: l’affermazione secondo la quale “se un computer viene scambiato per un essere umano più del 30% del tempo durante una serie di conversazioni via tastiera di cinque minuti, allora supera il test” non appartiene a Turing;  egli invece aveva detto che “un esaminatore medio non avrebbe più del 70% di probabilità di fare un’identificazione corretta dopo cinque minuti di domande” entro il 2000, ma questo non c’entra nulla con la soglia di superamento del test di cui si è parlato prima. Eugene viene anche descritto ai giudici come “un bambino di 13 anni di origini ucraine” per tentare di giustificarne gli errori grammaticali e le frequenti frasi sconnesse, nonché per spingere gli esaminatori a non porre domande avanzate di cultura o etica. In aggiunta il software risponde “Parliamo di qualcos’altro” ai quesiti cui non riesce a trovare una risposta, dimostrando pura elaborazione meccanica più che intelligenza ed esibendo debolezze che altri chatbot affrontano in maniera più performante. Lo stesso Cleverbot tre anni fa aveva convinto il 57% degli esaminatori di essere umano, risultato che fa impallidire il 33% di Eugene, spacciato per qualcosa di incredibile dai giornali. Dietro l’intera operazione inoltre sembra esserci il professor Kevin Warwick, personaggio non estraneo a notizie sensazionaliste rivelatesi poi false o comunque manipolate in maniera da generare scalpore.

Una questione poi interessante è se si possa considerare un chatbot come un’intelligenza artificiale a tutti gli effetti o meno. Il regista Spike Jonze ha provato a mostrare un ipotetico futuro di questi programmi nel recente film Her dove un chatbot molto avanzato di nome Samantha fa innamorare il protagonista umano Theodore, interpretato da Joacquin Phoenix. Per quanto certe sue caratteristiche siano decisamente fantascientifiche, si denota perfettamente il limite dei chatbot: questi software infatti non sono in grado di fare ragionamenti autonomi ma piuttosto collegamenti logici pre-programmati e, anche nei casi in cui vengano dotati di un sistema di apprendimento di vocaboli nuovi, non è possibile che sviluppino un pensiero libero perché avranno sempre bisogno di un input da parte dell’utente per poter adempire al loro unico scopo, cioè rispondere.
Discorso completamente diverso invece per il genere di intelligenze artificiali che, per esempio, si incontrano nel celebre videogioco del 2000, Deus Ex: in un distopico futuro troviamo Dedalus, un’IA che si è auto-generata dall’insieme di tutte le informazioni che gli utenti di Internet hanno messo in rete, diventando una sorta di impersonificazione della rete stessa. Per quanto possa sembrare assurda l’idea contiene spunti interessanti: la quantità di dati che viene immessa nel World Wide Web ogni secondo è enorme e non è da escludere che un’eventuale IA dotata dei giusti strumenti possa raggiungere un pensiero autonomo grazie a tutte le informazioni che riceverebbe trovandosi nella situazione di Dedalus; pensiamo ad esempio ai software usati nei grandi sistemi di spionaggio di oggi e del passato (ECHELON e PRISM). Bisogna dunque considerare attentamente quali software hanno le potenzialità di diventare IA dotate di pensiero autonomo e quali invece no.

È infine importante capire che oggi il Test di Turing potrebbe non essere più uno strumento sufficentemente affidabile per valutare questa capacità. Senza andare a parare su qualcosa di prettamente fantascientifico come il test Voigt-Kampff presente in Blade Runner di Ridley Scott, dove il test consiste in un interrogatorio per distinguere un replicante da un umano, è necessario che la comunità degli informatici che si occupano di intelligenze artificiali aggiornino in maniera ufficiale i criteri con i quali esse vengono testate. È quasi paradossale che in un campo che per natura è all’avanguardia come l’informatica si utilizzino ancora test vecchi più di cinquant’anni. Non c’è poi da sorprendersi quando vengono alla luce bufale come quella del piuttosto mediocre chatbot Eugene Goostman.

A cura di Tomass T. Vadi con la collaborazione di Lorenzo Plini