Circa 30 anni or sono, Joseph Weizenbaum, docente di computer science al celebre MIT di Boston, realizzava un programma di nome ELIZA.
E' questo il nome della protagonista del "Pigmalione" di G.B.Shaw; nella famosa commedia, l'incolta e rozza fioraia Eliza impara ad esprimersi in modo forbito, cosi' che, alla fine, nessuno e' in grado di immaginare le sue vere origini.
Analogamente, il programma ideato da Weizenbaum consente ad un computer di sostenere una conversazione in modo tale da poter essere scambiato per una persona.
A distanza di anni, si puo' ancora apprezzare la genialita' di questo programma e il suo intento provocatorio nei riguardi dell'intelligenza delle macchine.
E' possibile che un computer sostenga una conversazione con un interlocutore umano riuscendo a mascherare la propria natura?
In altri termini, puo' una macchina dare risposte plausibili, pur senza capire cio' di cui si parla?
C'e' da dire che il rapporto tra capire e rispondere in modo plausibile non e' netto come potrebbe sembrare. Si pensi, ad esempio, ad una conversazione tra piu' persone, una delle quali non e' interessata al discorso ma non vuole darlo a vedere. Essa puo' celare la sua mancanza di attenzione interloquendo di tanto in tanto con frasi non compromettenti, quali "interessante...", "veramente?...", o ripetendo meccanicamente parti di frasi pronunciate da altri. Con una certa abilita', questa tecnica puo' essere applicata con successo, anche se ovviamente ha dei limiti.
In effetti, perche' un computer possa sostenere una conversazione senza smascherarsi come tale dopo poche battute, occorre che soddisfi tre requisiti generali.
Il primo e' che ci si possa rivolgere ad esso in linguaggio naturale, nello stesso modo cioe' con cui si parlerebbe ad una persona, senza limitazioni lessicali o sintattiche.
Il secondo e' che gli interventi del computer siano formalmente coerenti col tema della conversazione.
Il terzo e' che il computer dia risposte equivalenti a fronte di una medesima domanda, anche se questa e' formulata in modo diverso.
Per realizzare l'ambizioso obiettivo di far conversare un computer in modo plausibile, e' ovviamente opportuno delimitare l'ambito del dialogo.
Nel suo esperimento, Weizenbaum scelse come ambito lo studio di uno psicoterapista, in cui il dottore (di scuola rogeriana) e' il computer, ossia ELIZA, e il paziente e' l'uomo.
Questa scelta di Weizenbaum non era priva di malizia; c'era, infatti, da parte sua l'intenzione di prendere in giro certe pratiche psicologiche, mostrando come il dottore potesse essere sostituito da una macchina.
In effetti, il programma costruito da Weizenbaum risulto' cosi' ben congegnato da dare l'impressione che la macchina capisse realmente cio' che diceva il suo interlocutore. Per rendersene conto, riportiamo un brano estratto da una effettiva conversazione con ELIZA:
- SALVE, IO SONO ELIZA E TU COME TI CHIAMI? - Rosy. - ALLORA ROSY. CHE PROBLEMI HAI? - Gli uomini sono tutti uguali. - SPIEGATI MEGLIO - Ci stanno sempre a seccare per una cosa o per l'altra. - PUOI FARMI UN ESEMPIO SPECIFICO? - Ecco, il mio ragazzo mi ha detto di venire qui. - VEDO - Dice che io sono depressa. - MI DISPIACE SENTIRE CHE SEI DEPRESSA - E' vero, io sono infelice. - PENSI CHE VENIRE QUI TI AIUTERA' A NON SENTIRTI INFELICE? - Io ho bisogno di aiuto, questo e' certo. - COSA SIGNIFICA PER TE AVERE AIUTO? - Forse poteri imparare ad andare d'accordo con mia madre. - DIMMI QUALCOSA DI PIU' SULLA TUA FAMIGLIA - Mia madre si interessa ai miei problemi. - CHI ALTRI NELLA TUA FAMIGLIA SI INTERESSA AI TUOI PROBLEMI? - Mio padre. - TUO PADRE - Tu somigli molto a mio padre. - CHE RASSOMIGLIANZA VEDI? - Non sei aggressiva. - COSA TI FA PENSARE CHE IO NON SIA AGGRESSIVA? - Tu non discuti con me. - PER QUALE RAGIONE RITIENI CHE IO NON DISCUTA CON TE? - Perche' tu sei solo una macchina. - ROSY, SIAMO QUI PER PARLARE DI TE, NON DI ME - Va bene, allora sappi che io faccio brutti sogni. - COSA TI CAPITA IN QUESTI SOGNI? - non riesco a gridare. - DAVVERO? - ..................... - .....................A prima vista, nessuno direbbe che uno dei due interlocutori e' un computer. Ma come e' possibile che una macchina possa mascherare tanto bene la propria identita'?
Il procedimento con cui ELIZA costruisce le sue risposte di puo' riassumere nel modo seguente:
- Ogni frase dell'interlocutore umano (il "paziente") viene analizzata per cercare una parola (o locuzione) chiave. Un certo numero di tali parole, opportunamente scelte, e' previsto nel programma. Possono evidentemente verificarsi due possibilita': la frase del paziente contiene una o piu' parole chiave, oppure non ne contiene nessuna.
- Nel primo caso, il programma seleziona una delle parole chiave (in base a criteri fissati di priorita') e associa a tale parola una risposta preconfezionata. In effetti, per ogni parola chiave non e' prevista una sola risposta, ma un gruppo di risposte equivalenti; tra queste il programma estrae via via la risposta da dare.
- Un ulteriore (ed efficacissimo) accorgimento consiste nell'inglobare nella risposta una porzione della frase del paziente. Cio' richiede che il programma selezioni secondo certi criteri la frase sottopostagli, ne estragga una parte e la coniughi opportunamente prima di "montarla" nella frase di risposta.
- Nel caso non ci sia alcuna parola chiave nella frase del paziente, viene data una risposta interlocutoria, del tipo: "Spiegati meglio", "Davvero?", "Prosegui", ecc. Risposte di questo tipo possono sempre entrare in una conversazione, purche' non troppo spesso. Percio', di tanto in tanto, il programma introduce qualcosa di diverso e cioe' una espressione del tipo "Prima tu hai detto che..." seguita da una frase pronunciata in precedenza dal paziente.
Per meglio capire il meccanismo di "smontaggio" e "rimontaggio" ora descritto, facciamo un esempio.
Si prenda in esame la frase "Io sono molto preoccupato in questi giorni". Supponiamo che uno straniero con una limitata conoscenza dell'italiano ma con buon orecchio, abbia sentito pronunciare questa frase ma abbia capito solo le prime due parole (Io sono). Desiderando sembrare interessato, egli puo' rispondere: "Perche' lei e' molto preoccupato in questi giorni?".
Cio' che egli ha fatto e' stato di applicare alla frase originaria una "maschera", una parte della quale coincide con le parole "Io sono", mentre l'altra isola cio' che viene dopo.
Egli deve avere anche un criterio di rimontaggio associato specificatamente a questa maschera, il quale prescrive che ogni frase della forma "Io sono BLABLA" venga trasformata in "Perche' lei e' BLABLA?", qualunque sia il significato di BLABLA.
Un esempio un po' piu' complicato e' dato dalla frase: "Tutto sommato, credo che tu mi sia simpatico". Ora lo straniero afferra la locuzione "credo che", nonche' il fatto che nel BLABLA che segue ci sono dei pronomi e dei verbi. Egli applica una maschera che scompone la frase ancora in due parti:
La regola di rimontaggio puo' essere allora la seguente:
- Tutto sommato, credo che
- tu mi sia simpatico
- associare alla parte 1. una frase di uso generale come, ad esempio, "Ritieni davvero che";
- coniugare a rovescio pronomi e verbi contenuti nella parte 2.;
- attaccare la parte 2. cosi' modificata, con un punto interrogativo finale.
La risposta diventa quindi: "Ritieni davvero che io ti sia simpatico?".
Come si vede, una risposta perfettamente a tono, anche se lo straniero non ha, in effetti, capito per niente il significato della frase rivoltagli.
Un meccanismo di questo tipo sta' alla base delle risposte di ELIZA.
Ovviamente la sua efficacia dipende da vari fattori: dalle regole di scomposizione/ricomposizione delle frasi, dalla scelta delle parole chiave, dal repertorio delle frasi di risposta, dalla completezza delle coniugazioni previste.
E' veramente sorprendente come attraverso un meccanismo cosi' semplice (si pensi che l'intero programma ELIZA consta di poche centinaia di righe), una macchina possa tenere conversazioni naturali e credibili, come quelle riportate in precedenza.
Il programma di Weizenbaum venne fatto circolare in diverse universita' americane, suscitando non di rado reazioni sconcertanti, come lo stesso Weizenbaum ebbe poi a raccontare nel suo libro "Computer power and human reasons".
Egli rimase colpito da come persone non sprovvedute si lasciassero coinvolgere dalle conversazioni con ELIZA fino al punto da scordare la sua natura e attribuirle una vera e propria personalita'.
Weizenbaum racconta, ad esempio, come la sua segretaria, pur sapendo che si trattava solo di un programma, comincio' ad avere con esso un rapporto emotivo, al punto da chiedere di essere lasciata sola nella stanza del computer per parlare con ELIZA di argomenti strettamente privati.
Weizenbaum scopri', inoltre, che ELIZA veniva consultata nottetempo da molte persone usando i terminali distribuiti nel campus. Egli ricevette anche delle telefonate da gente che si lamentava delle lunghe attese per accedere al programma, avendo urgenti questioni personali da porre.
Un altro fatto che lo lascio' sconcertato fu che alcuni docenti di psichiatria attribuissero al programma un effettivo valore terapeutico, al punto da proporre che una versione estesa e perfezionata fosse messa a disposizione dei pazienti nelle cliniche per malattie mentali.
A prescindere da facili ironie su certe pratiche psicoterapeutiche, ELIZA offre lo spunto a riflessioni su che cosa realmente debba intendersi per "intelligenza".
ELIZA sembra capire, ma in realta' non capisce affatto. Le sue risposte sono il risultato di un mero automatismo che associa parole chiave a frasi preconfezionate.
Ma quante conversazioni tra persone non sono, in fondo, riducibili a schemi di questo tipo?
I discorsi di ELIZA sono formalmente corretti: pero', a ben vedere, essa non affronta mai l'argomento, e' evasiva, ripropone domande a lei rivolte, divaga.
Anche qui e' fin troppo facile osservare che questa abilita' non e' peculiare della macchina; quante volte ci e' capitato di sentire persone fare lunghi discorsi senza, in realta', dire niente?
Infine, il successo di ELIZA presso i "pazienti" non e' che la conferma del fatto che abbiamo bisogno di qualcuno che ci stia ad ascoltare. Fosse anche una macchina...
Franco Filippazzi, laureato in fisica, e' stato uno dei progettisti del primo elaboratore elettronico italiano ("Elea"). Ha dato contributi originali alla tecnologia dell'elaboratore, descritti in numerosi brevetti e pubblicazioni. Parallelamente all'attivita' industriale, svolge un ruolo attivo nell'ambito culturale, sia con l'insegnamento universitario sia con responsabilita' in associazioni scientifico-tecniche.