What computer can't do? [1]
Domanda interessante.
Le risposte non sono certamente ovvie e la domanda che in primo luogo mi salta in mente è:
Naturalmente si entra nel campo dell'intelligenza artificiale, ma mi piacerebbe conoscere possibili risposte al quesito, al di fuori del contesto A.I.Possono le macchine pensare?
[1] Dreyfus, H.: What Computers Can't Do. Harper and Row, New York, 1972.
[2] COMPUTING MACHINERY AND INTELLIGENCE by A.M.Turing Traduzione in italiano
Etichette: Artificial Intelligence, computer science
Morocco
2 Comments:
Calcolatori e intelligenza
Di A.M. Turing
IL GIOCO DELL’IMITAZIONE
Mi propongo di considerare la domanda “Le macchine possono pensare?”. Si dovrebbe cominciare col definire il significato dei termini “macchina” e “pensare”. Le definizioni potrebbero essere formulate in modo da riflettere a! massimo grado l’uso normale di queste parole, ma in ciò vi sono dei pericoli. Se il significato delle parole “macchina” e “pensare” è da ricavarsi in base al loro uso comune, è difficile sfuggire alla conclusione che per scoprire il significato e la risposta alla domanda “Le macchine possono pensare?” si debba ricorrere a un’indagine statistica, come può esserlo un sondaggio Gallup. Il che è assurdo. Invece di tentare di dare una definizione del genere, sostituirò quella domanda con un’altra, che è strettamente connessa alla prima ed è espressa con parole relativamente non ambigue.
La nuova forma del problema può essere descritta ricorrendo a un gioco che chiameremo “gioco dell’imitazione”. Vi sono tre giocatori: un uomo (A), una donna (B) e un interrogante (C), che può essere delI’uno o dell’altro sesso. L’interrogante sta in una stanza da solo, separato dagli altri due. Scopo del gioco per l’interrogante è quello di determina re quale delle altre due persone sia l’uomo e quale la donna. Egli Ie conosce tramite le etichette X e Y, e alla fine del gioco dirà “X è A e Y è B”, oppure “X è B e Y è A”. L’interrogante ha facoltà di porre ad A e a B domande del tipo:
C: X, vuole dirmi per favore quanto sono lunghi i suoi capelli?
Ora, supponendo che X sia A, è A che deve rispondere. Scopo di A nel gioco è quello d’ingannare C e d’indurlo a sbagliare l’identificazione. La sua risposta quindi potrebbe essere:
“Ho i capelli pettinati alla maschietta e le ciocche più lunghe sono circa venti centimetri”.
Per evitare che il tono della voce possa aiutare l’interrogante, Ie risposte dovrebbero essere scritte, o meglio ancora battute a macchina. La soluzione migliore sarebbe quella di collegare le due stanze con una telescrivente. Oppure Ie domande e Ie risposte potrebbero essere riportate da un intermediario. Scopo del gioco per ii terzo giocatore (B) è quello di aiutare l’interrogante. Probabilmente la strategia migliore per B, cioè per Ia donna, è di dare risposte veritiere. Essa può aggiungere alle sue risposte frasi del tipo: “Sono io la donna, non dargli ascolto!”; ma ciò non approderà a nulla, dato che anche l’uomo può fare osservazioni analoghe.
Ora chiediamoci: “Che cosa accadrà se in questo gioco una macchina prenderà il posto di A?”. L’interrogante sbaglierà altrettanto spesso in questo caso di quando il gioco è effettuato fra un uomo e una donna? Queste domande sostituiscono la nostra domanda originaria “Le macchine possono pensare?”. •
CRITICA DEL NUOVO PROBLEMA
Oltre a chiedere: “Qual è la risposta alla domanda in questa sua nuova formulazione?”, si può anche chiedere: “Vale la pena indagare su questo nuovo problema?”. Ci occuperemo senz’altro indugio di quest’ultima domanda, interrompendo così un regresso all’infinito.
II nuovo problema ha il vantaggio di tracciare una linea di demarcazione abbastanza netta tra le capacità fisiche e quelle intellettuali dell’uomo. Nessun ingegnere o chimico sostiene di poter fabbricare un materiale indistinguibile dalla pelle umana. E possibile che prima o poi forse Ci si riesca ma anche supponendo che questa invenzione sia già stata fatta, dovrebbe esser chiaro che rivestire una “macchina pensante” di questa come artificiale non servirebbe granché a renderla più umana. La forma che abbiamo dato a! problema riflette questo fatto nella condizione che l’interrogante non deve vedere o toccare i suoi compagni di gioco o udirne la voce. Altri vantaggi del criterio proposto possono essere messi in luce attraverso esempi di domande e risposte. Eccone uno:
D.: Per cortesia, mi scriva un sonetto che tratti del Ponte sul Forth [un ponte sul fiordo di Forth, in Scozia].
R.: Non faccia affidamento su di me per questo, non ho mai saputo scrivere poesie.
D.: Sommi 34957 a 70764.
R.: (Pausa di circa 30 secondi e poi la risposta) 105621.
D.: Gioca a scacchi?
R.: Si.
D.: Ho il Re in e1 e nessun altro pezzo. Lei ha solo il Re in c3 e una Torre in h8. Tocca a lei muovere. Che mossa fa?
R.: (Dopo una pausa di 15 secondi) Torre in h1, matto.
Il metodo basato su domanda e risposta sembra essere quello più adatto a consentirci d’introdurre quasi tutti i campi dell’attività umana e desideriamo considerare. Non vogliamo penalizzare la macchina per la sua incapacità di brillare In un concorso di bellezza, né penalizzare l’uomo perché perde una corsa contro un aeroplano. Le condizioni in cui si svolge il nostro gioco rendono non pertinenti questi difetti. I “testimoni”, se lo ritengono opportuno, possono gloriarsi quanto vogliono del loro fascino, della loro forza o del loro eroismo, ma l’interrogante non può pretendere dimostrazioni pratiche.
Il gioco può forse essere criticato sulla base del fatto che è troppo nettamente a sfavore della macchina. Se l’uomo dovesse fingere di essere la macchina, farebbe certamente una ben misera figura. Sarebbe tradito immediatamente dalla sua lentezza e imprecisione nell’aritmetica. Non potrebbe darsi che le macchine si comportino in una maniera che non può non essere descritta come pensiero, ma che è molto differente da quanto fa un essere umano? Questa obiezione è molto forte, ma almeno possiamo dire che, se ciò nonostante si può costruire una macchina in grado di giocare soddisfacentemente il gioco dell’imitazione, non c’è bisogno di preoccuparsene.
Si potrebbe obiettare che, giocando al “gioco dell’imitazione”, Ia strategia migliore per la macchina potrebbe forse non essere l’imitazione del comportamento umano.’ Può anche darsi; ma non credo che si possa dare gran peso a una possibilità del genere. In ogni caso, non è nostra intenzione esaminare qui Ia teoria di questo gioco, e sarà dato per scontato che la strategia migliore per la macchina sia quella di provare a formulare Ie risposte che sarebbero date spontaneamente da un essere umano.
LE MACCHINE AMMESSE AL GIOCO
La domanda che abbiamo posto all’inizio non sarà del tutto definita finché non avremo specificato che cosa intendiamo con il termine “macchina”. Naturalmente noi vogliamo consentire, per la costruzione delle nostre macchine, l’uso di ogni possibile Sorta di tecnica ingegneristica. Desideriamo anche ammettere la possibilità che un ingegnere o un gruppo di ingegneri costruisca una macchina funzionante, ma il cui funzionamento non possa essere descritto in modo soddisfacente dai suoi costruttori perché il metodo da essi impiegato per costruirla è in gran parte empirico. Infine dal novero delle macchine vogliamo escludere gli uomini nati nel modo solito. E difficile formulare le definizioni così da soddisfare queste tre condizioni. Si potrebbe ad esempio pretendere che tutti gli ingegneri del gruppo fossero del medesimo sesso, ma ciò non sarebbe soddisfacente, poiché è probabile che si possa far sviluppare un individuo completo da una sola cellula (della pelle, per esempio) di un uomo. Riuscire a far ciò sarebbe una conquista della tecnica biologica degna del più alto elogio, ma non ci sentiremmo disposti a considerarlo un caso di “costruzione di una macchina pensante”. Questo ci spinge ad abbandonare la richiesta che debbano essere permesse tecniche di ogni genere. Siamo tanto più disposti a questa rinuncia in quanto l’interesse attuale per Ile “macchine pensanti” è stato dcstato da un genere particolare di macchina, chiamato di solito “calcolatore elettronico” o “calcolatore digitale”. Alla luce di questa considerazione, ammetteremo al nostro gioco solo i calcolatori elettronici digitali...
Questa speciale proprietà dei calcolatori digitali di poter imitare qualsiasi macchina a stati discreti viene espressa dicendo che essi sono macchine universali. L’esistenza di macchine dotate di questa proprietà ha una conseguenza importante: a prescindere da considerazioni di velocità, non è necessario progettare macchine sempre diverse per eseguire diversi processi di calcolo. Essi possono essere eseguiti tutti da un solo calcolatore digitale opportunamente programmato per ciascun caso. Vedremo che, in conseguenza di ciò, tutti i calcolatori digitali sono in un certo senso equivalenti.
OPINIONI CONTRARIE SUL PROBLEMA PRINCIPALE
A questo punto possiamo ritenere sgombro il terreno e siamo pronti a iniziare il dibattito sulla nostra domanda “Le macchine possono pensare?”... Non possiamo abbandonare del tutto la formulazione originale del problema, poiché vi saranno opinioni contrastanti quanto alla illegittimità della sostituzione e dobbiamo almeno ascoltare ciò che altri hanno da dire a questo proposito.
Aiuterò il lettore a orientarsi meglio se, per cominciare, gli esporrò le mie convinzioni sulla questione. Consideriamo dapprima la formulazione più precisa della domanda. Io credo che tra una cinquantina d’anni sarà possibile programmare calcolatori aventi una capacità di memoria di circa 109, in modo da farli giocare così bene al gioco dell’imitazione che un interrogante medio avrà una probabilità non superiore al 70% di compiere l’identificazione giusta dopo cinque minuti di interrogatorio. Credo che la domanda iniziale “Le macchine possono pensare?” sia troppo priva di senso per meritare una discussione. Ciò nonostante, credo che alla fine del secolo l’uso delle parole e l’opinione corrente saranno talmente mutati che Si potrà parlare di macchine pensanti senza aspettarsi di essere contraddetti. Credo inoltre che nascondere queste convinzioni non abbia nessuna utilità. L’opinione popolare che gli scienziati procedano in modo inesorabile da un fatto ben stabilito a un altro, senza esser mai influenzati da congetture non dimostrate, è assolutamente sbagliata. Purché sia chiaro quali sono i fatti dimostrati e quali sono le congetture, non può esserci alcun inconveniente. Le congetture hanno una grande importanza, poiché suggeriscono utili linee di ricerca.
Passo ora a considerare alcune opinioni opposte alla mia.
(1) Obiezione teologica. Pensare è una funzione dell’anima immortale dell’uomo. Dio ha dato un’anima immortale a tutti gli uomini e a tutte le donne, ma non agli altri animali o alle macchine. Perciò né gli animali né le macchine sono in grado di pensare.
Non riesco ad accettare neanche una parola di ciò, ma cercherà di rispondere in termini teologici. L’argomento sarebbe a mio parere più convincente se gli animali fossero collocati nella stessa categoria degli uomini, poiché ritengo che vi sia una differenza maggiore tra l’essere animato in genere e l’essere inanimato che non fra l’uomo e gli altri animali. Il carattere arbitrario della concezione ortodossa diventa più chiaro se consideriamo come essa potrebbe apparire a un membro di qualche altra confessione religiosa. Che cosa pensano i cristiani dell’idea musulmana che le donne non hanno anima? Ma lasciamo perdere questo punto e torniamo all’argomento principale. A me sembra che l’argomento riportato sopra implichi una seria limitazione dell’onnipotenza dell’Onnipotente) Pur ammettendo che ci sono certe cose che Egli non può fare, ad esempio rendere uno uguale a due, non dovremmo credere che Egli ha la libertà di dare l’anima a un elefante se lo ritiene opportuno? Potremmo attenderci che Egli. eserciterebbe questo potere solo in concomitanza con una mutazione che desse all’elefante un cervello opportunamente potenziato per prendersi cura di quest’anima. Nel caso delle macchine si può fare un ragionamento di forma esattamente simile. Esso può sembrare diverso perché è più difficile da “mandar giù”, ma in realtà ciò significa soltanto che noi riteniamo meno probabile che Egli giudichi tali circostanze idonee a! conferimento di un’anima. Le circostanze in questione sono discusse nel seguito di questo articolo. Cercare di costruire macchine siffatte non sarà da parte nostra un’empia usurpazione del Suo potere di creare anime più di quanto non lo sia la procreazione dei bambini: in entrambi I casi siamo piuttosto strumenti della Sua volontà, in quanto procuriamo dimore per le anime che Egli crea.
Queste tuttavia sono mere speculazioni. Non mi lascio impressionare molto dagli argomenti teologici, qualunque sia la tesi che vogliono sostenere. Già in passato essi sono spesso risultati insoddisfacenti. All’epoca di Galileo si sosteneva che i versetti “Si fermò il Sole... e non si affrettò a calare quasi un giorno intero” (Giosuè 10, 13) e “Hai fondato la terra sulle sue basi, mai potrà vacillare” (Salmi 104, 5) costituissero una confutazione soddisfacente della teoria copernicana. Alla luce delle conoscenze attuali questo argomento appare inconsistente, ma quando non si disponeva ancora di tali conoscenze, esso faceva un’impressione molto diversa.
1. Forse questa opinione è eretica. San Tommaso d’Aquino (citato da Bertrand Russell in A History of Western Philosophy, New York, Simon and Schuster, 1945, P. 458) afferma che Dio non pub far si che un uomo non abbia l’anima. Ma questa può non essere una limitazione reale della Sua potenza, bensì solo una conseguenza del fatto che l’anima dell’uomo è immortale e quindi indistruttibile.
(2) Obiezione dello “struzzo”. “Se le macchine pensassero, le conseguenze sarebbero terribili; speriamo e crediamo che esse non possano farlo”.
È raro che questo argomento venga espresso in forma così esplicita. Tuttavia, se ci si pensa appena un po’, è quasi inevitabile esserne influenzati. Ci piace credere che, sotto sotto, l’Uomo sia superiore al resto del creato. La cosa migliore sarebbe poter dimostrare che egli è necessariamente superiore, poiché allora non correrebbe nessun pericolo di perdere la sua posizione di comando. La popolarità dell’argomento teologico è chiaramente legata a questa convinzione. È probabile che essa sia molto forte tra gli intellettuali, poiché essi apprezzano più degli altri la facoltà di pensare e sono più inclini a basare su questa facoltà la loro fede nella superiorità dell’Uomo.
Non ritengo questo argomento tanto importante da meritare una confutazione: ha piuttosto bisogno di consolazione, forse da ricercarsi nella metempsicosi.
(3) Obiezione matematica. Vi sono molti risultati della logica matematica che possono essere usati per dimostrare l’esistenza di limitazioni a ciò che le macchine a stati discreti possono fare. Il più noto di questi risultati è conosciuto col nome di teorema di G6del; esso mostra come in qualunque sistema logico sufficientemente potente si possono formulare enunciati non dimostrabili né confutabili all’interno del sistema, a meno che, forse, il sistema stesso non sia incoerente. Altri risultati, simili sotto certi aspetti, sono dovuti a Church, Kleene, Rosser e Turing. Quest’ultimo risultato è quello che si presta meglio a essere esaminato, poiché si riferisce direttamente alle macchine, mentre gli altri possono essere usati solo in un’argomentazione relativamente indiretta:
se vogliamo ad esempio usare il teorema di Gödel dobbiamo anche poter descrivere i sistemi logici in termini di macchine e le macchine in termini di sistemi logici. Il risultato in questione riguarda un tipo di macchina che è in sostanza un calcolatore digitale con capacità infinita; esso asserisce che vi sono certe cose che una tale macchina non può fare. Se è predisposta per rispondere a delle domande, come nel gioco dell’imitazione, vi saranno domande alle quali o risponderà in modo erroneo oppure non risponderà affatto, anche dandole tutto il tempo che si vuole per rispondere. Le domande del genere sono naturalmente molte, e quelle che non ricevono risposta soddisfacente da una macchina possono riceverla da un’altra. Per il momento supponiamo naturalmente che le domande siano del genere cui si può rispondere con un “sì” o con un “no”, e non quelle del tipo:
“Che cosa pensi di Picasso ? ”. Le domande alle quali sappiamo che la macchina non saprà rispondere sono di questo tipo: “Considera la macchina che abbia le seguenti caratteristiche... Questa macchina risponderà mai ‘sì’ a qualche domanda?”. Al posto dei puntini ci dovrà essere la descrizione in forma standard di una qualche macchina... Quando la macchina descritta sta in una qualche relazione abbastanza semplice con la macchina interrogata, si può dimostrare che la risposta o è sbagliata o non viene data. Questo è il risultato matematico: si sostiene che esso dimostra una limitazione delle macchine di cui l’intelletto umano non soffre.
Per rispondere in poche parole a questa argomentazione che, pur essendo stato accertato che qualunque macchina soffre di limitazioni della propria potenza, il fatto che limitazioni di questa sorta non valgano per l’intelletto umano è stato soltanto, ma non suffragato da qualche dimostrazione. Non penso tuttavia che di questa opinione ci si possa sbarazzare in modo così sbrigativo a una di queste macchine si pone la domanda critica appropriata ad essa dà una risposta precisa, sappiamo che questa risposta deve essere erronea, e questo ci dà una certa sensazione di superiorità. questa sensazione? Non c’è dubbio che essa sia genuina, ma che dovremmo attribuirle troppa importanza. Noi stessi diamo spesso risposte sbagliate perché sia giustificato il nostro compiacimento di fronte a questa dimostrazione di fallibilità da parte delle macchine. Inoltre, in queste occasioni, possiamo sentirci superiori solo nei della macchina particolare sulla quale abbiamo riportato il nostro meschino trionfo. Trionfare contemporaneamente su tutte le macchine non sarebbe affatto possibile. In breve, dunque, vi potrebbero essere uomini più intelligenti di una qualsiasi macchina data, ma vi potrebbero essere altre macchine più intelligenti ancora, e così via.
Coloro che sostengono l’argomento matematico sarebbero maggior parte disposti, io credo, ad accettare il gioco dell’imitazione come base per la discussione. Coloro che credono nelle due precedenti non avrebbero probabilmente nessun interesse criterio.
(4) Argomento della coscienza. Questo argomento è stato ottimamente esposto dal professor Jefferson nella Lister Oration del 1949,dalla quale cito: “Fino a quando una macchina non potrà scrivere un sonetto o comporre un concerto in base a pensieri ed emozioni che ha non per giustapposizione casuale di simboli, non potremo accettare che la macchina eguagli il cervello, cioè che non solo scriva ma sappia di aver scritto. Fino a quel momento, nessun meccanismo potrà sentire (e non semplicemente segnalarlo artificialmente, il che sarebbe un facile trucco) piacere per i suoi successi o dolore quando una sua valvola si brucia; ne potrà inorgoglirsi per l’adulazione, deprimersi per i propri errori, essere attratto dal sesso, arrabbiarsi o abbattersi quando non può ottenere ciò che desidera”.
Questo argomento sembra proprio confutare la validità del nostro test. Secondo la versione radicale di questa posizione, l’unico modo per essere sicuri che una macchina pensa è di essere quella macchina e sentirsi pensare. Si potrebbe allora descrivere questa sensazione al mondo, ma naturalmente nessuno sarebbe tenuto a prenderne atto.
Allo stesso modo, secondo questa concezione, l’unica, maniera per sapere che un dato uomo pensa è di essere quell’uomo. Si tratta in effetti della posizione solipsistica. Può essere la concezione più logica da sostenere ma rende difficile la comunicazione delle idee. Si crea questa situazione: A è convinto che “A pensa ma B no”, mentre B crede che “B pensa ma A no ”.
Invece di discutere continuamente su questo punto. Di solito per educazione si adotta la convenzione che tutti pensano.
Sono sicuro che il professor Jefferson non desidera assumere il punto di vista estremo e solipsistico. Probabilmente egli sarebbe dispostissimo ad accettare come test il gioco dell’imitazione. Questo gioco (senza la partecipazione del giocatore B) è usato spesso, e conosciuto col nome di “esame orale”, per scoprire se una persona ha davvero capito una cosa o se l’ha imparata “a pappagallo”. Ascoltiamo un brano di un tale esame orale:
INTERROGANTE: Nel primo verso del suo sonetto che dice “Ti paragonerò a un giorno d’estate?”, “un giorno di primavera” andrebbe bene lo stesso, o magari meglio?
INTERROGATO: Non quadrerebbe metricamente.
INTERROGANTE: E “un giorno d’inverno”? Metricamente andrebbe bene.
INTERROGATO: Sì, ma nessuno vorrebbe essere paragonato a un giorno d’inverno.
INTERROGANTE: Lei direbbe che il signor Pickwick le ricorda Natale?
INTERROGATO: In un certo senso.
INTERROGANTE: Eppure Natale è un giorno d’inverno, e non credo che il paragone dispiacerebbe al signor Pickwick.
INTERROGATO: Credo che lei voglia scherzare. Dicendo “un giorno d’inverno” si pensa a un tipico giorno d’inverno, piuttosto che a un giorno speciale come Natale.
E così via. Che cosa direbbe il professor Jefferson se la macchina che scrive sonetti fosse capace di rispondere in questo modo in un esame orale? Non so se egli riterrebbe che la macchina sta solo “segnalando artificialmente” queste risposte, ma se le risposte fossero soddisfacenti e senza esitazioni, come nel passo precedente, non credo che parlerebbe di “facile trucco”. Esprimendosi così egli intende riferirsi, io credo, a certi espedienti come l’inserimento nella macchina della registrazione di un sonetto letto da qualcuno, con un interruttore apposito che di quando in quando la faccia partire.
In breve, dunque, ritengo che la maggior parte di coloro che sostengono l’argomento della coscienza si persuaderebbero ad abbandonarlo piuttosto che vedersi obbligati alla posizione solipsistica. A questo punto sarebbero probabilmente disposti ad accettare il nostro test.
Non voglio dar l’impressione di pensare che riguardo alla coscienza non ci sia alcun mistero: ad esempio, ogni tentativo di trovarne la sede porta a qualche forma di paradosso. Tuttavia non penso che sia necessario risolvere questi misteri prima di poter dare una risposta alla domanda di cui ci occupiamo in questo articolo.
(5) Argomenti fondati su incapacità varie. Tali argomenti si presentano in questa forma: “Ammetto che si possa far fare alle macchine tutto quello cui si è accennato, ma non si potrà mai costruirne una capace di fare X”. Vengono proposti a questo riguardo numerosi X. Eccone alcuni:
Essere gentile, piena di risorse, bella, cordiale... avere iniziativa, avere il senso dello humour, distinguere il bene dal male, commettere errori.., innamorarsi, gustare le fragole con la panna... far sì che qualcuno si innamori di lei, imparare dall’esperienza.., usare le parole in modo appropriato, essere l’oggetto dei propri pensieri.., avere un comportamento vario quanto quello umano, fare qualcosa di realmente nuovo...
Di solito queste affermazioni non vengono suffragate in alcun modo. Credo che per lo più esse siano basate sul principio dell’induzione scientifica. Nel corso della propria vita un uomo vede migliaia di macchine e, da ciò che di esse vede, trae un gran numero di conclusioni generali: sono brutte, sono progettate ciascuna per uno scopo ben preciso e quando le si vuole usare per uno scopo anche solo un po’ diverso diventano inutili; la varietà di comportamento di ognuna di esse è molto limitata, ecc., ecc. Naturalmente egli conclude che tutte queste sono proprietà necessarie delle macchine in generale. Molte di queste limitazioni sono legate alla piccolissima capacità di memoria della maggior parte delle macchine. (Parto dall’assunto che il concetto di memoria venga esteso, in qualche modo, anche a macchine diverse da quelle a stati discreti. La definizione esatta non ha importanza, poiché in questa discussione non si mira alla precisione matematica). Fino ad alcuni anni fa, quando si parlava ancora poco di calcolatori digitali, era possibile suscitare molta incredulità se si illustravano le loro proprietà senza descrivere come erano costruiti. Ciò era dovuto presumibilmente a un’applicazione analoga del principio dell’induzione scientifica. Queste applicazioni del principio sono naturalmente in ampia misura inconsce. Quando un bambino che una volta si è scottato teme il fuoco e dimostra questo timore sfuggendolo, direi che egli applica l’induzione scientifica. (Naturalmente potrei descrivere il suo comportamento anche in molti altri modi). Le attività e le abitudini degli uomini non sembrano costituire un buon terreno di applicazione per l’induzione scientifica. Se si vogliono ottenere risultati attendibili, si deve prendere in esame una porzione vastissima dello spazio-tempo; altrimenti si finirà magari col credere (come fanno gran parte dei bambini inglesi) che tutti parlino inglese e che è stupido imparare il francese.
A proposito di molte delle incapacità che abbiamo ricordato sopra, dobbiamo tuttavia fare alcune osservazioni specifiche. Il lettore può aver pensato che l’incapacità di gustare le fragole con la panna sia futile. Forse si potrebbe costruire una macchina capace di gustare questo delizioso dessert, ma qualunque sforzo in questo senso sarebbe idiota. Il fatto importante è che questa incapacità concorre ad aggravare qualcuna delle altre, ad esempio aumenta la difficoltà che tra uomo e macchina si stabilisca lo stesso genere di cameratismo che c’è fra due bianchi oppure fra due neri.
L’affermazione che “le macchine non possono commettere errori” sembra curiosa. Si è tentati di ribattere: “Forse che per questo sono peggiori?”. Ma assumiamo un atteggiamento più comprensivo e cerchiamo di capire il vero significato di questa critica. Credo che ne troveremo la spiegazione proprio col gioco dell’imitazione. Si sostiene che l’interrogante potrebbe distinguere la macchina dall’uomo semplicemente sottoponendo loro un certo numero di problemi aritmetici. La macchina sarebbe tradita dalla sua tremenda precisione. È facile ribattere a questa obiezione: la macchina (programmata per giocare quel gioco) non cercherebbe di dare le risposte giuste ai problemi aritmetici:
introdurrebbe a bella posta errori calcolati in modo da confondere l’interrogante. Un difetto meccanico probabilmente si manifesterebbe attraverso una decisione inadeguata sul tipo di errori da inserire nelle operazioni aritmetiche. Neppure questa interpretazione della critica ne coglie tutto il significato, ma non possiamo permetterci, per ragioni di spazio, di approfondirla oltre. A me sembra che questa critica derivi da una confusione fra due generi di errori, che possiamo chiamare “errori di funzionamento” ed “errori di conclusione”. Gli errori di funzionamento sono dovuti a qualche difetto meccanico o elettrico che porta la macchina a comportarsi diversamente da com’era stata progettata. Nelle discussioni filosofiche si preferisce ignorare la possibilità ditali errori e ci si occupa quindi di “macchine astratte”. Queste macchine astratte sono finzioni matematiche e non oggetti fisici; per definizione esse non sono soggette a errori di funzionamento. In questo senso possiamo dire a buon diritto che “le macchine non possono mai commettere errori”. Gli errori di conclusione possono presentarsi solo quando ai segnali che escono dalla macchina viene attribuito qualche significato. La macchina, ad esempio, potrebbe scrivere equazioni matematiche o frasi in inglese. Quando la macchina scrive una proposizione falsa, diciamo che essa ha commesso un errore di conclusione. È chiaro che non c’è alcuna ragione per affermare che una macchina non può commettere errori di questo genere: essa potrebbe non fare altro che scrivere ripetutamente “0=1”. Per fare un esempio meno esagerato, la macchina potrebbe disporre di un metodo per trarre conclusioni basate sull’induzione scientifica. Dobbiamo aspettarci che ogni tanto questo metodo porti a risultati erronei.
All’affermazione che una macchina non può essere oggetto, o argomento, del proprio pensiero naturalmente si può rispondere solo se si riesce a dimostrare che la macchina ha qualche pensiero su qualche oggetto, o argomento. Nondimeno l’espressione “oggetto delle operazioni di una macchina” sembra avere un qualche significato, almeno per le persone che se ne occupano. Se per esempio la macchina stesse tentando di trovare una soluzione dell’equazione x2 — 40x — 11 = 0, si sarebbe tentati di dire che questa equazione fa parte in quell’istante dell’argomento su cui la macchina opera, cioè dell’oggetto della macchina. In questo senso la macchina può senza dubbio costituire oggetto di se stessa. La si può usare per allestire i suoi stessi programmi o per prevedere quale effetto avranno le alterazioni della sua struttura. Osservando i risultati del proprio comportamento, essa può modificare i propri programmi per conseguire in modo più efficace un qualche obiettivo. Si tratta di possibilità di un futuro prossimo e non di sogni utopistici.
Criticare una macchina perché non può manifestare una grande varietà di comportamenti è solo un modo per dire che essa non può avere una grande capacità di memoria. Fino a tempi piuttosto recenti una memoria anche solo di un migliaio di cifre era rarissima.
Le critiche che stiamo considerando ora sono spesso travestimenti
dell’argomento della coscienza. Anche se qualcuno sostiene che una macchina riesce a fare una di queste cose e descrive il tipo di metodo che la macchina potrebbe seguire, di solito non produce una grande impressione. Si pensa infatti che il metodo, qualunque esso sia, poiché deve essere meccanico, sia in realtà piuttosto meschino. Si vedano le parole tra parentesi nella dichiarazione di Jefferson citata sopra.
(6) Obiezione di Lady Lovelace. Le informazioni più dettagliate che possediamo sulla Macchina Analitica di Babbage sono tratte da un saggio di Lady Lovelace. In esso si afferma: “La Macchina Analitica non ha la pretesa di creare alcunché. Può fare qualunque cosa siamo in grado di ordinarie di fare” (corsivo dell’autrice). Questa affermazione è citata da Hartree, il quale aggiunge: “Ciò non significa che non sia possibile costruire un’apparecchiatura elettronica che ‘pensi per conto proprio’ o nella quale, per esprimersi in termini biologici, si possa inserire un riflesso condizionato che costituirebbe una base per l’‘apprendimento’. Se ciò sia possibile o no in linea di principio è un problema emozionante e stimolante sollevato da alcuni degli sviluppi più recenti. Ma non sembrava che le macchine costruite o progettate a quel tempo avessero questa proprietà”.
Su questo punto concordo perfettamente con Hartree. Si noterà che egli non afferma che le macchine in questione non avessero quella proprietà, ma piuttosto che gli elementi a disposizione di Lady Lovelace non l’incoraggiavano a ritenere che l’avessero. È tuttavia possibile che le macchine in questione possedessero in un certo senso questa proprietà. Supponiamo infatti che una macchina a stati discreti la possegga. La Macchina Analitica era un calcolatore digitale universale, e di conseguenza, se la sua capacità di memoria e la sua velocità fossero state sufficienti, opportunamente programmata essa avrebbe potuto imitare la macchina in questione. Probabilmente questo ragionamento non venne in mente alla Contessa o a Babbage; comunque essi non erano tenuti a sostenere tutto ciò che si poteva sostenere.
Tutto questo problema sarà ripreso in considerazione quando parlerò delle macchine che apprendono.
Una variante dell’obiezione di Lady Lovelace asserisce che una macchina “non può mai fare qualcosa di realmente nuovo” A questo si può opporre per un momento il detto “Non c’è nulla di nuovo sotto il sole”. Chi può essere sicuro che il “lavoro originale” da lui compiuto non sia soltanto il frutto del seme gettato in lui dall’insegnamento o un risultato ottenuto applicando princìpi generali ben noti? Secondo una variante migliore dell’obiezione, una macchina non può mai “coglierci di sorpresa”. Quest’asserzione è una sfida più diretta e può essere affrontata direttamente. Le macchine mi colgono di sorpresa molto di frequente; questo dipende in gran parte dal fatto che non mi applico abbastanza a calcolare che cosa devo aspettarmi da loro, o piuttosto dal fatto che, per, quanto mi applichi a questo calcolo, lo faccio in modo sciatto, affrettato e arrischiato. Magari mi dico: “Qui la tensione dovrebbe essere la stessa che lì; be’, supponiamo che sia così”. Naturalmente spesso mi sbaglio, e il risultato è per me una sorpresa, perché ora
che l’esperimento è concluso queste supposizioni sono già state dimenticate. Tali ammissioni mi espongono a lunghe tirate sulla riprovevolezza del mio comportamento, ma non gettano alcun dubbio sulla mia credibilità quando attesto le mie sorprese.
Non mi aspetto che questa risposta chiuda la bocca al mio critico:
probabilmente egli dirà che queste sorprese sono causate da qualche mio atto mentale creativo e non riflettono un merito della macchina. Questo ci allontana dall’idea della sorpresa e ci riporta all’argomento della coscienza. È un argomento che dobbiamo considerare concluso, ma forse vale la pena osservare che per trovare sorprendente qualcosa occorre un “atto mentale creativo” tanto se l’evento sorprendente è causato da un uomo quanto se è causato da un libro, da una macchina o da qualunque altra cosa.
L’idea che le macchine non possano procurarci sorprese è dovuta, a mio parere, a un errore in cui cadono particolarmente i filosofi e i matematici. Si tratta dell’assunto che non appena un fatto si presenta alla mente, contemporaneamente a esso balzino alla mente tutte le conseguenze di quel fatto. In molte circostanze questo assunto è utilissimo, ma ci si dimentica troppo facilmente che è falso. Esso porta, come conseguenza naturale, a svalutare totalmente il lavoro di deduzione delle conseguenze dai dati e dai princìpi generali.
(7) Argomento fondato sulla continuità nei sistema nervoso. Il sistema nervoso non è certo una macchina a stati discreti. Un piccolo errore d’informazione sulla grandezza di un impulso nervoso che colpisce un neurone può essere cruciale per quanto riguarda la grandezza dell’impulso in’ uscita. Si può sostenere che, stando così le cose, non si può pensare di riuscire a imitare il comportamento del sistema nervoso con un sistema a stati discreti.
È vero che una macchina a stati discreti deve essere diversa da una macchina continua, ma se ci atteniamo alle condizioni del gioco dell’imitazione, l’interrogante non sarà in grado di trarre alcun vantaggio da questa differenza. La situazione può essere chiarita prendendo in considerazione qualche macchina continua più semplice. A questo scopo andrà benissimo un analizzatore differenziale. (Si tratta di un tipo di macchina non a stati discreti, usata per certi calcoli particolari). Alcuni analizzatori differenziali forniscono risposte stampate e sono quindi adatti a partecipare al gioco. Un calcolatore digitale non sarebbe in grado di prevedere esattamente le risposte che un analizzatore differenziale darebbe a un problema, ma sarebbe comunque capace di dare il tipo giusto di risposta. Ad esempio, richiesto di fornire il valore di (che è circa 3,1416), sarebbe ragionevole che esso scegliesse a caso tra i valori 3,12; 3,13; 3,14; 3,15; 3,16 con probabilità, diciamo, 0,05; 0,15; 0,55;0,19; 0,06.
In queste condizioni sarebbe assai difficile per l’interrogante distinguere l’analizzatore differenziale dal calcolatore.
(8) Argomento dei comportamento senza regole rigide. ‘Non è possibile offrire un insieme di regole miranti a descrivere ciò che un uomo dovrebbe fare in ogni circostanza immaginabile. Ad esempio, può esistere la regola che ci si deve fermare a un semaforo quando è acceso il rosso e proseguire quando è acceso il verde; ma che si deve fare se per un guasto i due colori si accendono insieme? Forse si può decidere che la cosa più sicura è fermarsi, ma questa decisione può procurare in seguito qualche altra difficoltà. Tentare di fornire regole di condotta per qualsiasi eventualità, anche solo quelle relative ai semafori, appare impossibile. E su questo sono d’accordo.
Sulla base di ciò si sostiene che noi non possiamo essere macchine. Tenterò di riassumere l’argomentazione, ma temo che non riuscirò a farlo adeguatamente. Dovrebbe essere pressappoco di questo tipo: “Se ogni uomo avesse un insieme definito di regole di condotta secondo le quali regolare la propria vita, non sarebbe migliore di una macchina. Ma non esistono tali regole, quindi gli uomini non possono essere macchine”. Salta all’occhio che qui il termine medio è equivoco. Non penso che l’argomentazione venga mai enunciata in questo modo, nondimeno credo che l’argomento usato sia questo. La questione è oscurata tuttavia dalla confusione tra “regole di condotta” e “leggi di comportamento”. Per “regole di condotta” intendo precetti del tipo: “Se a un semaforo è acceso il rosso, fermati”, in base a cui si può agire e di cui si può essere consci. Per “leggi di comportamento” intendo leggi di natura riferite al corpo umano, come: “Se lo pizzichi, strilla”. Se nell’argomentazione riportata sopra, invece di “regole di condotta secondo le quali regolare la propria esistenza” diciamo “leggi di comportamento che governano la propria vita”, l’equivocità del termine medio può essere superata. Infatti non solo crediamo che se si è regolati da leggi di comportamento allora si è una macchina di qualche genere (benché non necessariamente una macchina a stati discreti), ma anche, viceversa, che se si è una siffatta macchina allora si è regolati da leggi siffatte. Tuttavia convincersi che non esistono leggi di comportamento complete non è tanto facile quanto convincersi che non esistono regole di condotta complete. L’unica via che conosciamo per scoprire queste leggi è l’osservazione scientifica e certamente non conosciamo alcuna circostanza nella quale si possa dire: “Abbiamo cercato abbastanza: non esistono tali leggi”.
Possiamo anzi dimostrare in modo più efficace che qualunque affermazione del genere sarebbe ingiustificata. Supponiamo infatti di poter essere sicuri di trovare tali leggi, nel caso esistessero. Allora, data una macchina a stati discreti, dovrebbe essere certamente possibile raccogliere su di essa con l’osservazione informazioni sufficienti a consentire di prevedere il suo comportamento futuro, e ciò in un tempo ragionevole, diciamo mille anni. Ma le cose non sembrano stare così. Per il calcolatore di Manchester ho allestito un programmino che fa uso di solo mille unità di memoria, con il quale se si fornisce alla macchina un numero di sedici cifre, essa dà risposta un altro numero di sedici cifre in due secondi. Sfido chiunque a raccogliere, da queste risposte, informazioni sufficienti a consentire di prevedere le risposte ai numeri non ancora provati.
(9) Argomento fondato sulla percezione extrasensoriale (ESP). Do per scontato che il lettore sappia che cos’è la percezione extrasensoriale e conosca il significato delle sue quattro branche, cioè la telepatia, la chiaroveggenza, la precognizione e la psicocinesi. Questi fenomeni imbarazzanti sembrano contraddire tutte le nostre usuali idee scientifiche. Come saremmo contenti di screditarli! Purtroppo, almeno per la telepatia, le prove statistiche sono schiaccianti. È molto difficile ristrutturare le nostre idee così da farvi rientrare questi fatti nuovi. Una volta che li si è accettati, non dovrebbe esser difficile arrivare a credere ai fantasmi e ai folletti. L’idea che il nostro corpo si muova semplicemente in conformità con le leggi note della fisica, insieme con alcune altre non ancora scoperte ma in qualche modo simili, sarebbe una delle prime a scomparire.
A mio parere questo argomento è molto forte. Si può ribattere facendo notare che molte teorie scientifiche rimangono utilizzabili in pratica, pur scontrandosi con la percezione extrasensoriale; e che anzi possiamo andare avanti benissimo se di essa non ci curiamo affatto. È una consolazione piuttosto magra, tuttavia, e ho il sospetto che il pensiero sia proprio il genere di fenomeno dove la percezione extrasensoriale può forse essere particolarmente pertinente.
Un’argomentazione più specifica basata sulla percezione extrasensoriale potrebbe essere enunciata così: “Giochiamo il gioco dell’imitazione prendendo come testimoni un uomo che abbia eccellenti doti di ricezione telepatica e un calcolatore. L’interrogante può porre domande del tipo: ‘A che seme appartiene la carta nella mia destra?’. L’uomo, per telepatia o chiaroveggenza, dà la risposta esatta centotrenta volte su quattrocento carte. La macchina può solo indovinare a caso, per esempio dando centoquattro volte la risposta esatta, sicché l’interrogante può giungere alla giusta identificazione”. Qui si apre una possibilità interessante. Supponiamo che il calcolatore digitale contenga un generatore di numeri casuali; allora sarà naturale che se ne serva per decidere la risposta da dare. Ma allora il generatore di numeri casuali sarà soggetto ai poteri psicocinetici dell’interrogante. Questo effetto psicocinetico potrebbe far sì che la macchina indovinasse più sovente di quanto non ci si attenderebbe su basi probabilistiche, sicché l’interrogante non sarebbe più in grado di giungere all’identificazione esatta. D’altra parte, egli potrebbe essere capace di indovinare senza fare alcuna domanda, per chiaroveggenza. Con l’ESP può accadere di tutto.
Se si ammette la telepatia, è necessario rendere più rigoroso il nostro test. La situazione potrebbe essere considerata analoga a quella che si presenterebbe se l’interrogante pensasse ad alta voce e uno dei giocatori ascoltasse con l’orecchio al muro. Se i giocatori fossero chiusi in una “stanza a prova di telepatia”, tutte le esigenze sarebbero soddisfatte.
Da “Computing Machinery and Intelligence”, di Alan M. Turing, in Mind, 59, 236 (1950).
By
Luca
, at
4:50 PM
Come in tutti i problemi, prima di cercare una risposta bisogna sapere da quale domanda partire, e scegliere i concetti giusti per impostarla. Chiedersi se le macchine possano pensare non è un buon punto di partenza, perché ammette risposte diverse a seconda del senso che vogliamo dare, più che alla nozione di macchina (sulla quale si concentra principalmente Turing), alle parole “pensare” e “possono”. Occorre quindi per prima far luce su questi due punti per capire cosa davvero ci stiamo domandando.
Riguardo il primo concetto, i termini “pensiero”, “mente”, “psiche”, ecc., ammettono due interpretazioni. Per esempio Chalmers, un filosofo contemporaneo che si occupa di filosofia della mente, distingue fra quelle che lui chiama mente psicologica e mente fenomenica: la prima riguarda la mente in quanto funzionalità, cioè in termini meramente relazionali, come mediatrice fra input e output, stimolo e risposta (in termini di neurofisiologia); la seconda riguarda l’aspetto cosciente, ovvero la mente in quanto sentire, in quanto “ciò che si prova” a essere in un certo stato e ad avere certe esperienze. Se ora noi vogliamo attribuire alla parola “pensare” contenuta in quella domanda solo la prima sfumatura, saremmo portati a rispondere che sì, le macchine possono pensare. Se invece vogliamo intendere un pensiero di tipo umano, cioè aggiungere alle loro proprietà funzionali anche una dimensione cosciente, la questione diventa più complessa.
La risposta di Turing all’obiezione sulla coscienza, oltre al fatto di essere un po’ troppo sbrigativa e non molto convincente (il discorso sul solipsismo, da un punto di vista filosofico, è molto più ampio, e un suo approfondimento mostrerebbe come non è sufficiente di per sé a collocare sul medesimo livello una macchina e un’ “altra” persona), mette in luce come secondo la sua concezione la funzionalità delle macchine, in particolare di un calcolatore digitale universale, sarebbe in grado di produrre non solo relazioni input-output dello stesso tipo di quelle prodotte dal pensiero, ma anche la corrispondente dimensione fenomenica-cosciente.
Come dice John Searle (altro filosofo della mente contemporaneo), la coscienza, stando a quanto ci rivelano le scoperte sempre più sorprendenti della neurobiologia (di cui ovviamente le riflessioni di Turing non potevano disporre), è una proprietà prettamente biologica del cervello. Ora, cosa significa ciò? Come interpretare questo dato? Secondo Searle questa semplice constatazione consente di confutare qualsiasi pretesa dell’intelligenza artificiale, poiché per sua stessa natura una qualsiasi macchina non può avere proprietà biologiche dello stesso tipo, ad esempio, di quelle che presiedono nel cervello umano alla connessione fra neuroni o alle scariche elettriche lungo le sinapsi.
Ma cosa significa dire che una proprietà è biologica? Come tutte le definizione fisico-scientifiche, anche questa è estremamente parziale, perché prende di mira esclusivamente l’aspetto della funzionalità: essere biologico è un modo di funzionare tipico dei componenti di quelli che consideriamo esseri viventi (il che richiederebbe un’ulteriore infinita discussione su cosa si possa considerare “vivente”), certo estremamente complesso, raffinato, delicato, ma pur sempre una “funzionalità” biologica. L’aspetto della “materia” biologica non è in questo senso rilevante, poiché lo stesso concetto di “materia biologica” è una nostra attribuzione di senso a ciò che osserviamo, ma di per se stessa la materia non è né “biologica”, né “chimica”, né “plastica”, ecc: lo diventa solo all’interno dei contesti e delle pratiche con cui ci approciamo alle cose e, per portare fino in fondo l’argomento (ma ovviamente anche qui ci sarebbe bisogno di un lungo discorso che adesso non si può fare per motivi di spazio), non ha nemmeno senso parlare di “materia”al di là della sfera meramente concettuale.
Comunque, quello che è importante ora è che queste considerazioni permettono si trasformare la domanda iniziale nella seguente: può una macchina funzionare allo stesso modo di un cervello umano, cioè avere una funzionalità di tipo “biologico”, in modo da produrre la coscienza? Ovvero: che rapporto metafisico c’è fra coscienza e aspetti fisici? Queste domande mettono in luce il motivo per cui, in filosofia della mente, il dibattito sull’ IA rientra nel più ampio dibattito sul cosiddetto mind-body problem.
Qui entra in gioco il secondo aspetto, cioè il senso che vogliamo attribuire alla parola “possono”.
Chalmers dice che, a un livello di possibilità ideale, qualunque cosa è in linea di principio in grado di imitare il funzionamento del cervello umano, nel senso che la possibilità, se non realizzabile concretamente, è quantomeno concepibile; dunque in questo senso possiamo dire che sì, le macchine “possono” “pensare” (credo che a questo punto sia chiaro il senso delle virgolette): Chalmers, per chiarire il senso di questa possibilità puramente ideale, ricorre al famoso esempio della popolazione cinese (che però mi pare che risalga originariamente a Block): se tutti i cinesi fossero in grado, lavorando in sinergia, di svolgere esattamente le medesime funzioni di un cervello, ad esempio se ognuno facesse esattamente lo stesso lavoro che fa un neurone (ammesso che vogliamo considerare il neurone l’unità operativa fondamentale del cervello), nulla ci impedisce di pensare che darebbero vita a qualcosa di cosciente, ovvero che ci sarebbe qualcosa come “l’effetto che fa essere la popolazione cinese”. Ovviamente l’implausibilità della premessa rende estremamente improbabile ciò, ma il discorso è fatto al solo scopo di chiarire il senso in cui egli concepisce questa “possibilità” ideale.
Da un punto di vista di possibilità empirica, però, considerata la complessità del funzionamento del cervello (di cui tra l’altro, nonostante gli ultimi vertiginosi progressi della ricerca, sappiamo veramente una minima parte), è impensabile che un giorno si sarà mai in grado di costruire qualcosa di così sofisticato da avvicinarsi anche solo lontanamente ad avere quelle proprietà che consentono al cervello di “realizzare” ( o di “produrre”, o di “causare”, anche qui ci vorrebbe una lunghissima discussione) non solo una “mente psicologica”, ma anche una “mente fenomenica”. Al limite si potranno costruire funzionalità meno complesse, tali da dar luogo a quelle che Chalmers chiama “proprietà protofenomeniche”, ma qui si entra nei particolari della sua teoria che adesso non sono rilevanti.
Così, alla luce di tutto ciò, se gli informatici si chiedono “può una macchina pensare?”, io chiedo a loro: sarà possibile un giorno costruire qualcosa che eguagli la funzionalità di un cervello umano, sia esso un computer o qualunque altra cosa si riuscirà ad inventare?. Se non altro la domanda, così riformulata, è meno ambigua e consente perlomeno di costruire un dialogo fra filosofia, scienza e tecnica, ed evitare che ognuno vada per la sua strada credendo di avere, lui solo, la chiave per giungere a una risposta. Se la filosofia chiarisce alla scienza le domande e i concetti adeguati da cui partire e se la scienza fornisce alla tecnica le risposte che devono essere poi concretamente realizzate, e se ognuno prende coscienza di questa situazione, che vuol dire automaticamente anche coscienza dei propri limiti e delle proprie competenze, siamo già sulla buona strada, e per ora è il massimo che possiamo aspettarci
By
giubi81
, at
9:00 PM
Posta un commento
<< Home