…e poco tecnologico

di Marco Cagnotti

Ok, Ok: la storia del tredicenne ucraino è una pagliacciata. Per non dire del limite di 5 minuti (o era mezz’ora?) e della ridicola percentuale di successo: un modestissimo 33%. Insomma, il presunto superamento del test di Turing annunciato due settimane fa è una boiata pazzesca. Ne hanno scritto Paolo Attivissimo, Amedeo Balbi, Marco Cattaneo. C’è altro da aggiungere? Forse spezzare una lancia in favore del test, ecco. Se non altro per comprenderne l’esatta natura. Molto filosofica e poco tecnologica.

Correva l’anno 1950 e Alan Turing, nell’articolo “Computing Machinery and Intelligence”, si chiedeva: “Le macchine possono pensare?”. Siccome il pensiero non si osserva, non si fotografa, non si misura, Turing propose una soluzione operativa: pensa ciò che sembra pensare. In breve, per il test di Turing basta prendere una persona e metterla davanti a due monitor (Turing immaginava due telescriventi, ma la sostanza non cambia), al di là dei quali sono collegati un essere umano e il computer da sottoporre a test. Lo sperimentatore deve discutere con entrambi. Senza limiti di argomento: teologia, letteratura, sport, sesso, politica… non importa. Importa solo lo scopo dello sperimentatore: riuscire a distinguere l’umano dalla macchina. Se non ci riesce, una sola conclusione è possibile: la macchina pensa come l’umano.

Turing non poneva limiti né di tempo né di percentuali di successo. Semmai fece la previsione secondo la quale entro il 2000 una macchina avrebbe ingannato il 70% degli sperimentatori per 5 minuti. Previsione sbagliata, come sappiamo, ché ancora nessun software ha ottenuto questo risultato. Ma tanto basta per rottamare il test? Per niente. Perché il test di Turing riguarda la filosofia, non la tecnologia, e per questo non smetterà mai di essere attuale né di farci riflettere sul pensiero e sulla solitudine esistenziale. Infatti la vera domanda da porsi non è “Una macchina può pensare?”, bensì “Chi altri può pensare oltre a me?”. Per capirlo, ti propongo un esperimento mentale.

Per puro caso, grazie a una telefonata per motivi di lavoro, ti è capitato di conoscere Ivano Albertazzi. Avevi bisogno di un’informazione, hai chiamato quell’ufficio, ti ha risposto un tizio dalla voce simpatica. Gentile, disponibile. Poiché siete entrambi piuttosto comunicativi, dopo qualche battuta siete passati alle informazioni personali: chi sei, dove vivi, sei sposato, hai figli, quale musica ascolti, dove vai in vacanza. Cose così. Pian piano, con il trascorrere dei mesi e le telefonate e le email sempre più frequenti e personali, la confidenza è cresciuta. Ti sei accorto di una sintonia su molte questioni importanti e profonde: la visione del mondo, la politica, la religione, i princìpi e i valori. Ivano si è rivelato vicino alla tua sensibilità. Le sue riflessioni ti hanno dato da pensare. I suoi consigli hanno arricchito la tua cultura letteraria e cinematografica. E tu hai fatto lo stesso con lui. Addirittura, in certi momenti dolorosi della tua vita, momenti di abbandono e di lutto, hai percepito in Ivano un’empatia inattesa. Ti ha detto cose capaci di risollevarti. E anche tu hai giovato a lui, quand’era lui a star male. Così è nata ed è cresciuta una bella amicizia, rinsaldata da lunghe email e sessioni di chat. Senti Ivano affine. Senti di volergli bene. Certo con tutti i limiti di una comunicazione indiretta. Ma ora…

…ora puoi rimediare. Il lavoro ti porterà a visitare la lontana città in cui vive Ivano, perciò potrete incontrarvi, guardarvi negli occhi, abbracciarvi. Già fremi di impazienza. Lo chiami subito. Gli annunci la novità. Ma lui…

…lui ti smonta. Ti delude. Ti devasta. Perché lui, messo di fronte alla possibilità di un incontro fisico reale, è costretto e svelarti la verità: Ivano Albertazzi non esiste come essere umano, ma è solo un sofisticato software installato su un potente computer e simula il pensiero e comunica attraverso un sintetizzatore vocale. Per tutto questo tempo tu sei stato preso per il culo, partecipando a un test di Turing senza nemmeno saperlo. Come reagisci?

T’incazzi, è ovvio. Ivano ti ha mentito. Ivano non è chi diceva di essere. Un amico non lo farebbe mai. Amico, poi… ma amico di chi? Di una macchina? Di un software? Ma siamo scemi? Non si può essere amici di un computer! Oppure sì?

Poniti ora una domanda: cos’è cambiato? Fino a 5 minuti prima volevi bene a Ivano, lo stimavi, godevi della sua frequentazione a distanza. Sapevi di poter contare su di lui. Se ti avessero chiamato per annunciarti la sua morte, ne avresti sofferto e avresti sentito la sua mancanza. Avresti dovuto affrontare un lutto. 5 minuti dopo la rivelazione, Ivano non conta più nulla. Perché è solo una macchina. Non gli vuoi più bene? Davvero? Se ti dicessero che quel computer è stato formattato senza un backup… cioè Ivano è defunto… non te ne fregherebbe niente? Non ti mancherebbe? Sul serio? Solo perché la sua chimica si basa sul silicio e non sul carbonio? Solo perché hai dei circuiti elettronici dove tu hai dei neuroni e delle sinapsi?

Mi dirai: “Tante grazie! Ma quella non è una vera amicizia! Per essere davvero amici, per amarsi, bisogna vedersi di persona, guardarsi negli occhi”. Beh, non è poi così vero. Quanti legami affettivi anche profondi intrattieni con persone che incontri molto di rado ma senti a distanza? Come puoi sapere se nel frattempo non sono state sostituite da macchine capaci di imitarle alla perfezione? E poi posso proporti un esempio ancora più estremo…

Considera una tua cara, dolce e affezionata amica. Una persona a cui vuoi bene davvero, di cui ti puoi fidare. Qualcuno importante per te. Ora immaginala mentre, in un momento di sincerità, ti sconvolge confessandoti la propria natura artificiale: prende un cacciavite e si scoperchia il cranio, rivelando i circuiti all’interno, e poi con uno strappo si stacca la pelle e la carne dal braccio mostrando i meccanismi nascosti. “Alla Terminator”, per intenderci. Sorpresa! Orrore! E poi? D’improvviso non è più tua amica? Non le vuoi più bene? Non le parli più? Solo perché è artificiale, la stessa persona che prima amavi ora ti è indifferente?

Sia chiaro: sono esempi estremi. Esempi non realistici. E nemmeno li ho inventati io, ma li ho pescati nell’infinito immaginario della fantascienza, da Daneel Olivaw a Hal 9000, da Roy Batty a Terminator. Tranquillo: nessun software può comportarsi come Ivano Albertazzi e nessuna tua amica si rivelerà un robot in incognito. Per ora, almeno. Ma attento, perché il problema filosofico è profondo: il problema delle altre menti.

Io come so che tu pensi? Non lo so, infatti. Lo deduco soltanto. Del tuo pensiero osservo solo le manifestazioni esteriori: parli come me, dici cose sensate come me, fai le smorfie come me, gesticoli come me, ridi e piangi come me. Siccome le mie manifestazioni esteriori sono frutto dei pensieri nella mia testa, deduco la presenza nella tua testa di pensieri analoghi ai miei. Ma per il resto il tuo pensiero è solo un mio atto di fede: chi ha davvero mai visto, osservato, fotografato, misurato i pensieri degli altri? Di fatto, nella mia mente io sono solo. L’unico pensiero di cui ho la prova certa è la mia. Del pensiero altrui vedo solo la superficie. Nient’altro.

Ecco, questo dice Turing: poiché il pensiero posso inferirlo solo dalle manifestazioni esteriori, se quelle manifestazioni sono le stesse per un uomo e per una macchina… allora la macchina pensa. In sostanza, se sembra cosciente, allora è cosciente. Fra una simulazione perfetta e la realtà non c’è alcuna differenza. Ciò che appare… è.

Lo so: la sintassi non è la semantica, sostiene qualcuno. Manipolare simboli non significa pensare davvero. È l’obiezione della stanza cinese di Searle. Ebbene, Searle ha torto. Lui sa già, a priori, della banale manipolazione simbolica nella stanza cinese. Tuttavia, se vista dal di fuori, senza saperne altro, la stanza cinese pensa proprio come qualsiasi altro cinese. In effetti, come sai ciò che accade in un altro cervello umano? Come sai se applica la sintassi o la semantica? Non lo sai. Per te l’unica semantica sperimentabile è la tua. Cartesio ci aveva preso in pieno con il “Cogito” come unica certezza esistenziale. Ciascuno di noi è solo, di una solitudine infinita e ineluttabile.

Il test di Turing è ancora attuale e non smetterà mai di esserlo. Perché rimane il terribile problema filosofico: “Quand’è che uno schema percettivo diventa coscienza? Quand’è che una simulazione di personalità diventa il grumo sofferente di un’anima?”, si chiede il dottor Lanning nel film Io, Robot. Dopodiché possiamo anche polemizzare sulle percentuali e sui minuti, ci mancherebbe. Possiamo pure dubitare che una macchina riesca mai a superare il test di Turing sempre e con tutti gli interlocutori. Magari no.

E magari anche sì.

“(…) chi è umano e chi ha soltanto l’aspetto (si maschera) da umano? (…) A meno che non riusciamo individualmente e collettivamente a trovare una risposta certa a questa domanda, ci troviamo di fronte, a mio avviso, al più serio problema possibile. Senza una risposta adeguata, non possiamo neppure essere sicuri di noi stessi (…) Sono umano? O sono semplicemente programmato a crederlo?”
(P.K. Dick)

· · · ◊ ◊ ◊ · · ·

17 risposte a “Turing: un test molto filosofico…”

  1. politepolarbear scrive:

    Mutatis mutandis si tratta dello stesso dilemma che più volte mi sono posto io circa il rapporto genitori-figli.
    Come si reagirebbe dopo aver cresciuto un figlio per 10 anni, aver vissuto insieme a lui e creato una famiglia e fatto tutte le cose che genitori e figli fanno… come si reagirebbe dicevo se si venisse a scoprire che non è figlio nostro, che è stato scambiato alla nascita in ostetricia all’ospedale?
    Il rapporto genitori-figli non è definito solo dai nostri geni. ma soprattutto dalla relazione che noi definiamo e viviamo quotidianamente.
    Sono le relazioni quelle che definiscono chi siamo e non altro. Vale per il test di Turing e vale anche per tutto ciò che noi siamo e che cerchiamo negli altri.

  2. admin scrive:

    @politepolarbear:
    Non avrei saputo dirlo meglio di te.

  3. Raffaele scrive:

    Un punto chiave secondo me è “l’unicità” del pensiero/persona. Non è solo il fatto di pensare in maniera “umana”, ma il fatto che questo pensiero, quel modo di comportarsi e reagire è unico. Una macchina, un software invece è replicabile e quindi in qualche modo questa cosa la pone ad un livello intrinsecamente più semplice. Un giorno, forse, nascerà una macchia o un software che avrà tra le sue caratteristiche “l’unicità”; spero di non esserci più.

  4. admin scrive:

    @Raffaele:
    Perché una macchina dev’essere per forza replicabile? Non necessariamente. Se nella risposta della macchina introduci un elementi di casualità, cioè di imprevedibilità, la macchina manifesta un comportamento unico analogo a quello umano.

  5. Raffaele scrive:

    Non lo deve. Lo è attualmente. Anche introducendo un elemento di casualità, questo sarebbe “artificiale”. Un po come le immagini digitali che simulano i volti reali aggiungendo dettali e difetti alla pelle. Per quanto ben fatti si vede (ancora) quali sono i volti veri e quali quelli digitali. Un giorno non sarà più cosi, certo. E continuo a sperare di non dover far parte della generazione che dovrà confrontarsi con questo problema, perchè sarà veramente dura.

  6. admin scrive:

    @Raffaele:
    Io non so se accadrà. Ma, se accadrà e io sarò coinvolto, la prenderò come una sfida.

  7. Felice scrive:

    Quel che manca sempre alla macchina è il dolore, non solo e non tanto solo fisico, ma il dolore come struggimento, forse solo umano e non di altre specie. E non la simulazione del dolore che esce da un pensiero, ma il sentimento profondo della memoria, della propria famiglia, di sè stessi come individuo e come auto-commiserazione, del proprio popolo, e i sentimenti di perdita che possono nascere.
    Qualcosa di simile a quel che Hal 9000 voleva già esprimere in un film-capolavoro

  8. admin scrive:

    @Felice:
    Come fai a dire che alla macchina manca il dolore, lo struggimento? Se c’è la manifestazione esteriore del dolore, allora devi concludere che c’è il dolore.
    Per il dolore, l’amore e qualsiasi altra emozione vale quanto detto per il pensiero: le sole emozioni che puoi sperimentare sono le tue, quelle degli altri le deduci solo dalle manifestazioni esteriori. Perciò, se c’è la manifestazione, allora devi concludere che c’è anche l’emozione.

  9. Angelo scrive:

    Mia mamma che ha qualcosa di simile all’alzheimer non lo passerebbe il test. Non per questo mi sembra meno umana.

  10. admin scrive:

    @Angelo:
    Migliore esempio non potrebbe esser fatto.
    Come si può negare l’umanità a qualcosa/qualcuno che supera il test e poi concederla a qualcosa/qualcuno che non lo supera?

  11. Claudio scrive:

    L’esempio non è affatoo calzante, nè pertinente..
    Il test di Turing afferma che un computer che riesce a farsi scambiare per un essere umano è un essere pensante come un umano.
    Se il soggetto viene identificato, erroneamente, come un computer, ovviamente, non significa che sia una macchina.

    Inoltre è opinabile che un soggetto con disabilità psicologiche o cognitive possa essere scambiato con un computer. Una mia zia soffriva di demenza senile e dimenticava nomi, eventi sociali importanti ed era convinta di essere ancora impiegata al mulino come quando era giovane.
    Tutti elementi che la rendevano tragicamente umana e che un computer farebbe molta fatica a simulare.

  12. Devis scrive:

    Lancio la sfida. Provate a smontare questa:
    https://www.academia.edu/6783625

    Devis

  13. Giorgio scrive:

    “Ciascuno di noi è solo, di una solitudine infinita e ineluttabile.”
    In realtà, ciascuno di noi è uno, nessuno e centomila. L’altra sera ho scritto un articolo che cominciava con “Ok, Ok: la storia del tredicenne ucraino è una pagliacciata.” intitolato “Turing: un test molto filosofico…” quando ho letto un articolo con lo stesso titolo che cominciava con le stesse parole e che, per Giove, continuava fino alla fine con le mie stesse parole. Dapprima ho pensato ad una estremamente improbabile coincidenza, qualcosa di simile alle scimmie che battendo a caso sui tasti… Sai come continua. Poi, meditando più a fondo, mi sono chiesto se per caso l’ “altro” scrittore non fosse solo una altra estrinsecazione del mio io. Ho sospeso il giudizio, ma la faccenda si è fatta spessa: ripensando al mio (o “suo”) scritto ho concepito varie osservazioni. Una cominciava così “Non ce la faccio a non segnalare questo:”; un’altra così: “Mutatis mutandis si tratta dello stesso dilemma che più volte” (a questa “mi” sono sono risposto “Non avrei saputo dirlo meglio di te.”); un’altra ancora così: “Un punto chiave secondo me”. E altro ancora. Il peggio è arrivato alla fine (in cauda venenum) con un commento che cominciava così:
    ” “Ciascuno di noi è solo, di una solitudine infinita e ineluttabile.”
    In realtà, ciascuno di noi è uno, nessuno e centomila.. L’altra sera…”

    Quando interagisco con un “altro” come faccio a sapere con certezza che l’ “altro” esista? Ciò che posso sapere con certezza è solo che la mia mente ha costruito qualcuno che interagisce con “me”. Però la “mia” mente è brillante: ha costruito prima un certo signor Turing, poi “gli” ha fatto inventare un test, poi si è messa a discutere su che cosa da qual test può ricavare e infine “ha scritto” un articolo doppio sulle sue meditazioni. Quando, anni or sono, ha costruito Burrhus Frederic Skinner e la sua “Skinner box” non aveva ancora immaginato dove sarebbe andata a parare.
    Adesso vado di là e “mi” butto su un supposto oggetto che “ha” chiamato letto.

    E che finiva con
    “Adesso vado di là e “mi” butto su un supposto oggetto che “ha” chiamato letto.”

  14. Marco Colombo scrive:

    Scusa, Marco, ma credo che ti citerò spesso:
    ” Fra una simulazione perfetta e la realtà non c’è alcuna differenza.
    Ciò che appare… è.”
    ma forse aggiungerò in fondo un punto di domanda…

    complimenti, bell’articolo

  15. admin scrive:

    Grazie, Marco. Apprezzo.

  16. Giskard scrive:

    Bell’articolo. Concordo pienamente sull’idea che il test sia piu` filosofico che tecnico ed infatti, l’annoso problema delle altre menti e` stato affrontato da moltissimi filosofi e scienziati cognitivi… Thomas Nagel, Daniel Dennett, Douglas Hofstadter, per non parlare della fantascienza fra cui il gia` citato Asimov, ed io aggiungerei anche Stanislaw Lem con Solaris (che ha l’enorme pregio di criticare la prassi da giudicare le altre menti restando ancorati ad una posizione antropocentrica) ed alcuni racconti di Cyberiade, per non parlare di buona parte del filone cyberpunk, che nell’argomento IA ci sguazza spesso e volentieri.
    Molti racconti ed esperimenti mentali interessanti li avevo trovato nella raccolta L’io della mente, curata da Daniel Dennett e Douglas Hofstadter. Alcuni li avevo trascritti:
    https://tichy.github.io/blog/2013/10/29/dove-sono/
    https://tichy.github.io/blog/2014/01/29/lanima-dellanimale-modello-iii/
    https://tichy.github.io/blog/2014/05/27/i-guai-che-provoco-la-perfezione-di-trurl/

    Tempo fa scrissi anche un breve racconto sotto forma di articolo di giornale, che tratta, fra le altre cose, anche di questo. E` sul mio vecchio blog e prima o poi lo trasferiro` sul nuovo:
    https://neuroneproteso.wordpress.com/2013/06/17/robota-prima-parte/

    In questo si prende anche in esame l’idea, secondo me, ingenua, che l’intelligenza umana si distingua dalle altre perche` avrebbe una volonta`, cioe` non che funzioni in modo determinato e meccanicistico… in sostanza, possiederebbe il famoso “libero arbitrio”. Ma c’e` da chiedersi quanto si debba ancora sopravvalutare questo “libero arbitrio” dopo il famoso esperimento di Libet. Alcuni, come Dennett, hanno cercato di salvare la situazione, introducendo il concetto di “libero veto”, ma personalmente mi appare come una piccola arrampicata sugli specchi.

· · · ◊ ◊ ◊ · · ·

Commenta

*

Categorie
RSS... cioè? web analytics