I misteri delle macchine che pensano al nostro posto

Sappiamo quando si verificherà la prossima eclissi solare, perché abbiamo capito i movimenti del Sole e dei pianeti. Sappiamo che il controllo delle zanzare è un buon modo per ridurre la malaria, perché abbiamo capito il rapporto tra il plasmodio – il parassita che la diffonde – e la malattia. In entrambi i casi sappiamo quello che sappiamo perché abbiamo un modello di come funziona il mondo. Oggi, tuttavia, la tecnologia informatica sta creando un tipo di modelli fine a se stessi: funzionano, ma non li possiamo capire. Questa rivoluzione sta distruggendo il nostro stesso modello di conoscenza.

I nuovi modelli sono generati dai computer utilizzati per l’apprendimento automatico. Gli esseri umani vi inseriscono dati precedentemente classificati e il computer li configura e li ordina in modo nuovo. Si inseriscono, per esempio, migliaia e migliaia di scansioni di lettere scritte a mano e grazie all’apprendimento automatico il computer si programmerà per riconoscerle e suddividerle.

I modelli che la macchina impara ad elaborare per sé possono anche classificare gli oggetti usando tecniche diverse da quelle che noi usiamo consapevolmente. Potremmo, per esempio, definire una «n» come due linee verticali collegate da una linea diagonale. Ma il modello della «n» elaborato dal computer è stato creato esaminando migliaia di matrici di pixel, convertendoli in numeri con diverse varianti. Se a un essere umano dovessero essere sottoposte quelle migliaia di stringhe di numeri, probabilmente sarebbe in grado di riconoscerle come «n» solo inserendole in un computer.

La questione diventa ancora più complicata con il «deep learning». Questa tecnologia è in grado di gestire situazioni molto più complicate del riconoscimento della lettera «n». AlphaGo di Google batte regolarmente i campioni del gioco del Go. Gli è possibile perché, dopo avere analizzato decine di milioni di mosse, ha costruito una rete enormemente complessa di possibilità ponderate. Se voleste sapere perché AlphaGo ha fatto una certa mossa, la risposta equivarrebbe alla capacità di un giocatore umano di elencare lo stato e le connessioni di tutti i 100 miliardi di neuroni della sua mente: non riuscireste a tenere a mente tutti i dati o dare loro un senso.

Il «deep learning» può essere utilizzato in molti campi, perché tiene conto di molteplici fattori e produce risultati che rendono più prevedibili settori tradizionalmente complessi, come i cambiamenti climatici e la fisica delle particelle. Questi sistemi ci stanno fornendo nuove conoscenze, ma senza che riusciamo a comprendere i modelli che a quella conoscenza danno origine.

La situazione sfida la nostra comprensione della conoscenza stessa e la nostra collocazione nell’Universo. Da tempo ci affidiamo a tecnologie che ci aiutano a conoscere il mondo, ma in passato eravamo capaci di interagire con queste, esaminarne il funzionamento e indagarne i risultati. Se usavamo un regolo, conoscevamo i principi matematici a monte e potevamo controllarne i dati per assicurarci che fossero precisi. Se utilizzavamo un foglio di calcolo, potevamo – avendone le competenze – verificare il programma. Con il «deep learning», invece, in alcuni casi non possiamo nemmeno indagare come si sia arrivati a specifici risultati. Il processo ha implicazioni pratiche ed etiche che stiamo solo cominciando a valutare.

In secondo luogo, in Occidente siamo convinti di poter pensare con la nostra testa. Usiamo strumenti, ma diamo per scontato di averli forgiati grazie al nostro pensiero e alle nostre conoscenze. Ora, invece, diventa più difficile che mai ritenere che la conoscenza sia un’attività puramente mentale. Con il «deep learning» la giustificazione di ciò che sappiamo – che è parte integrante della conoscenza stessa – è insita nella macchina che ha sviluppato la conoscenza. Ciò che utilizziamo per apprendere non si limita più a fornire alla nostra mente i dati, ma elabora modelli e giunge a determinate conclusioni per ragioni che non riusciamo a decifrare. Non possiamo più fingere che il processo di apprendimento sia qualcosa che accade nelle nostre teste. È invece qualcosa che realizziamo nella realtà con determinate apparecchiature. È sempre stato così, ma le nostre speculazioni metafisiche ci avevano impedito di riconoscerlo.

In terzo luogo, il «deep learning» rende evidente il sacrificio che abbiamo compiuto per conoscere il mondo. Abbiamo dovuto semplificare i nostri modelli, fino a renderli comprensibili e applicabili. Abbiamo dovuto limitare il numero di variabili e di fattori da prendere in considerazione, perché ci mancava l’attrezzatura per gestirne un numero maggiore. Abbiamo dovuto cercare la costanza, perché non eravamo in grado di gestire l’incostanza e la variabilità di ciò che vogliamo spiegare. Ma il mondo è molto più complesso di quanto il nostro cervello e i nostri strumenti siano in grado di gestire. Ora il successo dei modelli di apprendimento automatico ci permette di riconoscerlo.

In quarto luogo, ci rendiamo conto che il mondo non assomiglia molto ai modelli che abbiamo concepito. Da quando è emerso il concetto di conoscenza abbiamo dato per scontato che la realtà fosse conoscibile e che la mente fosse la sola a poterla esplorare. Ora questa coincidenza sembra svanire La nostra conoscenza diventa più di uno strumento e sempre meno una rappresentazione. I filosofi pragmatisti ci appaiono ora nel giusto. Ecco perché sono così profondi e complessi gli interrogativi su quanto siamo disposti a fare affidamento sull’Intelligenza Artificiale.

(David Weinberger, Harward University, via lastampa.it cc-by-nc-nd)


Illustr.: geralt CC0

Leave a Reply

You can use these HTML tags

<a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>

  

  

  

 SKG Auto & Tir Services s.r.o.

Vai al sito

novembre: 2017
L M M G V S D
« Ott    
 12345
6789101112
13141516171819
20212223242526
27282930  

ARCHIVIO

Dal diario di una piccola comunista

pubblicità google