Interviste

Tagliagambe: “Cosa ci nasconde l’Intelligenza Artificiale, questo è il problema”

Cristiano Sanna MartiniSettembre 17, 2024

Dialogo con l’epistemologo, filosofo della scienza e intellettuale sulle ultime frontiere del machine learning. E i loro aspetti critici

Silvano Tagliagambe, quando si parla di Intelligenza Artificiale le date e gli eventi si succedono in modo frenetico e si rischia di perdere lucidità e memoria di quel che accade. Da dove ripartire?
“Dal saggio di Chris Anderson su Wired, che ormai 20 anni fa avvertiva che con la nascita dei big data con cui ancora oggi si istruiscono le macchine, teorie e modelli vanno in soffitta. Ciò di cui ci avvisava Anderson è che, potendo estrarre informazioni significative e correlazioni efficaci da un gran numero di dati e nutrendo con esse il machine learning siamo di fronte alla quarta rivoluzione scientifica che segna l’allontanamento dalla scienza di Galileo e Newton, a favore di un approccio più vicino a quello di Bacone, quindi precedente in termini storici. Di cosa era fatto quell’approccio? Della tavola delle presenze, di quella delle assenze e della correlazione fra loro. A quel punto bastavano i dati statistici, non ci si preoccupava della solidità delle teorie o della verifica dei modelli su cui si lavorava. Secoli dopo siamo tornati a questo punto. Con un grosso problema, che ci riguarda per quanto l’AI sta entrando in tutti gli aspetti della nostra vita”.

Quale problema?
“Un problema doppio: primo aspetto, la mancanza di un autentico approccio scientifico al deep learning dato alle macchine. Si bada a fare, ad associare immagini e altri dati a numeri binari a cui assegnare un valore. Ciò vuol dire pensare di poter costruire una nuova rivoluzione scientifica estremamente potente sul dato empirico, un po’ come certi artigiani di un secolo fa inventarono la macchina a vapore o la spoletta volante badando a fare la cosa in sé. Ogni altro ragionamento di metodo, analisi, astrazione scientifica, critica, etica era inesistente o rimandato a una fase successiva. Poi c’è l’altro aspetto del problema: il modo opaco di costruire e potenziare l’Intelligenza Artificiale senza che nessuno possa davvero capire né controllare cosa accade fra l’input, l’output e i livelli intermedi di accrescimento della rete neurale della macchina. Non possiamo seguire in dettaglio tutti i passaggi, e quindi noi umani stiamo scegliendo di sospendere la possibilità di controllo e verifica di quello che la macchina fa al suo interno. Una parte di questo processo non ci viene mostrato mai, neanche al programmatore più esperto. Non è una questione da poco, direi”.

Ricapitoliamo: il versante più avanzato e ricco della ricerca, quello sull’AI generativa che ha prodotto ChatGPT e simili non si cura del metodo scientifico, e prosegue per correlazioni senza curarsi degli errori e delle distorsioni presenti nel risultato finale di quanto prodotto dalle macchine. Se è così, siamo ad una frattura epocale della comunità scientifica.
“E’ così. C’è una parte della comunità che lavora sull’AI che dice: se i risultati sono soddisfacenti e significativi, possiamo accontentarci di questo anche se non capiamo l’intero procedimento. Dall’altra, chi insiste che il compito della ricerca è trovare le ragioni, i valori positivi di certi esperimenti e procedure, ma anche analizzare e correggere quelli negativi. Tradotto in termini semplici: ad oggi l’Intelligenza Artificiale è una tecnologia. Non una scienza”.

Che però fa cose di grande efficienza e impara sempre meglio dalle informazioni che noi umani usiamo per potenziarla. La mancanza dell’approccio scientifico è così grave?
“Sì e provo a spiegare perché tornando alle teorie della probabilità di Laplace, che ha costruito il suo modello sul numero di volte in cui si verifica un fenomeno o si ottiene un dato risultato. Esempio: ho un dado a sei facce, assegno ad esse pari probabilità di uscire ad ogni tiro. Ma poi mi rendo conto che questa pari probabilità non c’è, è sconfitta dalla frequenza, quindi per esempio il numero di volte in cui il dado si è fermato mostrando la faccia con sopra il due nell’arco di mille tiri. Per molto tempo questo modello ha avuto fortuna, ma non aveva fatto i conti con la rottura della regolarità dei fenomeni presenti in Natura. Nel mondo in cui siamo, che ci attornia, le cose non accadono sempre nello stesso modo, e lo squilibrio del sistema che ci ospita fa moltiplicare gli imprevisti. Ne scrisse De Finetti nel 1934, in un saggio intitolato L’invenzione della verità e inviato a padre Gemelli per una pubblicazione destinata alla Chiesa, e da questa rifiutata perché l’irregolarità dei fenomeni e dei fatti faceva a pugni con il concetto di ordine divino e per certi versi di predestinazione. Quel saggio è stato pubblicato solo di recente ed è sconvolgente per quello che ci dice: se non teniamo conto delle variabili a primo sguardo meno prevedibili, se ci facciamo bastare il numero di volte in cui abbiamo ottenuto un risultato per associazione di dati, come accade con l’AI, entriamo in una zona di alto rischio. Pensiamo a chi si è messo a costruire in zone in cui prima scorreva l’acqua, fidandosi del fatto che in quel territorio fiumi e torrenti erano ormai asciutti da un secolo. Si è dato per scontato che le cose andassero avanti così, ma poi per variazioni climatiche innescate anche dall’opera dell’uomo, l’acqua è tornata a prendersi il suo corso, spazzando via tutto. Di fronte a questi fenomeni, la mancanza di un serio approccio scientifico è un grave errore”.

Stiamo parlando di rottura di un’armonia preesistente: con la crisi climatica, quella demografica, l’inquinamento e ora il rapporto uomo-macchina. Da dove si riparte?
“Proprio da quel che oggi si sta invece evitando di fare, per corsa alla praticità o presi dal mito della velocità. Ma chi guida? E con quali competenze? Chi decide quali materiali usare e quali escludere per istruire le macchine? E come gli algoritmi incoraggiano o scoraggiano certi modi di pensare e la molteplicità dei punti di vista? Sono questioni fondamentali e hanno bisogno di modelli, sempre più complessi e con l’osservatore umano al centro dell’esperienza, col suo grado di aspettativa. Ma se non siamo in grado di vedere cosa accade durante l’istruzione dell’Intelligenza Artificiale, come facciamo a capire a fondo il modo in cui cresce e si trasforma? A controllare il processo?”.

Abbiamo parlato di impatto sul clima e sull’ambiente. L’addestramento delle macchine lo ha, ed è enorme e critico, no?
“Questa è un’altra faccenda a cui troppo pochi pensano ma che ha un peso importantissimo nel valutare il percorso che stiamo facendo con l’AI. La mole di energia consumata e di inquinamento scaricato da server e computer nell’aria dovrebbe seriamente preoccuparci. Perché aggrava un quadro critico, con ricadute sociali, politiche ed economiche. Non a caso i padroni dell’Intelligenza Artificiale generativa e degli algoritmi sono mega miliardari, un’elite che si fa da sé le regole per propria comodità, e poi tende a imporle agli altri. E teniamo presente che stiamo parlando di questi aspetti mentre infuria il dibattito su dove mettere i parchi fotovoltaici e le pale eoliche in un territorio, trascurando del tutto l’inquinamento prodotto dall’AI. La domanda è: quanto ci sta costando questa tecnologia? E non parlo certo dei costi dell’abbonamento a ChatGPT o Midjourney”.

Per concludere, in alcuni convegni tu hai detto e ripetuto: “Quando si parla di innovazione e di diffusione del sapere, io sono gramsciano”. Cosa c’entra Gramsci con l’Intelligenza Artificiale?
“C’entra eccome e spiego in breve il perché. Ai suoi tempi Gramsci mosse la sua critica alla cosiddetta teoria della doppia verità. Cioè: nell’Umanesimo e nel Rinascimento il sapere era riservato a intelligenze percepite come particolarmente elevate, trattate alla stregua di maghi o stregoni, che questo sapere lo mettevano a disposizione dei signori disposti a pagare per esso. Poi c’era la verità destinata al popolo, limitata, in quelle nozioni che si riteneva il popolino potesse capire. Galileo rifiutò questa esclusione e lavorò a un metodo scientifico che poi fosse, per prodotto e divulgazione finale, alla portata di tutti. Nei suoi Quaderni dal carcere Gramsci rivaluta questo concetto di scienza e di cultura che non aveva paura di essere considerata bassa, nazionalpopolare, paritaria. Ma ora stiamo tornando alle elite ricchissime che si tengono strette tecnologie che neanche capiscono fino in fondo, e che però usano per esercitare il potere sul resto del mondo”.