Introduzione
Gli ingegneri trattano i chip dell’Intelligenza Artificiale (IA) come black box (scatole nere). Il loro interesse non è nella conoscenza del percorso interno alla rete neurale che conduce alle uscite desiderate; ma nella capacità del chip addestrato di fornire certe risposte quando sollecitato da certi ingressi.
Tuttavia, gli stessi ingegneri sanno bene che l’addestramento è un processo profondamente non lineare, in cui è sufficiente un set di ingressi anche di poco diverso per generare risposte non previste e potenzialmente pericolose, come ampiamente noto con le sperimentazioni sui veicoli a guida autonoma.
L’approccio black box
Le black box furono teorizzate in modo esplicito nel 1956 dallo psichiatra britannico, divulgatore della cibernetica, W. Ross Ashby (1903 – 1972), con la pubblicazione “Introduzione alla cibernetica”. In sintesi, per Ashby una black box è un sistema la cui struttura interna è sconosciuta, ma il cui comportamento può essere indagato attraverso le sue relazioni ingresso-uscita.
L’approccio allo studio dei sistemi come black box è comunque molto più antico; la scoperta dell’agricoltura fu infatti possibile perché non ci si fermò davanti ai misteri della chimica del terreno; l’uomo di quei millenni prestò più attenzione agli effetti indotti da certe cause, che fermarsi davanti al perché.
Galileo e Newton
Agli albori della scienza moderna, Galileo pubblicò il “Dialogo sopra i due massimi sistemi del mondo” nel 1632 con l’obiettivo di spiegare e difendere il suo metodo nel rapporto tra teoria e pratica; affidò a Salviati il compito di chiarire a Simplicio che lo scienziato che “vuol riconoscere in concreto gli effetti dimostrati in astratto, bisogna che difalchi gli impedimenti della materia; che se ciò saprà fare, io vi assicuro che le cose si riscontreranno non meno aggiustamente che i computi aritmetici. Gli errori dunque non consistono né nell’astratto né nel concreto né nella geometria o nella fisica ma nel calcolatore [scienziato] che non sa fare i conti giusti.”
Nella verifica sperimentale, Galileo dava per scontata l’incertezza; nella sua prospettiva, la discrepanza tra risultati attesi e pratici era dovuta alla complessità del fenomeno, non integrata nel modello astratto; nel confrontare i risultati, lo scienziato doveva riconoscere il contributo degli aspetti ingestibili e trascurarli (“difalchi gli impedimenti”).
In pratica, Galileo trattava gli oggetti di studio come black box; d’altra parte si era avvicinato alla matematica attraverso l’insegnamento di Ostilio Ricci, discepolo di Nicolò Tartaglia, la cui scuola utilizzava la matematica con la mentalità dell’ingegnere; cioè riprendeva l’approccio di Archimede, secondo cui le verità non vengono dal modello matematico in sé, ma dalle sue verifiche sperimentali. Per Galileo l’obiettivo non è quindi la ricerca di verità universali, ma l’acquisizione di conoscenze utili a risolvere problemi.
Newton (1642 – 1727) spostò il centro dell’attenzione verso i modelli: la discrepanza tra risultati teorici e pratici costituiva un errore da eliminare; i modelli matematici, costruiti indagando i fenomeni interni ai sistemi, dovevano fornire spiegazioni degli effetti a partire dalle cause, in modo da rivelare verità universali e consentire di fare previsioni future (Determinismo). Con Newton non ci fu più spazio per l’errore; scomparve qualsiasi atteggiamento di umiltà nei confronti della complessità dei fenomeni; nessuna apertura all’approccio black box.
Ingegneria e Fisica
Nei secoli successivi, alcuni studiosi manifestarono un approccio prevalentemente galileiano, ingegneristico, accettando l’incertezza tipica dell’approccio black box. Tra questi, citiamo
- J. B. Fourier, che nel 1822 propose l’utilizzo delle serie trigonometriche per la formulazione di una teoria analitica della propagazione del calore, senza alcun approfondimento sulla natura del calore; teoria immediatamente respinta da Laplace e Lagrange, ma confermata un secolo più tardi;
- Georg Ohm, che nel 1827 propose la “legge di Ohm” senza alcuna conoscenza microscopica della conduzione elettrica nei metalli e, per questo, poco considerata dai fisici del suo tempo;
- H. Nyquist (1932), F. Bode (1940), che nello studio del funzionamento degli amplificatori elettronici retroazionati defalcarono gli impedimenti, cioè superarono la complessità, ricavando sperimentalmente il modello della risposta in frequenza dei sistemi.
Altri studiosi, molti fisici, manifestarono approcci più newtoniani, convinti della capacità umana di giungere a verità universali indagando gli intimi legami causa-effetto e formalizzando il tutto nei modelli matematici. All’approccio newtoniano appartenevano anche gli studiosi positivisti, i cui studi miravano all’esercizio del controllo e al fare previsioni.
Conclusione
Il termine black box fece la sua comparsa durante la seconda guerra mondiale negli ambienti militari anglo-americani. Strumentazioni sensibili come moduli elettronici sigillati, registratori di volo e dispositivi classificati furono chiamati black box, per indicare qualcosa per cui non si era autorizzati a sapere cosa c’era dentro; nel decennio successivo tuttavia il significato cambiò è divenne quello che abbiamo descritto fin qui e formalizzato poi da Ashby.
L’approccio black box è ormai sempre più praticato; nei limiti delle condizioni testate, i suoi modelli previsionali sono efficienti e affidabili. Il punto è che oggi, almeno nei momenti divulgativi dei produttori di chip addestrati, si tende ad attribuire ai suoi risultati lo stesso valore universale dell’approccio newtoniano, tacendo sui limiti intrinseci che già Galileo aveva visto. Di tali limiti sono invece ben consapevoli gli utenti dei servizi offerti dall’IA. Il web è pieno di articoli e commenti che esprimono perplessità sul tema. Ne proponiamo alcuni nei link che seguono.
https://www.ibm.com/it-it/think/topics/black-box-ai
https://www.ai4business.it/intelligenza-artificiale/explanaible-ai-comprendere-la-black-box/