Between Machinity and Humanity (Tra Macchinita' e Umanita')

Più che per la capacità di comprensione, di soluzione dei problemi, di empatia, caratteristiche proprie dell'intelligenza umana, le macchine dotate di IA sorprendono perché non si fermano mai. Il limite abita invece l'umano, che però sa affrontare "l'incomputabile" e, per questo, non potrà mai essere superato dall'intelligenza artificiale. Sono alcune delle riflessioni dell'ingegner Paolo Foglio, grande esperto di tecnologie IA, autore di un saggio da leggere per orientarsi dell'Infosfera, tra reale e digitale, dal titolo "Macchinità" (Töpffer edizioni, pagine 266, 21 euro).

 

"Se bene interpretata, la macchinità ci permette di riabilitare l’errore per quello che realmente è: una fonte di conoscenza (...) - spiega - Questa interpretazione ottimale della macchinità è quello che ho definito “humanforming” ovvero integrare Essere Umani e Macchine in processi efficienti e flessibili, cosa per nulla facile essendo le due cose antitetiche, ma dove sia ben chiaro dove finisce la prestazione macchinica e inizia la responsabilità umana, la decisione creativa, l’intuizione che aggiunge valore, la realizzazione di ciò che rende soddisfatto l’Essere Umano alla fine della giornata".

 

 

Il neologismo “macchinità”, parola chiave e titolo del suo saggio, non può non interpellare ciascuno di noi. Perché richiama “umanità”. Le due parole sono interconnesse, proprio come l’esperienza reale-digitale vissuta quotidianamente. Vorrei partire da qui, con alcune sue considerazioni introduttive.

 

 

Scienza e tecnologia obbediscono a una sorta di principio di Archimede, collocato a metà tra l’antropologia e la dimensione sociale: ogni nuova applicazione, dirompente o meno, modifica inevitabilmente il nostro modo di essere e, al tempo stesso, ne è trasformata.Un esempio elementare è l’automobile. Nata per rispondere a esigenze di mobilità e, diremmo oggi, per “democratizzare l’uso delle carrozze”, diventa rapidamente prima un segno distintivo, poi un oggetto di massa. Nel tempo lascia una traccia profonda che incide sulla cultura e sugli immaginari collettivi e, per effetto di ritorno, riplasma lo stile, la tecnologia e persino il significato stesso del veicolo. In questo processo viene trasformato ed evolve il concetto originario di “automobile”. Consideriamo poi che in antropologia, si distingue tra etico ed emico. Etico significa guardare alle cose valutandole secondo precisi principi aventi presunto valore universale. Invece, emico significa arrestare il giudizio e limitarsi a guardare fatti e relazioni. In pratica: di fronte ad una tribù di cannibali, un antropologo etico invoca l’esorcista per salvare ciò che resta di questi sub-umani, mentre un antropologo emico si limita a tirar fuori il bloc notes e a prendere appunti.

 

Senza saperlo, la maggior parte di noi nel contatto quotidiano con le macchine, reagisce come una sorta di “Archimede emico” e ho inventato la parola “macchinità” proprio per indicare tale reazione. E si tratta di una reazione trasversale nel tempo e nello spazio, indipendente dalla complessità e dalle prestazioni delle macchine o dalle reazioni umane. Per questo ha diritto ad una specifica etichetta semantica. Dal punto di vista antropologico, la macchinità, è un atteggiamento emico inconscio, è la disposizione interiore con cui l’essere umano si apre alla logica della macchina, se ne appropria e lascia che essa modifichi la propria identità umana, oppure, dal punto di vista filosofico, è il modo in cui l’uomo abita la macchina: non come strumento esterno, ma come estensione di sé, fino a sentirne i ritmi, le regole e le precisioni come naturali. In pratica: nessuno si preoccupa dell’etica di una macchina perché una macchina, anche quando è “intelligente” non ha etica (e per un bel pò di tempo non l’avrà!), ma in compenso, principio di Archimede alla mano, le macchine si infiltrano nel nostro modo di essere, sovente sino a diventare esse stesse una vera e propria ontologia come proprio l’intelligenza artificiale ha fatto da trenta o quarant’anni a questa parte (e ce ne siamo accorti solo adesso, eh!).

 

E non bisogna dimenticare che gli Esseri Umani da sempre, nel loro ritenersi superiori un pò a tutto, hanno nel loro animo un cruccio: trasferire vita, coscienza e intelligenza nella materia inerte. Riuscirci ci differenzierebbe davvero da tutto ciò che ci circonda, non importa da chi sia stato creato. E, anche se nessun ingegnere lo ammetterebbe apertamente, è ancora prima dei tempi del Golem e dei primi robot che ci stiamo provando e, diciamolo pure, negli ultimi tempi abbiamo drasticamente alzato la posta. Almeno quanto basta per poter parlare seriamente di unire il mondo delle Macchine con quello degli Esseri Umani. In sostanza, almeno a livello psicologico e sociale, la Macchina è oramai il membro di una tribù che interagisce quasi paritariamente con quella degli Esseri Umani.

 

 

L’intelligenza artificiale, come anche lei argomenta, non è sovrapponibile all’intelligenza umana. Che cosa, a suo giudizio, ci impressiona di più dell’AI? E in che cosa l’AI non potrà mai superare l’uomo?

 

 

Credo che ciò che ci impressiona davvero dell’intelligenza artificiale non è che “pensi”, ma che non si fermi mai. L’AI ci colpisce per la sua prestazione incessante: lavora senza stanchezza, senza dubbio, senza esitazione. Non perché sia intelligente nel senso umano, ma perché è perfettamente funzionale. È una potenza operativa priva di attrito e proprio per questo ci seduce. Ci dà l’impressione di sapere tutto, di conoscerci, di conoscere cose del nostro mondo o dei nostri impianti che noi stessi ignoriamo. Ci ascolta e ci consiglia. Sempre e comunque. Alle volte male e, a pensarci bene, questo la rende umana. E in questa che è una dimostrazione di forza di pura “macchinità”, noi Esseri Umani tendiamo a dimenticare dinanzi a cosa in realtà ci troviamo: una lavatrice chiamata computer che parte da “problema” e arriva per passi successivi a “soluzione”, esattamente come una lavatrice parte da “panni sporchi” e sempre per passi successivi detti, guarda caso, “programmi”, arriva a “panni puliti”. Quanto ho appena descritto non è una semplificazione bensì la pura realtà tecnica. E in questa descrizione si nasconde il perché una macchina costruita con l’approccio del “risolvere per passi successivi” non sarà mai in grado superare gli Esseri Umani. La tecnologia della lavatrice, pardon, dei computer, è ottima per quei problemi che sono detti “computabili” ovvero che possono essere risolti sempre e comunque grazie ad un idoneo algoritmo ovvero per quei problemi per i quali esiste una serie di passi che ci portano da “problema” a “soluzione”. Ma il nostro cervello è invece molto abile a risolvere a modo suo quelle situazioni dette “incomputabili” per i quali l’algoritmo che risolve tutto non esiste. E questa sua capacità unitamente alla prestazione della “coscienza” non abbiamo ancora la più pallida idea da dove salti fuori. A dir la verità qualche idea ce l’abbiamo e proprio a dicembre 2025 è uscito un articolo che indica che forse, a colpi di neurobiologia e meccanica quantistica, abbiamo trovato il bandolo della matassa. Ma, al momento, il gomitolo resta tutto da sbrogliare e l’IA, nella sua essenza, è nulla più di un’utile e potente macchina che sa ma non conosce e che è molto abile a scommettere e a prevedere. Mentre noi umani, alle volte come cialtroni, alle volte come leader, sappiamo predire. Anzi, in tal senso, ciò che l’AI non potrà mai superare negli Esseri Umani è esattamente ciò che oggi tendiamo a considerare un difetto: il limite. La coscienza nasce dal limite, il giudizio dall’incertezza, il senso dall’interruzione. L’essere umano pensa perché può fermarsi, perché può dire “non so”, perché può cambiare idea. Il vero pericolo, allora, non è che le macchine diventino troppo intelligenti. È che, per stare al loro passo, smettiamo di esercitare la nostra umanità, riducendo il pensiero a prestazione e il vivere a calcolo. E a quel punto non saranno le macchine ad averci superato: saremo noi ad esserci abbassati.

 

 

 

La macchinità ci sollecita, in definitiva, a riconsiderare la nostra umanità: a suo giudizio, come possiamo uscire rinforzati dal confronto con le macchine?

 

 

Possiamo uscire rinforzati dal confronto con le macchine solo a una condizione: smettendo di competere con loro sul loro terreno. Ogni volta che proviamo a essere più rapidi, più efficienti, più ottimizzati, stiamo già perdendo, perché stiamo assumendo la macchinità come misura dell’umano.

 

La macchinità, invece, può diventare uno specchio critico. Ci costringe a chiederci che cosa vale la pena automatizzare e che cosa, al contrario, va difeso come irriducibile. Ci obbliga a distinguere tra ciò che può essere delegato e ciò che deve restare una responsabilità umana: il giudizio, la scelta, l’assunzione del rischio, la capacità di dire “no”.

 

Se bene interpretata, la macchinità ci permette di riabilitare l’errore per quello che realmente è: una fonte di conoscenza. Che è un po’ quello che dimostra l’evoluzione delle specie che ci mostra come un grumo catramoso possa evolvere in strutture in grado di surclassare qualunque macchina, perlomeno nel “nostro” ambiente. Questa interpretazione ottimale della macchinità è quello che ho definito “humanforming” ovvero integrare Essere Umani e Macchine in processi efficienti e flessibili, cosa per nulla facile essendo le due cose antitetiche, ma dove sia ben chiaro dove finisce la prestazione macchinica e inizia la responsabilità umana, la decisione creativa, l’intuizione che aggiunge valore, la realizzazione di ciò che rende soddisfatto l’Essere Umano alla fine della giornata.

 

Lo “humanforming” abilita il tempo lento, l’errore fecondo, l’ambiguità come spazio di senso. Significa accettare che non tutto ciò che è possibile sia desiderabile, e che l’efficienza non sia un criterio sufficiente per decidere come vivere. Nel caso specifico della macchina AI, il concetto di humanforming è ben rappresentato da questa relazione:

 

(Essere Umano + AI) > (Essere Umano) + (AI)

 

Se le macchine ci superano nella prestazione, l’uomo può superarle solo nel significato. Ma questo non accade automaticamente. È una pratica, non una garanzia. La vera sfida non è costruire macchine più umane, ma esseri umani che non abbiano paura di restare tali.

 

 

 

Le macchine non sbagliano. In realtà, i LLMs fanno discutere, e creano allerta, per le informazioni errate, i clamorosi fake, e altri scivoloni. Come si spiega, a suo giudizio? È il muro della semantica, invalicabile dalle macchine, nonostante machine e deep learning richiedano una base di comprensione semantica?

 

 

L’idea che “le macchine non sbagliano” è sostanzialmente infondata. E’ un po' come chiedersi: “quanto veloce corre un piatto di spaghetti?”. Una macchina fa niente altro che concentrare una certa dose di sapere in una precisa serie di azioni ripetibili a piacere. Se questa cosa ha un senso o un'utilità dipende esclusivamente dal contesto al contorno. Al più possiamo parlare di correttezza in senso tecnico, non certo in senso epistemico. Di fatto, le macchine non sbagliano perché non possono sbagliare: non hanno un rapporto con la verità, ma solo con la correttezza formale.

 

Quando applichiamo queste considerazioni all’IA, dovremmo considerare che pochi acronimi sono stati scelti malamente come quello di “intelligenza artificiale”. IA in realtà significa “intelligenza assente” oppure, al più, “interfaccia aumentata”. E se sposiamo questa correzione, tanti problemi spariscono. E si tratta di una correzione drammaticamente esatta. Tutti sappiamo che un sistema di intelligenza artificiale è fisicamente costituito da due parti: un computer e un programma. Del computer ne abbiamo parlato poca fa: tecnologicamente parlando, qualunque computer possiede i geni tecnici di quanto è stato concepito alla fine degli anni Quaranta. In pratica, è una lavatrice. Complessa, complicata, stupefacente…ma sempre lavatrice è. Per quanto riguarda i programmi, prendiamo in esame proprio gli LLM. In linea di massima, un LLM si basa su una rete neurale che, stimolata dal nostro prompt, restituisce una “idonea” risposta. Molti sanno che per fornire tale risposta, gli LLM si basano su calcoli statistici. Alcuni sanno che tali calcoli statistici sono applicati ad una costruzione matematica del mondo che si chiama “modello” che LLM acquisisce grazie alla costosa operazione detta “addestramento”. Quasi nessuno però sa che i calcoli statistici che dal prompt portano alla risposta sono basati esattamente sulla stessa matematica che definisce, ad esempio, come si muoverà il pallone che un giocatore calcia dinanzi alla porta in occasione di una punizione. In pratica, per rispondere alle nostre domande, un LLM ci mette la stessa “intelligenza” che mette una palla che rotola giù da un pendio. Quindi, per piacere, non parliamo più di intelligenza artificiale bensì ricordiamoci sempre che IA sta per “intelligenza assente”.

 

Pertanto, quando un LLM produce un falso clamoroso, non sta mentendo e non sta errando: sta funzionando esattamente come è stato progettato. Questo spiega perché i modelli linguistici possono generare testi semanticamente plausibili ma fattualmente infondati.

 

Non c’è un “muro della semantica” nel senso di un limite computazionale da aggirare con più dati o più potenza. C’è piuttosto un equivoco di fondo: confondiamo la coerenza semantica con la comprensione. I sistemi di machine e deep learning operano su strutture semantiche, ma non abitano il significato. Manipolano relazioni tra segni, non il loro senso ed effettuano le stesse scelte dinamiche (ed intelligenti!) di una palla che rotola!

 

Invece, la semantica, per l’umano, nasce dall’esperienza, dall’intenzionalità, dall’esposizione al mondo e alle sue resistenze. Per le macchine, la semantica non esiste. Esiste solo una geometria statistica sulla quale rotolano i prompt. L’intelligenza assente è potente, sofisticata, sorprendente, ma resta disancorata da qualsiasi criterio di verità vissuta. Il problema, dunque, non è che le macchine “sbaglino”, ma che noi tendiamo ad attribuire loro un’autorità epistemica che non possiedono. Finché tratteremo la fluidità linguistica come prova di comprensione, continueremo a stupirci dei loro errori. Il vero errore, però, non è della macchina: è umano. È scambiare una mappa ben disegnata per il territorio. Ovvero, cadere nella trappola dell’epistemia

 

 

 

Tra agire umano e agentic AI, che scarto c’è? In che cosa misuriamo la differenza tra i due ambiti decisionali?

 

 

Lo scarto tra l’agire umano e l’AI agentica non è una differenza di grado, ma di statuto. Entrambi “decidono”, ma non nello stesso senso. L’AI agentica opera all’interno di uno spazio di possibilità definito a priori: ottimizza scelte, coordina azioni, raggiunge obiettivi dati. Semplificando, possiamo dire che se una macchina classica ha solo un modo per poter raggiungere l’obiettivo desiderato dal suo costruttore o dal suo utente, un’AI agentica ha disponibili a priori modalità, vie e processi diversi tra i quali scegliere e che può applicare con intensità e modi diversi a seconda di cosa suggerisce la sua “esperienza statistica”. L’essere umano, invece, può mettere in discussione il quadro stesso entro cui l’azione ha luogo. Cambiare in corsa gli obiettivi oppure invalidare completamente un'azione che sino a ieri sembrava corretta. Dunque, la differenza si misura innanzitutto nella responsabilità. Un sistema agente può selezionare un’azione, ma non può risponderne. Non può assumere il peso delle conseguenze, né riconoscere il proprio errore come tale. L’agire umano è sempre esposto, perché implica un “io” che rischia, che si compromette, che può essere chiamato a rendere conto.

 

L’AI decide in base a criteri formali: obiettivi, ricompense, vincoli. L’uomo può decidere contro l’obiettivo, contro l’efficienza, persino contro se stesso. Può interrompere una catena causale, cambiare idea, disobbedire a una razionalità strumentale.

 

Infine, l’agire umano è situato e incarnato. Avviene in un mondo che resiste, che ferisce, che sorprende. L’AI agentica agisce in ambienti modellizzati, per quanto complessi. Non incontra mai davvero l’alterità. Lo scarto, dunque, non sta nella capacità di scegliere, ma nella possibilità di risignificare la scelta. Le macchine decidono all’interno di un mondo. L’uomo decide che mondo vale la pena abitare.

 

 

 

  Il suo libro suggerisce la possibilità di un avvicinamento tra antropologia, come approccio filosofico alla condizione umana, e macchinità, come studio delle prerogative delle macchine digitali. Nel concreto, che travaso concettuale è possibile? In termini ontologici, ma anche come indirizzi di ricerca…

 

 

L'avvicinamento tra antropologia e macchinità proposto nel mio libro è necessario per comprendere i mutamenti in atto. Il digitale ci ha portato alla soglia di cambiamenti epocali. Prima ha relegato l’economia convenzionale in un angolo sostituendola con quella, appunto, digitale dove produrre beni e servizi è cosa di secondo piano rispetto alla capacità di intercettare tempestivamente i bisogni degli utenti. Poi con l’utilizzo dell’IA, all’intercettare ha aggiunto il pilotare i bisogni degli utenti. Ora, pensare alle macchine falsamente intelligenti come semplici strumenti è pericolosamente ingenuo. Di fatto, l’IA non è solo più un’ontologia ma è diventata un vero e proprio orizzonte cognitivo: sempre più quello che pensiamo è legato a informazioni prodotte con l’utilizzo dell’IA. In altri termini, viviamo di informazioni che sono comunque frutto, alle volte avvelenato, prodotto da macchine addestrate a dirci cose che potremmo già sapere ma che non abbiamo la possibilità di recuperare ed utilizzare senza l’aiuto macchinico. In questo senso, parlare di IA come di “interfaccia aumentata”, significa rendersi conto che le immense quantità di dati che giacciono nelle infrastrutture informatiche e le immense capacità di elaborazione del cervello umano, sono profondamente limitate nei loro contatti dal fatto che la velocita di comunicazione degli Esseri Umani e fisicamente limitata a circa 40 bit/s mentre invece il nostro cervello così come le reti informatiche comunicano tranquillamente a svariati Gbit/s. Queste considerazioni aprono di fatto alla necessità, più che alla possibilità, di ibridare Esseri Umani e Macchine, ma indirizzano anche il travaso concettuale che ne deriva su più livelli, trasformando il modo in cui definiamo sia l'uomo sia lo strumento tecnologico. Il punto di contatto non è una sintesi pacifica, ma una zona di frizione. Le Macchine attuali stanno dimostrando quanta poca intelligenza esista in certe attività umane e, per contro, danno evidenza di quanto peculiari siano certe nostre caratteristiche. Non si tratta di umanizzare le macchine né di ridurre l’uomo a un sistema informazionale. Il travaso concettuale possibile è più sottile: usare le macchine come strumenti epistemici per comprendere meglio l’umano, e l’antropologia come argine critico contro una lettura ingenuamente funzionalista delle tecnologie.

 

Sul piano ontologico, la macchinità costringe l’antropologia a rivedere l’idea di soggetto come entità autonoma e autosufficiente. L’umano emerge sempre più come essere relazionale, tecnico, mediato. Allo stesso tempo, l’antropologia impedisce che la macchina venga pensata come soggetto pieno: le ricorda che operatività non equivale a esistenza, e che l’agire non coincide con l’essere. Nel concreto, questo dialogo apre almeno tre direzioni di ricerca. La prima riguarda l’incarnazione: studiare ciò che le macchine non hanno chiarisce che cosa significhi, per l’uomo, avere un corpo esposto, vulnerabile, situato. La seconda riguarda il senso: l’analisi della macchinità rende visibile la differenza tra produzione di significati e attribuzione di significato. La terza riguarda la responsabilità: interrogare i sistemi agenziali obbliga a ripensare l’etica non come insieme di regole, ma come pratica situata di assunzione delle conseguenze. Il travaso, dunque, non è una fusione ma un controcampo. Le macchine ci aiutano a delimitare l’umano proprio perché ne imitano alcune funzioni. E l’antropologia resta necessaria perché, in un mondo sempre più popolato da agenti artificiali, la domanda decisiva non è che cosa le macchine possono fare, ma che tipo di esseri umani stiamo diventando nel farle fare.»

 

 

 

Come ha iniziato ad occuparsi di macchinità? Dopo questo saggio, dagli spunti teorici suggestivi, a quali ricerche si sta dedicando?

 

Da lungo tempo mi occupo di innovazione tecnologica tanto di prodotto quanto di processo e delle relative strategie a supporto. Questo, in pratica, significa occuparsi, magari senza saperlo, proprio di macchinità. Infatti, non c’è forma di innovazione che non finisca per fare prima o poi i conti, inconsapevolmente o meno, con la macchinità proprio come definita in apertura a questa intervista. Ad un certo punto è stato naturale occuparsi di intelligenza artificiale e il resto, libro compreso, è venuto da sé. Al momento, ho in cantiere un testo che parla di meccanica quantistica e della base che sta fornendo per lo sviluppo di nuovi calcolatori, ma soprattutto dei legami che tale parte della fisica dimostra di avere con il fenomeno che attualmente chiamiamo “coscienza”.