I pericoli di una fiducia acritica nell'intelligenza artificiale: il problema è etico, non solo tecnico
 
Prima degli anni 2000, l'intelligenza artificiale non era un prodotto di consumo accessibile tramite un'app o un browser. Era una disciplina quasi esclusivamente teorica e sperimentale, confinata all'interno di laboratori, agenzie governative e grandi multinazionali. Oggi, questo isolamento è finito, ma l'integrazione dell'Ia nella nostra quotidianità ha portato con sé un effetto collaterale inaspettato: non è solo un progresso tecnico, ma una riconfigurazione strategica dei rapporti di forza sociali. Un problema che non viene osservato abbastanza è l'attribuzione alle macchine di uno 'statuto epistemico speciale', per cui esse vengono percepite come entità oggettive, neutrali e infallibili. Questa visione genera una 'asimmetria posizionale', in cui l'essere umano si trova in una posizione di subalternità conoscitiva: la verità prodotta dal calcolo 'scherma' i pregiudizi e le logiche di potere sottostanti, rendendo estremamente difficile e costoso contestare un risultato algoritmico. Gli algoritmi agiscono, dunque, come arbitri indiscutibili della vita quotidiana, influenzando settori che vanno dal diritto al commercio. La loro autorità è protetta da un'aura di imparzialità tecnica, che nasconde una natura profondamente politica, trasformandoli in strumenti discorsivi usati per legittimare decisioni sotto il velo dell'efficienza.
 
Le 'macchine' non sono sempre entità oggettive, neutrali e infallibili, ma possono sbagliare, come ha dimostrato lo scandalo delle poste britanniche, causato dall'algoritmo Horizon. Questo caso deve fare da monito sui pericoli della fiducia acritica negli algoritmi. In questo caso, l'accettazione dogmatica degli output di un software difettoso ha portato alla persecuzione legale di centinaia di dipendenti per ammanchi inesistenti. Da questo episodio si possono evidenziare tre criticità sistemiche: 1) i difetti tecnici erano noti ai produttori, ma ignorati in sede processuale; 2) l'individuo si è trovato a dover dimostrare l'errore di un sistema opaco e non visionabile, poiché modelli di Ia, soprattutto quelli connessionisti, sono 'non spiegabili'; 3) il sistema è stato utilizzato come un 'dittatore immortale' da cui era impossibile dissentire.
 
Per gestire il potere sociale degli algoritmi, la filosofia della scienza suggerisce di guardare dentro la loro 'scatola nera'. Occorre indagare la 'materialità degli algoritmi', ovvero come essi operano concretamente all'interno delle organizzazioni e delle routine decisionali. In tale contesto, la Xai (Ia spiegabile, ndr) emerge non solo come 'branca' tecnica, ma come una necessità etica per rendere i processi computazionali trasparenti e contestabili dai cittadini, dato che il problema della spiegabilità dei modelli di intelligenza artificiale è un problema etico, non solo tecnico. Una 'governance' tecnologica matura deve basarsi sulla trasparenza dei dati, sul 'pensiero critico' e sulla capacità delle istituzioni di ammettere l'errore tecnico.
 
Demistificare l'infallibilità delle 'macchine' non è una presa di posizione contro il progresso, ma un atto di difesa democratica. Delegare il potere decisionale a sistemi opachi significa, infatti, trasformare l'efficienza in uno 'scudo', per celare nuove forme di subalternità. Per questo la Xai non può limitarsi a essere una disciplina tecnica, ma deve affermarsi come un diritto civile fondamentale: il diritto alla spiegazione.
 
Una 'governance' tecnologica matura ha il dovere di capovolgere l'attuale asimmetria posizionale. Non spetta al singolo cittadino l'impossibile onere di dimostrare le falle di una 'scatola nera': sono le istituzioni e le aziende a dover giustificare, in modo trasparente, le proprie scelte algoritmiche. Solo esigendo trasparenza e normalizzando l'ammissione dell'errore tecnico eviteremo che gli algoritmi si consolidino come 'dittatori immortali', garantendo che l'intelligenza artificiale resti uno strumento di emancipazione e non un dispositivo di potere mascherato da oggettività matematica.