HomeAtenei NordUniv. Politecnico di MilanoSistemi artificiali autonomi ed esseri umani, il rapporto studiato dal Politecnico di...

Sistemi artificiali autonomi ed esseri umani, il rapporto studiato dal Politecnico di Milano

Chi risponde delle azioni di un sistema artificiale autonomo, quanta autorevolezza attribuire ai suoi giudizi e cosa cambia quando agisce nel mondo fisico? Il dibattito pubblico e scientifico sull’intelligenza artificiale si sta concentrando sempre più sull’IA agentica (o Agentic AI), cioè quei sistemi in grado di perseguire obiettivi e decidere autonomamente quali azioni intraprendere per raggiungerli, senza richiedere un intervento umano a ogni passaggio. Dagli assistenti digitali che fanno acquisti online ai sistemi che gestiscono richieste dei clienti o coordinano attività lavorative, il rapido sviluppo di queste tecnologie apre nuove possibilità, sollevando al tempo stesso interrogativi etici e sociali sempre più urgenti. Con il sostegno della Fondazione Silvio Tronchetti Provera, il progetto interdipartimentale META — Social sciences and humanities for science and technology, del Politecnico di Milano, ha studiato le sfide che lo sviluppo e l’impiego dell’IA agentica pongono al rapporto tra esseri umani e sistemi artificiali.

Tra le principali questioni etiche sollevate dall’IA agentica c’è quella dell’attribuzione delle responsabilità, su cui si è concentrata la ricerca di Giacomo Zanotti. Si pensi, per esempio, a un assistente artificiale che, per rispettare un budget, decida autonomamente di cancellare un viaggio già programmato, senza che l’utente gli abbia espressamente richiesto di farlo. In questo caso, chi ne sarebbe responsabile? La ricerca ha messo in luce una tensione fondamentale: quanto più aumenta l’autonomia di questi sistemi, tanto più complesso diventa stabilire chi debba rispondere delle loro azioni.

L’IA agentica sta inoltre trasformando il modo in cui produciamo e valutiamo la conoscenza, stimolando nuove domande su cui si è concentrata la ricerca di Camilla Quaresmini. In ambito ospedaliero, per esempio, un sistema di IA potrebbe analizzare referti ed esami e suggerire una valutazione clinica, alla quale rischierebbe di essere attribuita maggiore autorevolezza rispetto alle osservazioni del medico o al racconto del paziente. La ricerca ha individuato tre diversi ruoli dell’IA nei processi di conoscenza, distinguendo tra sistemi che organizzano le informazioni, producono valutazioni o partecipano attivamente alle attività di ricerca. Ha inoltre evidenziato come il mantenimento del controllo umano non garantisca che alle valutazioni delle persone venga riconosciuta maggiore autorevolezza rispetto a quelle dei sistemi artificiali.

E infine, cosa cambia quando l’IA agentica non si limita a operare negli ambienti digitali, ma interagisce direttamente con il mondo fisico, comprese le nostre città? È questa la domanda al centro della ricerca di Fabio Iapaolo sulle auto a guida autonoma, uno degli esempi più emblematici della cosiddetta Physical Agentic AI. La ricerca ha messo in discussione l’idea che le decisioni siano riconducibili a un unico soggetto, umano o artificiale, mostrando come prendano invece forma attraverso le interazioni tra sensori, algoritmi, dispositivi di controllo e ambiente circostante. Questa prospettiva evidenzia la necessità di ampliare la riflessione etica sull’IA, considerando non soltanto le singole decisioni e le loro conseguenze immediate, ma anche le relazioni tecniche, materiali e sociali attraverso cui questi sistemi agiscono nel mondo.

«In un contesto in cui i sistemi di IA agentica trovano applicazione in ambiti sempre più diversi, dalla sanità alla mobilità, fino all’organizzazione del lavoro, le tre ricerche mostrano come la crescente autonomia dei sistemi artificiali sollevi questioni che vanno ben oltre l’automazione di compiti e decisioni» spiegano Zanotti, Quaresmini e Iapaolo. Dalla responsabilità per le azioni compiute da questi sistemi all’autorevolezza riconosciuta ai loro giudizi, fino al modo in cui le decisioni prendono forma nell’interazione tra tecnologie e ambiente fisico, il progetto di ricerca offre strumenti critici per comprendere le trasformazioni in atto e affrontarne le implicazioni etiche e sociali.

ARTICOLI CORRELATI

Ultime uscite