La vera sfida dell’AI non è tecnologica. È umana
Ripensare il modo in cui progettiamo prodotti digitali basati sull’intelligenza artificiale.
Un articolo di: Lina Vargas
Ogni anno, SXSW diventa un punto di incontro globale dove tecnologia, cultura e società si intrecciano per immaginare il futuro. In questo crocevia di discipline — dove convivono scienziati, designer, imprenditori e artisti — emerge una domanda sempre più urgente: che tipo di relazione vogliamo costruire con la tecnologia che stiamo creando?
In uno dei suoi interventi, la scienziata, imprenditrice e investitrice Rana Kaliouby lancia un avvertimento che risuona ben oltre il palco: “dobbiamo umanizzare la tecnologia prima che sia lei a disumanizzare noi.”
E questo non è un rischio lontano. Sta già accadendo.
Il problema non è l’AI, ma come la stiamo progettando.
Gran parte dei sistemi di intelligenza artificiale attuali è stata progettata secondo una logica chiara: efficienza, ottimizzazione, automazione.
Ma in questo processo, qualcosa è rimasto fuori.
La maggior parte di queste tecnologie non comprende le emozioni, il contesto né le sfumature umane. Elabora dati, predice comportamenti, automatizza le decisioni. E se da un lato questo le rende potenti, dall’altro le rende incomplete.
l risultato è un paradosso: più questi strumenti diventano avanzati, più è facile che generino esperienze fredde, decisioni opache e, in alcuni casi, profondamente disconnesse dalle persone che dovrebbero servire.
La svolta: non abbiamo bisogno di un’AI più intelligente, ma meglio progettata.
È qui che la conversazione prende una direzione interessante.
Ben Shneiderman, pioniere dell’interazione uomo-computer, propone di ripensare completamente il modo in cui intendiamo l’intelligenza artificiale.
Il suo approccio è tanto semplice quanto scomodo: l’obiettivo non è creare macchine più intelligenti. È creare esseri umani più capaci.
Questo implica abbandonare la narrativa dominante dell’AI come sostituto — qualcosa che automatizza, rimpiazza o decide al posto nostro — e iniziare a progettarla per ciò che dovrebbe davvero essere: uno strumento che amplifica le nostre capacità.
Ma questo cambiamento non è solo concettuale. È strutturale.
Il problema del “tutto automatico”
Nella pratica, molte delle soluzioni attuali stanno cadendo in un pattern pericoloso: maggiore è l’automazione, minore è il controllo umano.
- Sistemi che prendono decisioni senza spiegazioni
- Modelli che non possono essere auditati
- Esperienze in cui l’utente non capisce più cosa sta succedendo né perché
E se questo può sembrare efficiente nel breve periodo, nel lungo termine erode qualcosa di fondamentale: la fiducia e la capacità di giudizio dell’utente.
Il framework che cambia tutto
Per affrontare questo problema, Shneiderman propone il Two-Dimensional HCAI Framework, un modello applicabile a qualsiasi team che oggi progetti prodotti basati sull’AI.
L’idea è semplice ma potente: valutare ogni sistema su due dimensioni chiave:
Livello di automazione: quanto la macchina agisce in autonomia
Livello di controllo umano: quanto controllo, supervisione e capacità decisionale mantiene la persona che lo utilizza
L’aspetto interessante è che queste due dimensioni non sono opposte. Anzi, l’errore più comune è trattarle come tali.
Non si tratta di scegliere tra automazione e controllo. Si tratta di progettare sistemi che massimizzino entrambi.
Quando lo si applica nella pratica, il quadro è piuttosto chiaro:
Fig 8.2 libro Human centered AI, Prof. Ben Shneiderman.
- Sistemi con bassa automazione e basso controllo non apportano valore
- Sistemi con alta automazione ma basso controllo sono rischiosi
- Sistemi con alto controllo ma bassa automazione non scalano
- Sistemi con alta automazione e alto controllo: questo è il vero ideale della Human-centered AI
Cosa significa per chi sta costruendo oggi
Questo framework non è teoria. È uno strumento di progettazione.
Particolarmente rilevante per chi oggi sta sviluppando:
- Agenti intelligenti
- Copilots
- Sistemi di decisione automatizzata
Prodotti basati su AI generativa
Perché obbliga a porsi domande scomode, ma necessarie:
- L’utente capisce cosa sta facendo l’AI che proponiamo?
- Può intervenire o correggere le decisioni in base alla propria esperienza?
- Esistono tracciabilità e responsabilità per ciò che accade?
Se la risposta è “no”, non siamo di fronte all’innovazione. Siamo di fronte a un’automazione senza design.
Human-centered AI: più che empatia, è potere
È qui che le visioni di Rana e Shneiderman si incontrano.
Da un lato, Rana ci ricorda che l’AI deve integrare empatia, emozioni ed etica. Dall’altro, Shneiderman ci mostra come progettare sistemi in cui gli esseri umani mantengano controllo, agency e responsabilità.
Insieme, queste due prospettive ridefiniscono completamente il concetto di Human-centered AI. Non si tratta solo di rendere la tecnologia più “umana”. Si tratta di progettare sistemi in cui gli esseri umani continuino ad avere il controllo.
La vera domanda
La conversazione sull’intelligenza artificiale si concentra spesso sulle capacità:
Cosa può fare, quanto velocemente apprende, fino a dove può arrivare. Ma questa non è la domanda più importante.
La vera domanda è un’altra: che spazio stiamo lasciando all’essere umano nei sistemi che stiamo costruendo? Perché se non lo progettiamo intenzionalmente, quello spazio non scompare. Semplicemente verrà occupato da qualcun altro — o da qualcos’altro.