← Tutti gli articoli

Human in the loop: la governance dell’IA parte dalle persone

Di Gianmarco Virzì ·

Sempre più sviluppatori si ritrovano a delegare lo sviluppo del codice agli agenti IA. Ad aprile Google ha dichiarato che il 75% del suo nuovo codice è generato dall’IA, e poi rivisto dagli ingegneri. E Google a quanto pare non è la sola, visto che in un sondaggio di New Relic su 200 responsabili tecnici di aziende statunitensi, due su tre dicono che l’IA scrive o riscrive in buona parte tra il 51% e il 75% del codice prodotto ogni settimana.

Chi ha cominciato a scrivere codice da ben prima dell’avvento di questa nuova tecnologia si ritrova ad affrontare domande più che legittime, come: «è davvero giusto delegare la maggior parte del codice all’IA?», «quale sarebbe una pipeline consapevole per l’utilizzo dell’IA in contesti aziendali?», «come faccio a non perdere il controllo del mio codice?» e «questo è davvero sostenibile?»

L’IA è entrata nel lavoro di tutti i giorni di chi sviluppa software, spesso prima che l’azienda decida come usarla. Lo Stack Overflow Developer Survey 2026 (condotto da giugno ad agosto 2026 su circa 30.900 sviluppatori) lo racconta con due domande che, lette insieme, dicono molto e ci portano dritti al principio dello human in the loop.

Cosa dicono i dati

La prima domanda chiedeva quanto gli sviluppatori si fidino dei risultati degli strumenti IA nel loro lavoro. Il 48% ha risposto «I trust it when I can easily verify the output», cioè «mi fido quando posso verificare facilmente il risultato». Solo il 7% ha risposto «I trust it for many tasks, including important work decisions», «mi fido per molti compiti, comprese decisioni di lavoro importanti».

La seconda chiedeva come vengono usati gli strumenti IA nella propria organizzazione. La più scelta è stata «AI use is mostly optional and left up to individuals», «l’uso dell’IA è perlopiù facoltativo e lasciato al singolo», con quasi il 30%. «My organization provides approved AI tools and guidance for how to use them», «la mia organizzazione fornisce strumenti IA approvati e indicazioni su come usarli», ha raccolto il 24%.

Grafico a barre con tutte le risposte a due domande dello Stack Overflow Developer Survey 2026: il 48% si fida dell’IA quando può verificarne facilmente il risultato; in quasi il 30% delle organizzazioni l’uso dell’IA è perlopiù facoltativo e lasciato al singolo
Le risposte complete alle due domande dello Stack Overflow Developer Survey 2026.

La nostra lettura

Il primo dato, per noi (per quanto possa sembrare controintuitivo), è una buona notizia. La fiducia nell’IA è condizionata. Quasi metà degli sviluppatori la usa volentieri, ma vuole poter controllare cosa produce. Ed è giusto così. Un modello può sbagliare con grande sicurezza, e il ruolo dell’umano nella supervisione è fondamentale, da un punto di vista di sicurezza ed etico.

Il dato che ci preoccupa di più è il secondo. In quasi un’organizzazione su tre, secondo chi ci lavora, l’uso dell’IA è lasciato a ognuno. Lì nessuno decide quali strumenti si usano, quali dati ci finiscono dentro e chi controlla il risultato. Uno sviluppatore incolla codice in una chat, un altro la usa nell’IDE, un terzo da terminale, e qualcuno non la usa affatto. Ognuno fa come vuole, anche quando si tratta di codice coperto da copyright o da un accordo con un publisher o di dati dei giocatori (nel caso del gaming).

Più che la tecnologia, il nodo sono le policy, cioè chi decide e dove quelle regole vivono. L’intelligenza artificiale avanza velocemente ed è entrata «prepotentemente» nella vita di tutti i giorni. Se ne parla spesso solo come questione di regolamentazione legale, ma è una discussione che riguarda prima di tutto le aziende e il loro modo di lavorare, e forse tendiamo a ignorare un problema in cui siamo fin troppo coinvolti.

Human in the loop: l’IA propone, una persona decide

«Human in the loop», letteralmente «una persona dentro il ciclo», è il principio per cui in un processo che usa l’IA c’è sempre una persona che guarda il risultato prima che abbia effetto: lo approva, lo corregge o lo scarta. L’IA accelera il lavoro, l’umano dirige l’orchestra.

Quel 48% che si fida dell’IA quando può verificarne il risultato, in fondo, chiede proprio questo. Human in the loop trasforma quella verifica da abitudine personale a regola del processo, un passaggio previsto che non dipende più dalla voglia di controllare del singolo.

Human in the loop o human on the loop?

Le due espressioni si confondono spesso, ma descrivono due modi diversi di tenere una persona al comando. Una definizione chiara si trova in un rapporto di Human Rights Watch del 2012, nato nel dibattito sulle armi autonome, che spiega i tre livelli di coinvolgimento umano:

  • human in the loop: il sistema agisce solo su comando di una persona;
  • human on the loop: il sistema agisce da solo, sotto la supervisione di una persona che può annullare le sue azioni;
  • human out of the loop: il sistema agisce senza alcun intervento umano.
Schema dei tre livelli: human in the loop, dove una persona approva tra l’IA e l’azione; human on the loop, dove una persona supervisiona e può fermare l’azione; human out of the loop, dove la persona è assente
I tre livelli di coinvolgimento umano descritti da Human Rights Watch nel 2012.

In pratica, con una persona in the loop il controllo arriva prima dell’azione; con una persona on the loop arriva durante o dopo, e funziona solo se chi supervisiona può davvero fermare il sistema. Lo stesso rapporto avverte che, se la supervisione è troppo limitata, un sistema con una persona «on the loop» è di fatto un sistema senza persone.

La distinzione ha anche conseguenze pratiche. L’AI Act europeo, all’articolo 14, chiede che i sistemi di IA ad alto rischio siano progettati per essere sorvegliati in modo efficace da persone. Chi li sorveglia deve restare consapevole della tendenza a fidarsi troppo del risultato (la chiama «automation bias»), deve poter ignorare o ribaltare quel risultato e deve poter fermare il sistema. L’articolo riguarda i sistemi ad alto rischio, ma per noi il principio vale anche fuori da quel perimetro. L’automation bias, infatti, è qualcosa che gli sviluppatori si ritroveranno a riconoscere molto presto, e prenderne consapevolezza è fondamentale.

C’è un rischio da conoscere legato a questo bias. Una persona nel ciclo serve solo se controlla davvero. Se approva ogni proposta dell’IA senza leggerla, c’è, ma non controlla. Per questo una buona regola va oltre «c’è qualcuno che approva» e dice chi è, cosa controlla e in quali casi.

È il principio secondo cui progettiamo i nostri strumenti. In Gameheim l’IA integrata scrive bozze, spiega e risponde, ma non invia, non cancella e non approva mai niente da sola, nel concreto:

  • la descrizione di una changelist scritta dall’IA è una bozza, e a inviarla è sempre una persona;
  • le modifiche alle istruzioni e alla memoria condivise degli assistenti del team, cioè quello che l’IA impara sul progetto e salva per le volte successive, vengono proposte dall’assistente e approvate da una persona. Strumenti orientati all’IA devono rendere l’approvazione di istruzioni e memoria una scelta consapevole e non qualcosa che viene scritto autonomamente dall’IA e dimenticato;
  • la spiegazione di un crash è segnata come generata dall’IA e forse sbagliata, quindi va presa come una prima lettura da confermare nel debugger.
Schermata di Gameheim con la memoria di un progetto: una voce proposta da un assistente tramite Claude Code è nella sezione «Proposte da rivedere», in attesa dell’approvazione di una persona
Una modifica alla memoria proposta da un assistente e in attesa di approvazione, in un progetto di esempio su Gameheim.

Anche gli agenti dell’app per LLM in locale che stiamo per rilasciare chiedono conferma prima di agire.

Come la pensiamo in Virsion

Le regole devono stare dove si lavora. Una policy scritta in un documento che nessuno riapre non serve a molto. In Gameheim l’uso dell’IA integrata sui contenuti del progetto e il collegamento di assistenti esterni come Claude o ChatGPT sono spenti in tutti i ruoli predefiniti, finché qualcuno non decide di concederli. L’unica funzione IA che parte da sola, la spiegazione dei nuovi crash, si può spegnere per ogni progetto. Un assistente collegato vede solo i progetti scelti da chi lo collega e può fare solo quello che quella persona può fare. Le modifiche fatte tramite un assistente compaiono nel registro attività con il nome dell’app.

Dire cosa esce e cosa no. Quando l’IA di Gameheim spiega un crash di Unreal riceve i campi del report, come il tipo di crash e le prime righe del callstack, ma mai il minidump, il log del gioco o l’identificativo della macchina. E quello che un team manda all’IA integrata, insieme a quello che l’IA risponde, non viene mai usato per addestrare modelli, né nostri né di altri.

Essere onesti sui limiti. Nessuno strumento può impedire a una persona di incollare dati in un chatbot esterno. Gameheim governa l’IA che passa dai suoi strumenti, non quella che sta fuori. Per questo serve comunque una regola scritta e condivisa, e serve rendere comoda la strada approvata, perché quando la via giusta è anche la più facile meno persone la aggirano.

Una policy IA sta in una pagina

Una policy sull’IA può stare in poche righe, purché risponda a sei domande: quali strumenti, chi li usa, quali dati possono vedere, cosa può fare l’IA da sola, chi controlla il risultato, cosa resta registrato.

Le sei domande di una policy sull’IA: quali strumenti, chi li usa, quali dati possono vedere, cosa può fare l’IA da sola, chi controlla il risultato, cosa resta registrato
Le sei domande a cui una policy sull’IA deve rispondere.

Per i game studio abbiamo scritto una guida con un modello di una pagina da copiare e le impostazioni di Gameheim per ogni risposta: AI policy template for game studios.

Gli strumenti cambieranno ancora e diventeranno sempre più capaci. Se controlla solo chi ha voglia, il lavoro da fare non è sullo strumento: è sul processo che lo circonda e sulla formazione delle persone.